Meta solucionó un error de seguridad que permitía a los usuarios de Meta AI Chatbot acceder y ver las indicaciones y respuestas privadas de otros usuarios generadas por AI.
Sandeep Hodkasia, fundador de la compañía de pruebas de seguridad AppSecure, le dijo a TechCrunch que solo Meta le pagó $ 10,000 en el dinero del premio de errores por la divulgación personal de un error que presentó el 26 de diciembre de 2024.
Meta desplegó la solución el 24 de enero de 2025, dijo Hodkasia, y no se encontró evidencia de que el error fuera explotado.
Hodkasia le dijo a TechCrunch que Meta AI ha identificado el error después de examinar cómo los usuarios registrados pueden editar indicaciones de IA para reproducir texto e imágenes. Descubrió que cuando un usuario edita el aviso, el servidor de backend de Meta asigna la solicitud y la respuesta generada a su IA a un número único. Al analizar el tráfico de red del navegador mientras edita las indicaciones de IA, Hodkasia descubre que puede cambiar sus números únicos, y el servidor de Meta devolverá completamente el mensaje de otra persona y la respuesta generada por IA.
El error significaba que el meta servidor no verificaba correctamente y solicitó un aviso y se aseguró de que la respuesta se permitiera verla. Hodkasia dijo que el número de indicaciones generados por los servidores de Meta es «fácil de adivinar», por lo que al cambiar la cantidad de indicaciones que cambian rápidamente utilizando herramientas automatizadas, los actores maliciosos ahora pueden raspar las indicaciones originales del usuario.
Cuando llegó TechCrunch, Meta solucionó el error en enero para confirmar que la compañía «recompensa a los investigadores porque no puede encontrar evidencia de abuso», dijo el portavoz de Meta Ryan Daniels a TechCrunch.
Bug News llega cuando el gigante tecnológico tiene prisa por lanzar y mejorar los productos de IA a pesar de los muchos riesgos de seguridad y privacidad asociados con el uso.
La aplicación independiente de Meta AI, que debutó a principios de este año para competir con aplicaciones rivales como ChatGPT, se lanzó en Rocky Start después de compartir erróneamente lo que algunos usuarios pensaron que era una conversación privada con un chatbot.
Source link
