OpenAI ha comenzado a implementar un nuevo modo de bloqueo en ChatGPT para cuentas personales elegibles para reducir el riesgo de fuga de datos debido a ataques de inyección rápida.
Esta función está diseñada principalmente para personas y organizaciones que trabajan con datos confidenciales y requieren garantías de protección más estrictas. El modo de bloqueo está disponible para los usuarios que hayan iniciado sesión en los planes ChatGPT Business Free, Go, Plus, Pro y de autoservicio.
«El modo de bloqueo es una configuración de seguridad avanzada opcional que restringe muchas herramientas y funciones de los productos OpenAI que pueden conectarse a servicios web y servicios externos», dijo OpenAI.
«Esto está diseñado para reducir el riesgo de fuga de datos debido a ataques de inyección rápida al limitar las solicitudes de red salientes a cambio de deshabilitar o limitar algunas funciones útiles».
Esta protección tiene como objetivo endurecer la superficie de ataque contra una inyección rápida. La inyección rápida sigue siendo un problema «fronterizo» que afecta a todos los modelos de lenguaje a gran escala (LLM).
Específicamente, nos basamos en el sandboxing y los controles existentes para contrarrestar los mecanismos de exfiltración de datos basados en URL y limitar las solicitudes de red salientes que podrían enviar datos confidenciales a la infraestructura controlada por atacantes.
La idea no es impedir que se produzcan inyecciones inmediatas. Tampoco cambia el funcionamiento de la memoria o la carga de archivos, ni la capacidad de compartir conversaciones. Más bien, el objetivo es eliminar posibles vías a través de las cuales los datos podrían quedar expuestos. Para ello, las siguientes funciones están deshabilitadas en el modo de bloqueo:
Navegación web en vivo limitada al acceso solo al contenido almacenado en caché Soporte de imágenes para mostrar imágenes en respuestas normales o recuperar imágenes de la web Modo Agente de investigación profunda Red Canvas: evita que los usuarios autoricen el código generado por el lienzo para acceder a la red Descargas de archivos: bloquea la descarga de archivos para análisis de datos
OpenAI señaló que la función no es «para todos», diciendo que tanto el modo de bloqueo como el modo de desarrollador no se pueden usar al mismo tiempo, y agregó que activar uno desactiva el otro.
«Si bien el modo de bloqueo está diseñado para reducir significativamente el riesgo de filtración de datos basada en inyección instantánea en ChatGPT y productos OpenAI compatibles, no garantiza que no se produzca una filtración de datos», dijo la compañía. «Los riesgos pueden persistir debido a aplicaciones habilitadas, combinaciones inesperadas de funciones o tecnologías recientemente descubiertas».
«El modo de bloqueo tampoco puede prevenir todos los demás efectos de los ataques de inyección rápida. Por ejemplo, las instrucciones maliciosas ocultas en los archivos cargados aún pueden afectar el comportamiento de ChatGPT y provocar respuestas inexactas».
Este desarrollo se produce cuando OpenAI también lanzó una nueva función de administración de cuentas que permite a los usuarios revisar las sesiones activas de ChatGPT y cerrar sesión en sesiones individuales o en todas si se detectan signos de actividad no autorizada en la cuenta. Las sesiones enumeradas incluyen información sobre el dispositivo, las aplicaciones utilizadas, la ubicación aproximada, la fecha y hora de inicio de sesión, si el dispositivo es confiable y si es la sesión actual.
Source link
