OpenAI anunció una nueva característica que brinda protección adicional contra ataques de inyección rápida, donde las instrucciones maliciosas del chatbot se ocultan en páginas web u otras fuentes de contenido.
El modo de bloqueo desactiva, entre otras cosas, la navegación web en vivo (solo puede acceder al contenido almacenado en caché), la recuperación y visualización de imágenes de la web (aunque puede generar imágenes), la exploración profunda y el modo agente.
Según la compañía, incluso cuando el modo de bloqueo está activado, ChatGPT aún puede ser vulnerable a inyecciones rápidas, que, por ejemplo, pueden «aparecer en contenido web almacenado en caché o en archivos cargados y pueden afectar el comportamiento o la precisión de las respuestas».
Sin embargo, el objetivo es reducir la probabilidad de que se compartan datos confidenciales en el proceso.
«El modo de bloqueo no es para todos», dice OpenAI. «Está diseñado para personas y organizaciones que trabajan con datos confidenciales y requieren una protección más estricta contra los riesgos de violación de datos asociados con la inserción instantánea».
La compañía dice que ahora está implementando el modo de bloqueo para las cuentas de autoservicio ChatGPT Business y las cuentas personales elegibles.
Source link
