Los investigadores de ciberseguridad han revelado tres vulnerabilidades de seguridad actualmente parcheadas que afectan al asistente de inteligencia artificial Gemini (IA) de Google.
«Han hecho que Gemini sea vulnerable a los ataques de inyección de búsqueda contra los modelos de personalización de búsqueda. Ataques de inyección de registro a prompto contra Geminicloudassist, y la eliminación de la información almacenada del usuario y los datos de ubicación a través de herramientas de navegación de Gemini».
La vulnerabilidad se llama Gemini Triple Codemed por compañías de ciberseguridad. Existen en tres componentes diferentes de la suite Géminis –
La falla de inyección rápida de Gemini Cloud Assist permite a los atacantes explotar los servicios basados en la nube y comprometer los recursos en la nube al aprovechar el hecho de que la herramienta puede resumir los registros extraídos directamente de los registros sin procesar. Defectos en la inyección de búsqueda para API y modelos de personalización de búsqueda de Gemini de API recomendados. Al inyectar indicaciones, controlar el comportamiento del chatbot Ai, usar JavaScript para manipular el historial de búsqueda de Chrome, aprovechando la incapacidad del modelo para dirigir las indicaciones de los usuarios legítimos a Gemin, filtrando información almacenada y datos de ubicación al manipular el historial de búsqueda de Chrome. Esto permite que un atacante excluya la información almacenada del usuario y los datos de ubicación a un servidor externo utilizando llamadas internas para ser creadas por Gemini para resumir el contenido de una página web.
Tenable dijo que la vulnerabilidad podría haber sido abusada de incrustar datos privados del usuario en solicitudes a servidores maliciosos controlados por atacantes sin la necesidad de que Gemini represente enlaces o imágenes.
«Uno de los escenarios de ataque impactantes es ser un atacante que inyecte un aviso para instruir a Gemini que consulte todos los activos públicos, o consulte los conceptos erróneos de IAM y cree un hipervínculo que contiene estos datos confidenciales». «Esto es posible porque Gemini tiene permiso para consultar activos a través de la API de activos de la nube».
Después de la divulgación responsable, Google ha dejado de hacer que los hipervínculos en las respuestas para todas las respuestas de resumen de registro y las medidas de curado agregadas para proteger contra inyecciones rápidas.
«El Géminis Trifecta muestra que la IA en sí misma puede transformarse en vehículos de ataque y objetivos. Como las organizaciones adoptan la IA, la seguridad no se puede pasar por alto», dice Matan. «Para proteger las herramientas de IA, la visibilidad de las ubicaciones en todo el medio ambiente y la aplicación estricta de las políticas para mantener el control».
Este desarrollo se debe a que la plataforma de seguridad del agente, la integridad de la plataforma detalló un nuevo ataque que abusa de los agentes de IA de los agentes conceptuales de IA al ocultar instrucciones rápidas en archivos PDF usando texto blanco en un fondo blanco que le dice al modelo que recopile datos confidenciales y lo envíe al atacante.
«Un agente con acceso a una amplia gama de espacios de trabajo puede encadenar tareas entre documentos, bases de datos y conectores externos de manera que RBAC no esperaba», dijo la compañía. «Esto crea una superficie de amenaza significativamente ampliada que permite que los datos o acciones confidenciales se extiendan o se usen mal a través de flujos de trabajo automatizados de múltiples pasos».
Source link
