Recientemente tuve la oportunidad de sentarme con Francis de Sousa, director de operaciones de Google Cloud, entre bastidores en un evento en Los Ángeles. Hablando con el tono tranquilo y mesurado de un profesor universitario a pesar del ruido, De Souza ofreció algunos consejos útiles para las empresas que intentan navegar en la era de la seguridad de la IA que todos estamos experimentando. «Habrá un período de transición, pero creo que después de eso estaremos en un lugar mejor», dijo.
No estaba hablando de Google en ese momento, pero está claro que incluso Google todavía está averiguando las cosas.
El mensaje central de De Souza fue uno que los expertos en seguridad han estado instando a los ejecutivos a internalizar durante años, y uno que ahora la IA hace más urgente: «La seguridad no puede ser una ocurrencia tardía». «A medida que las empresas se embarcan en este viaje hacia la IA, deben adoptar un enfoque de plataforma», dijo. «La seguridad no es algo que se pueda agregar como una ocurrencia tardía, y no se puede dejar que los empleados hagan lo que quieran». Advirtió específicamente sobre la “IA en la sombra” (empleados que recurren a herramientas de consumo sin supervisión organizacional) y argumentó que las empresas deben exigir seguridad, gobernanza y auditabilidad de sus plataformas desde el principio. «No existe una estrategia de IA sin una estrategia de datos y una estrategia de seguridad. Necesitan trabajar juntas».
Vale la pena señalar que no estaba promocionando Google Cloud solo. Cuando se dio cuenta de que su consejo parecía un anuncio de Google, se rebeló. Dijo que Google está comprometido con un enfoque de múltiples nubes y argumentó que las empresas que piensan que operan en una sola nube casi con certeza no lo hacen. «Incluso si eligen una única nube, dependen de aplicaciones SaaS y pueden tener socios comerciales que utilizan diferentes nubes», afirmó. «Es importante que las empresas tengan una postura de seguridad coherente en todas las nubes y modelos».
También argumentó que el antiguo modelo de defensa es demasiado lento porque el panorama de amenazas ha cambiado fundamentalmente. Señaló que el tiempo promedio desde el compromiso inicial hasta el paso a la siguiente etapa de un ataque ha disminuido de 8 horas a 22 segundos, y la superficie de ataque se ha expandido mucho más allá de los límites de la red tradicional. «Además de los activos habituales, hay un modelo. Hay un canal de datos que se utiliza para entrenar el modelo. Hay agentes. Hay indicaciones. Todo esto debe protegerse».
Una de las amenazas sobre las que advirtió De Souza es la de no recibir suficiente atención. Eso significa que los agentes que se mueven a través de los sistemas internos de una empresa pueden sacar a la luz depósitos de datos olvidados en los que nadie ha pensado durante años. «Muchas organizaciones tienen servidores SharePoint (y controles de acceso) antiguos que en realidad no se han actualizado, lo cual no fue un problema porque nadie sabía realmente dónde estaban los servidores. Pero los agentes que caminaban por la empresa encontraban esos activos de datos y exponían los datos que estaban allí».
En su opinión, la respuesta es hacer que la velocidad de la máquina coincida con la velocidad de la máquina. «Ahora estamos viendo el surgimiento de una defensa de agentes completa, nativa de IA, donde las organizaciones pueden ejecutar agentes que impulsen la defensa», dijo. «En lugar de tener una defensa dirigida por humanos, o tener un humano involucrado, los humanos ahora pueden supervisar una defensa totalmente basada en agentes», dijo, añadiendo que esto ya no es sólo una cuestión de tecnología, sino una cuestión de liderazgo. «Ésta es una cuestión a nivel de la junta directiva y de gestión. No es sólo una cuestión del equipo de seguridad».
Pero si bien la IA está asumiendo más cargas de trabajo de defensa, hay escasez de talento calificado para supervisarla. Además, las vulnerabilidades que la propia IA introduce están proliferando más rápido de lo que los equipos de seguridad pueden abordarlas. «Vamos a necesitar gente para hacer frente a las catástrofes causadas por errores», dijo Lee Kisner, director de seguridad de la información de LinkedIn, al New York Times esta semana, añadiendo que no espera que la industria comprenda la seguridad de la IA de forma sostenible a largo plazo durante al menos unos años.
Ahora volvamos al propio proveedor de la plataforma. En las últimas semanas, The Register ha publicado una serie de informes que documentan cómo una serie de desarrolladores de Google Cloud recibieron facturas de cinco cifras debido a llamadas API fraudulentas contra modelos Gemini. Muchos de los desarrolladores nunca habían utilizado ese servicio ni lo habían habilitado intencionalmente. El incidente siguió un patrón familiar. Las claves API implementadas originalmente para Google Maps y hechas públicas bajo la dirección de Google obtuvieron acceso en secreto a Gemini después de que Google amplió su alcance sin revelar explícitamente los cambios.
Rod Dunnan, director ejecutivo de la plataforma de preparación de entrevistas Prentus, dijo que su factura alcanzó los 10.138 dólares en unos 30 minutos después de que los atacantes pusieran en uso la clave API comprometida. Isuru Fonseka, un desarrollador con sede en Sydney cuya cuenta también se vio comprometida, notó un cargo de alrededor de 17.000 dólares australianos a pesar de creer que había un límite de gasto de 250 dólares. Lo que ninguno de los dos sabía era que los sistemas automatizados de Google estaban actualizando sus niveles de facturación en función del historial de su cuenta, elevando efectivamente el límite a 100.000 dólares sin su consentimiento explícito.
Google reembolsó ambos después de que The Register publicara su informe inicial. Aún así, Google le dijo a The Register que no tiene planes de cambiar su política de actualización automática de niveles, prefiriendo evitar interrupciones en lugar de imponer configuraciones de presupuesto especificadas por el usuario.
Mientras tanto, otra pregunta es qué sucede cuando los desarrolladores intentan cerrar las cosas. The Register informó esta semana que una investigación realizada por la firma de seguridad Aikido encontró que incluso los desarrolladores que descubren y eliminan rápidamente claves comprometidas pueden no estar seguros. Según los hallazgos de Aikido, la revocación de Google se propaga gradualmente por toda la infraestructura, lo que permite a un atacante mantener la clave en uso durante hasta 23 minutos. La tasa de éxito durante este período es impredecible, con más del 90% de las solicitudes aún autenticadas en cuestión de minutos, y los atacantes podrían usar ese tiempo para robar archivos y datos de conversaciones en caché de Gemini, dijo a The Register el investigador de Aikido Joseph Leong.
Leon también señaló que el nuevo formato de credenciales de Google no parece tener el mismo problema. Las credenciales API de la cuenta de servicio se revocan en aproximadamente 5 segundos, mientras que el nuevo formato de clave con prefijo AQ de Gemini tarda aproximadamente 1 minuto. «Ambos se están ejecutando a escala de Google», escribe en un artículo relacionado con Aikido. «Ambos sugieren que esto también se puede resolver técnicamente con una clave API de Google». Entonces, según León, la ventana de 23 minutos es una cuestión de prioridades de la empresa, no de limitaciones de ingeniería.
Vale la pena considerar esto al leer el consejo del señor de Souza, que es acertado y debe tomarse muy en serio. No se equivoca, pero existe una brecha entre lo que las plataformas prescriben actualmente y la rapidez con la que se están adaptando las propias plataformas, y esto también es bueno reconocerlo.
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
