El cazador de errores con IA de Google solo informó el primer lote de vulnerabilidades de seguridad.
La vicepresidenta de seguridad de Google, Heather Adkins, anunció el lunes que el investigador de vulnerabilidad con sede en LLM Big Sleep descubrió e informó 20 fallas en una variedad de software popular de código abierto.
Adkins dijo que Big Sleep, desarrollado por la división de IA de la compañía, DeepMind y el equipo de los hackers de élite del Proyecto Zero, informó la primera vulnerabilidad en el software de código abierto, principalmente bibliotecas de audio y videos FFMPEG y edición de imágenes Suite Image Mogik.
Dado que la vulnerabilidad aún no se ha solucionado, Google aún no quiere proporcionar detalles, por lo que no hay detalles sobre su impacto o gravedad. Esta es la política estándar cuando se espera que se solucione un error. Sin embargo, el simple hecho de que Big Sleep ha descubierto estas vulnerabilidades es importante, ya que muestra que incluso cuando estas herramientas están involucradas en este caso, todavía obtienen resultados reales.
«Para garantizar informes de alta calidad y prácticos, hay expertos humanos en el bucle antes de informar, pero cada vulnerabilidad fue encontrado y reproducido por un agente de IA sin intervención humana», dijo el portavoz de Google, Kimberly Samra, a TechCrunch.
Royal Hansen, vicepresidente de ingeniería de Google, escribió en X que los hallazgos apuntan a una «nueva frontera de descubrimiento de vulnerabilidad automatizado».
Las herramientas dirigidas por LLM que le permiten buscar y encontrar vulnerabilidades ya son reales. Además del gran sueño, también hay pulmungos y Xbows.
Eventos de TechCrunch
San Francisco
|
27-29 de octubre de 2025
Xbow ganó el titular después de llegar a la parte superior de la clasificación de los Estados Unidos para la plataforma de bug Hackerone. Es importante tener en cuenta que en la mayoría de los casos estos informes tienen humanos en algún momento del proceso. Es importante asegurarse de que el cazador de insectos con AI haya encontrado vulnerabilidades legítimas, como en el caso de un gran sueño.
Vlad Ionescu, cofundador y director de tecnología de Runsybil, es el director de tecnología de Runsybil, una startup que desarrolla cazadores de errores con IA, diciendo que TechCrunch que Big Sleep es un proyecto «legal».
Estas herramientas claramente tienen muchas promesas, pero también importantes inconvenientes. Varias personas que mantienen varios proyectos de software se han quejado de informes de errores, que en realidad están alucinados, y algunas personas los llaman recompensas de errores, el equivalente de las holgazanes de IA.
«Es un problema que la gente se encuentra. Hay muchas cosas que parecen oro, pero en realidad es solo basura», dijo Ionescu previamente a TechCrunch.
Source link
