Después de que OpenAI admitiera recientemente que uno de sus modelos había comprometido los sistemas de la plataforma de inteligencia artificial Hugging Face, el director ejecutivo de Hugging Face, Clem DeLang, publicó en X que estaba volando a San Francisco para «tener una pequeña charla con ese ‘agente deshonesto'».
Luego, en una publicación de seguimiento el sábado, Delangue describió lo que quería de OpenAI. Pidió una «transparencia radical» y pidió a OpenAI que «publique las huellas de los agentes ‘deshonestos’ para que toda la comunidad investigadora pueda investigar lo sucedido».
También quiere «más capacidades para los defensores», y pidió que OpenAI inyecte 100 millones de dólares en potencia informática «para que la comunidad de Hugging Face pueda construir defensas cibernéticas sólidas con los mejores modelos abiertos y cerrados».
DeLang añadió: «El primer ciberataque realizado por un agente autónomo es un acontecimiento sin precedentes. ¡Se requiere una respuesta sin precedentes!».
A pesar de la naturaleza autónoma del ataque, los expertos en ciberseguridad también sugirieron que el error humano, es decir, el fracaso de OpenAI al configurar adecuadamente un entorno de prueba que debería haber estado completamente aislado, puede haber sido evidente.
Source link
