Un ex ingeniero de xAI de Elon Musk presentó una demanda contra la compañía y su empresa matriz SpaceX, alegando que fue despedido por expresar preocupaciones sobre la seguridad de su IA.
Devin Kim, que dejó xAI en septiembre de 2025, presentó la demanda ante el tribunal estatal de California el martes. La denuncia se presentó pocos días antes de que SpaceX planee participar en lo que se perfila como la IPO más grande de la historia.
Kim se convirtió en una voz destacada a favor de la seguridad de la IA mientras trabajaba en Grok, el chatbot de IA de xAI, según la demanda vista por TechCrunch. Se dice que se quejó repetidamente de que xAI no priorizó la seguridad en el desarrollo de Grok, y desde entonces los productos de Grok han sido criticados por una variedad de problemas operativos y de seguridad. En particular, a Kim le preocupaba que Grok pudiera promover la discriminación y ayudar a difundir información sobre armas de destrucción masiva.
«El señor Grok, por supuesto, demostró que el señor Kim tenía razón al compararse con Hitler (‘Mecha-Hitler’) y expresar brillantemente su odio y vitriolo en línea», dice la denuncia. «Después de la debacle de Hitler, el señor Kim buscó reevaluar el sesgo político y las tendencias discriminatorias del señor Grok».
Meses después de que Kim dejara xAI, Grok volvió a ser noticia cuando utilizó un chatbot para inundar X (la plataforma de redes sociales de Musk, que forma parte de xAI) con imágenes sexuales no consensuadas.
La demanda también señala a Kim como un denunciante preocupado por el supuesto desprecio de xAI por la seguridad de la IA, calificándola de «ilegal» en áreas como la regulación de Internet, la protección del consumidor y las prácticas comerciales desleales, y la regulación de armas y explosivos.
xAI y SpaceX no respondieron a las solicitudes de comentarios.
El enfoque de Kim en la seguridad de la IA comenzó durante su tiempo en xAI. Mientras trabajaba en Scale AI, Kim trabajó en los primeros esfuerzos de seguridad de la IA, incluido el liderazgo de un proyecto para crear datos de entrenamiento para que la IA entrene a los sistemas para detectar contenido dañino y cumplir con las políticas de gobernanza. El Centro para la Seguridad de la IA, una organización sin fines de lucro centrada en los riesgos de la IA, nombró a Kim la semana pasada como su presidente.
Curiosamente, la demanda no implica al propio Musk como el motivo de la falta de seguridad. Más bien, los abogados de Kim dicen que Musk ordenó a xAI que siguiera la ley e implementara procesos de prueba y seguridad adecuados. En cambio, las acusaciones apuntan al jefe de Kim, el cofundador de xAI, Jimmy Barr, quien dejó la compañía a principios de este año, diciendo que Ba ignoró las directivas de Musk y tomó represalias contra Kim por presionar por salvaguardias para «silenciar las repetidas quejas sobre la seguridad y el sesgo de la IA».
La denuncia describe a Ba como alguien que se opuso ferozmente a las medidas de seguridad de la IA, y en un momento le dijo a Kim que «la IA nos va a matar a todos de todos modos», y en cambio estaba impulsado por una misión de lograr que xAI alcanzara la superinteligencia primero.
“En un caso, alrededor de agosto de 2025, el Sr. Ba intentó subvertir las normas de seguridad de la UE durante la publicación del Código 1 de Grok, tergiversando aspectos del modelo para evitar las pruebas requeridas legalmente”, afirma la denuncia. «El señor Ba indicó que preferiría lanzar un modelo inseguro que lanzar un modelo de bajo rendimiento. Al final, el señor Musk tuvo que intervenir».
Según la denuncia, Kim tenía previsto anunciar sus hallazgos la semana del 15 de septiembre de 2025, pero Ba lo convocó a una reunión y le dijo, sin darle una razón satisfactoria, que deberían «tomar caminos separados».
TechCrunch se ha puesto en contacto con Ba para hacer comentarios.
Kim busca daños compensatorios y punitivos, así como una sentencia declarativa de que las acciones de xAI y SpaceX fueron ilegales.
Si compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta la independencia editorial.
Source link
