Los líderes de Silicon Valley, incluido el zar de la IA y las criptomonedas de la Casa Blanca, David Sachs, y el director de estrategia de OpenAI, Jason Kwon, provocaron controversia en línea esta semana con comentarios sobre grupos que promueven la seguridad de la IA. En otros casos, argumentó que algunos defensores de la seguridad de la IA no son tan nobles como parecen y actúan en beneficio propio o de los intereses de titiriteros multimillonarios detrás de escena.
Los grupos de seguridad de IA que hablaron con TechCrunch dijeron que las acusaciones de Sachs y OpenAI son el último intento de Silicon Valley de intimidar a sus críticos, pero están lejos de ser los primeros. En 2024, algunas empresas de capital de riesgo difundieron rumores de que el proyecto de ley de seguridad de la IA de California, SB 1047, enviaría a prisión a los fundadores de nuevas empresas. La Brookings Institution clasificó este rumor como una de muchas «informaciones erróneas» sobre el proyecto de ley, pero el gobernador Gavin Newsom finalmente lo vetó de todos modos.
Independientemente de si Sachs y OpenAI pretendían intimidar a los críticos, sus acciones fueron suficientes para asustar a algunos defensores de la seguridad de la IA. Muchos líderes de organizaciones sin fines de lucro contactados por TechCrunch la semana pasada hablaron bajo condición de anonimato para proteger a sus grupos de represalias.
La controversia pone de relieve la creciente tensión en Silicon Valley entre construir IA de manera responsable y construirla como un producto de consumo a escala. Este es un tema que mis colegas Kirsten Kolosek, Anthony Ha y yo exploramos en el Equity Podcast de esta semana. También nos sumergimos en la nueva ley de seguridad de la IA aprobada en California para regular los chatbots y el enfoque de OpenAI hacia el erotismo en ChatGPT.
El martes, Sachs escribió una publicación en X alegando que Anthropic, que ha planteado preocupaciones sobre la capacidad de la IA para causar pérdidas de empleo, ataques cibernéticos y daños catastróficos a la sociedad, simplemente está provocando miedo para aprobar leyes que lo beneficien y ahoguen a las pequeñas empresas emergentes en la burocracia. Anthropic es el único instituto importante de IA que apoya el Proyecto de Ley 53 del Senado de California (SB 53), que estableció requisitos de informes de seguridad para las grandes empresas de IA y se convirtió en ley el mes pasado.
Sachs estaba respondiendo a un ensayo viral del cofundador de Anthropic, Jack Clark, sobre las preocupaciones sobre la IA. Clark presentó este ensayo como una charla en la Conferencia Curve AI Safety en Berkeley hace unas semanas. Sentado entre el público, ciertamente se sintió como la explicación pura de un ingeniero de sus reservas sobre su producto, pero Sachs no lo creía así.
Sachs dijo que Anthropic está implementando una «estrategia regulatoria sofisticada», pero vale la pena señalar que una estrategia verdaderamente sofisticada probablemente no requiera enemistarse con el gobierno federal. En una publicación de seguimiento sobre X, Sachs señaló que Anthropic se ha «posicionado constantemente como un enemigo de la administración Trump».
evento de crisis tecnológica
san francisco
|
27-29 de octubre de 2025
También esta semana, Jason Kwon, director de estrategia de OpenAI, explicó en una publicación en X por qué la compañía está citando a organizaciones sin fines de lucro de seguridad de IA como Encode, una organización sin fines de lucro que aboga por políticas responsables de IA. (Una citación es una orden legal que solicita documentos o testimonio). Kwon dijo que después de que Elon Musk demandó a OpenAI por preocupaciones de que el desarrollador de ChatGPT se había desviado de su misión sin fines de lucro, OpenAI empezó a sospechar de múltiples grupos que hablaban en contra de la reorganización. Encode presentó un escrito judicial en apoyo de la demanda de Musk y otras organizaciones sin fines de lucro también se pronunciaron públicamente en contra de la reorganización de OpenAI.
«Esto plantea dudas sobre la transparencia, incluido quién lo financia y si hubo alguna coordinación», dijo Kwon.
NBC News informó esta semana que OpenAI envió citaciones de amplio alcance a Encode y otros seis grupos sin fines de lucro que critican a la compañía, buscando comunicaciones relacionadas con dos de los mayores oponentes de OpenAI, Musk y el CEO de Meta, Mark Zuckerberg. OpenAI también contrató a Encode para comunicaciones relacionadas con el soporte de SB 53.
Un destacado líder de seguridad de la IA le dijo a TechCrunch que existe una creciente brecha entre el equipo gubernamental de OpenAI y su organización de investigación. Aunque los investigadores de seguridad de OpenAI publican con frecuencia informes que destacan los riesgos de los sistemas de IA, el brazo político de OpenAI presionó contra la SB 53, argumentando que preferiría crear reglas uniformes a nivel federal.
En una publicación en X esta semana, Joshua Achiam, jefe de alineación de misiones en OpenAI, habló sobre las citaciones de la compañía a organizaciones sin fines de lucro.
«Dados los riesgos potenciales para toda mi carrera, diría: esto no pinta muy bien», dijo Achiam.
Brendan Steinhauser, director ejecutivo de la organización sin fines de lucro Alliance for Secure AI (que no ha sido citada por OpenAI), dijo a TechCrunch que OpenAI parece estar convencido de que sus críticos son parte de una conspiración liderada por Musk. Sin embargo, sostiene que este no es el caso y que muchos en la comunidad de seguridad de la IA son muy críticos con las prácticas de seguridad de xAI, o la falta de ellas.
«Por parte de OpenAI, esto tiene como objetivo silenciar e intimidar a los críticos y disuadir a otras organizaciones sin fines de lucro de hacer lo mismo», dijo Steinhauser. «Creo que al señor Sachs le preocupa que el movimiento[de seguridad de la IA]esté creciendo y que la gente quiera responsabilizar a estas empresas».
Sriram Krishnan, asesor principal de políticas de IA de la Casa Blanca y ex socio general de A16Z, se hizo eco de esta conversación en sus propias publicaciones en las redes sociales esta semana, criticando a los defensores de la seguridad de la IA por considerarlos fuera de contacto. Instó a las organizaciones de seguridad de IA a hablar con «personas del mundo real que utilizan, venden e implementan IA en sus hogares y organizaciones».
Una encuesta reciente de Pew encontró que aproximadamente la mitad de los estadounidenses están más preocupados que entusiasmados con la IA, pero no está claro qué es exactamente lo que les preocupa. Otro estudio reciente examinó más de cerca y encontró que a los votantes estadounidenses les importan más las pérdidas de empleos y los deepfakes que los riesgos catastróficos que plantea la IA (que es el foco principal del movimiento de seguridad de la IA).
Abordar estos problemas de seguridad podría hacerse a expensas del rápido crecimiento de la industria de la IA, una compensación que preocupa a muchos en Silicon Valley. Las preocupaciones sobre una regulación excesiva son comprensibles, ya que la inversión en IA sustenta gran parte de la economía estadounidense.
Pero después de años de avances no regulados en la IA, el movimiento por la seguridad de la IA parece estar ganando un importante impulso de cara a 2026. Los intentos de Silicon Valley de luchar contra los grupos preocupados por la seguridad pueden ser una señal de que están surtiendo efecto.
Source link
