Cuando Deepseek, Alibaba y otras compañías chinas publicaron modelos de IA, los investigadores occidentales rápidamente se dieron cuenta de que evitaban preguntas críticas al Partido Comunista Chino. Posteriormente, los funcionarios estadounidenses confirmaron que estas herramientas fueron diseñadas para reflejar los temas de Beijing y expresar preocupaciones sobre la censura y el sesgo.
Los líderes estadounidenses de IA como OpenAI han señalado que hay justificación para mover su tecnología rápidamente sin demasiada regulación o supervisión. Como el presidente ejecutivo de Operai, Chris Lehane, escribió en un puesto de LinkedIn el mes pasado, existe un concurso entre la «IA democrática dirigida por los Estados Unidos y la IA dictatorial dirigida por China dirigida por China».
Una orden ejecutiva firmada por el presidente Donald Trump el miércoles podría prohibir los modelos AI de los contratos gubernamentales que se «despiertan» e «ideológicamente neutrales».
Este comando llama a una ideología «amplia y disruptiva» que puede invocar la diversidad, la equidad y la inclusión (DEI) y «distorsionar la calidad y la precisión de la producción». Específicamente, el orden se refiere a la información sobre raza y género, manipulación de la expresión racial o sexual, teorías raciales críticas, transgénero, sesgo inconsciente, intersectividad y racismo sistemático.
Los expertos advierten a los desarrolladores que pueden estar bajo presión para alinear la producción y el conjunto de datos de sus modelos con la retórica de la Casa Blanca que pueden asegurar dólares federales para su negocio de quema de efectivo.
La orden se produce el mismo día en que la Casa Blanca lanzó el «Plan de acción de AI» de Trump. Esto se centra en alejar las prioridades nacionales de los riesgos sociales y, en cambio, construir infraestructura de IA, reducir los déficits para las empresas de alta tecnología, reforzar la seguridad nacional y la competencia con China.
La orden, junto con los gerentes federales de políticas de adquisiciones, los gerentes de servicios generales y los gerentes de políticas de ciencias y tecnología, dirigen a los directores de gestión y gestión de presupuestos para emitir orientación a otras agencias sobre cómo cumplir.
Eventos de TechCrunch
San Francisco
|
27-29 de octubre de 2025
«Nunca una vez, estamos despiertos», dijo Trump el miércoles en un evento de IA organizado por el foro de todo en el podcast y Hill & Valley. “Estoy firmando una orden que prohíbe al gobierno federal adquirir tecnologías de IA infundidas con sesgos partidistas y agendas ideológicas.
Determinar la equidad u objetivos es uno de los muchos desafíos para el pedido.
Philip Seargeant, profesor titular de lingüística aplicada en Open University, le dijo a TechCrunch que nada era objetivo.
«Una de las doctrinas fundamentales de la sociolingüística es que el lenguaje nunca es neutral», dijo Seargeant. «Entonces, la idea de que puedes obtener pura objetividad es la fantasía».
Además, la ideología de la administración Trump no refleja las creencias y valores de todos los estadounidenses. Trump ha tratado repetidamente de eliminar la financiación de las iniciativas climáticas, la educación, la transmisión pública, la investigación, las subvenciones de servicios sociales, los programas de apoyo comunitario y agrícola y la atención que afirma el género, y a menudo enmarca estas iniciativas como ejemplos de «despertar» o gastos gubernamentales políticamente parciales.
Rumman Chowdhury, científico de datos y CEO de la organización de inteligencia humana de la organización sin fines de lucro de Tech, y ex enviado científico nacional para AI, dijo: «Todo (la administración de Trump no lo es) se arroja rápidamente a esta tranquila montaña de despertar».
Las definiciones de «búsqueda de la verdad» y «neutralidad ideológica» en la orden publicada el miércoles son vagas de alguna manera y de otra manera específicos. «Buscar para la verdad» se define como LLM, que «prioriza la precisión histórica, la investigación científica y la objetividad», mientras que la «neutralidad ideológica» se define como LLM, que es una «herramienta neutral y no partidista que no respalda las doctrinas ideológicas como la dei».
Estas definiciones dejan espacio para una amplia interpretación y presión potencial. Las compañías de IA tienen menos restricciones sobre cómo funcionan. Y aunque las órdenes ejecutivas no llevan fuerzas legislativas, las compañías de IA fronteriza ahora se han quedado sujetas a prioridades cambiantes en la agenda política de la administración.
La semana pasada, Openai, Anthrope, Google y XAI celebraron contratos con el Departamento de Defensa, recibiendo hasta $ 200 millones cada uno, desarrollando un flujo de trabajo de AI del agente que aborda los desafíos críticos de seguridad nacional.
No está claro cuál de estas compañías está en la mejor posición para obtener de una prohibición de IA despertada o si lo seguirán.
TechCrunch se ha comunicado con cada uno de ellos y actualizará este artículo si reciben una respuesta.
A pesar de mostrar su propio sesgo, Xai puede estar más en línea con el orden, al menos en esta etapa temprana. Elon Musk ha posicionado el último anticipo de Grok, el chatbot de Xai, como el buscador de verdad «imparcial». Las indicaciones del sistema de Grok han evitado aplazamientos a las autoridades convencionales y los medios de comunicación, buscando información paradójica incluso si está políticamente incorrecto y dirigiendo a Musk que se refiera a sus propios puntos de vista sobre temas controvertidos. En los últimos meses, Grok ha arrojado comentarios antisemitas y elogió a Hitler con X.
Mark Lemley, profesor de derecho en la Universidad de Stanford, le dijo a TechCrunch que la orden ejecutiva estaba «claramente destinada como discriminación de punto de vista» como «el gobierno) acababa de firmar un contrato con Grok, también conocido como» Mechahitler «.
Junto con el financiamiento del Departamento de Defensa de XAI, la compañía anunció que Grok para el gobierno se ha agregado a su calendario de gestión del servicio general. Esto significa que los productos XAI ahora están disponibles para su compra en todos los funcionarios y agentes.
«La pregunta correcta es esta: ¿Prohibes la AI que acaban de firmar un gran contrato, ya que están diseñados intencionalmente para dar respuestas que han sido acusadas políticamente?» Remley dijo en una entrevista por correo electrónico. «Si no, está claramente diseñado para discriminar una perspectiva particular».
Como muestra el indicador del sistema de Grok, la salida del modelo puede reflejar tanto la tecnología que la IA está siendo entrenada como las personas que construyen los datos. En algunos casos, se presta suficiente atención entre los desarrolladores y la IA capacitada con contenido de Internet que promueve el valor, como la inclusión, causando la salida del modelo distorsionado. Por ejemplo, Google fue atacado el año pasado después de que Gemini Chatbot mostró a Black George Washington y los nazis racialmente diversos.
Chowdhury dice que su mayor temor en la orden ejecutiva es que las compañías de IA están reelaborando activamente sus datos de capacitación para impulsar la línea del partido. Señaló que XAI usará el nuevo modelo y sus capacidades de inferencia avanzada para «reescribir todo el corpus de conocimiento humano, eliminar la información y los errores faltantes antes de volver a capacitar», y que Xai usará el nuevo modelo y sus capacidades de inferencia avanzada, señalando una declaración de Musk solo unas pocas semanas antes del lanzamiento del Grok 4.
Esto lo coloca en una posición para determinar que la máscara es verdadera en la superficie.
Por supuesto, las empresas han hecho llamados a juzgar sobre la falta de información que no se ha visto desde los amanecer de Internet.
El conservador David Sachs, un empresario e inversor Trump designado para AI Czar, habla abiertamente sobre sus preocupaciones sobre el «AI AI» en el All-in-Podcast, que fue co-anfitrión del día del anuncio de AI de Trump. Sacks denunciaron a los creadores de productos IA prominentes que inyectaron el valor de la izquierda en ellos, enmarcando sus argumentos como defensa de la libertad de expresión y creando advertencias contra las tendencias hacia el control ideológico centralizado de las plataformas digitales.
El problema es que, según los expertos, no hay verdad. Es imposible lograr resultados justos o neutrales, especialmente en el mundo actual, donde incluso los hechos están politizados.
«Si los resultados generados por la IA dicen que la ciencia climática es correcta, ¿es ese sesgo izquierdo?» Seargeant dijo. «Algunas personas dicen que incluso si no hay estado en un lado del argumento, ambos lados del argumento deben ser objetivo».
Source link
