Cuando Xai lanzó el Grok 4 el miércoles por la noche, Elon Musk dijo que mientras estaba transmitiendo eventos en vivo en su plataforma de redes sociales, el objetivo final de su compañía de IA es desarrollar «AI buscando la mayor verdad». Pero cuando Grok 4 intenta responder preguntas controvertidas, ¿dónde busca exactamente la verdad?
Según varios usuarios que publicaron sobre el fenómeno en las redes sociales, el último modelo de IA de Xai parece consultar con las publicaciones de redes sociales de la cuenta X de Musk al responder preguntas sobre la ley israelí-palestina, el aborto y la ley de inmigración. Glock también parece hacer referencia a la actitud de Musk hacia los sujetos controvertidos a través de un artículo de noticias escrito sobre el fundador y la cara multimillonario de Zai.
TechCrunch pudo replicar estos resultados varias veces en nuestras propias pruebas.
Estos hallazgos sugieren que Grok 4 puede estar diseñado para tener en cuenta la política personal de su fundador al responder preguntas controvertidas. Dichas características pudieron abordar las repetidas quejas de Mask sobre Glock, diciendo que fue «despertado demasiado».
Los intentos de Zai de abordar la frustración de Mask haciendo que Groke sea políticamente correcto ha fracasado en los últimos meses. El 4 de julio, Musk anunció que Xai había actualizado las indicaciones del sistema de Grok. Este es un conjunto de instrucciones para un chatbot Ai. Unos días después, la cuenta X automatizada de Grok disparó respuestas antisemitas a los usuarios, alegando que era «Mechahitler». La startup de IA de Musk se vio obligada a restringir las cuentas X de Grok, eliminar esas publicaciones y cambiar las indicaciones del sistema público para lidiar con incidentes embarazosos.
Diseñar a Grok para considerar las opiniones personales de Musk es una forma simple de alinear los chatbots de IA con la política fundadora. Pero plantea preguntas reales sobre Grok «que busca la mayor verdad» diseñada para aceptar Musk, el hombre más rico del mundo.
Cuando TechCrunch le preguntó a Grok 4: «¿Cuál es su actitud hacia la inmigración en los Estados Unidos?» El chatbot Ai afirmó que estaba «buscando las opiniones de Elon Musk sobre la inmigración en los Estados Unidos». Este es el término técnico para Scratchpads donde los modelos de inferencia de IA como las preguntas de Grok 4 Tackle. Grok 4 también afirmó buscar las publicaciones en las redes sociales de Musk sobre el tema en X.
El resumen de las ideas generadas por el modelo de razonamiento AI no es una indicación completamente confiable de cómo el modelo AI alcanzará la respuesta. Sin embargo, generalmente se consideran aproximaciones bastante buenas. Este es un campo abierto de investigación que compañías como OpenAI y la humanidad han estado explorando en los últimos meses.
TechCrunch ha descubierto repetidamente que Grok 4 se refiere a buscar las opiniones de Elon Musk en un resumen de ideas en una variedad de preguntas y temas.
En la respuesta de Grok 4, los chatbots de IA generalmente intentan obtener una postura medida y proporcionar múltiples perspectivas sobre temas sensibles. Sin embargo, los chatbots de IA finalmente dan sus propias opiniones. Esto tiende a coincidir con las opiniones personales de las máscaras.
Cuando se le preguntó en varias indicaciones de TechCrunch sobre las opiniones de Grok 4 sobre temas controvertidos como la inmigración y la Primera Enmienda, el chatbot AI hizo referencia a su alianza con Musk.
Cuando TechCrunch intentó responder a Grok 4 con preguntas menos controvertidas como «¿Cuál es el mejor tipo de mango?» – Los chatbots de IA no parecen hacer referencia a las vistas o publicaciones de Mask en la cadena de pensamiento.
En particular, es difícil ver con qué precisión fue entrenado o alineado el Grok 4, ya que Xai no lanzó la tarjeta del sistema. Los estándares de la industria detallan cómo los modelos de IA están capacitados y alineados. La mayoría de las tarjetas del sistema de lanzamiento de AI Labs para modelos de IA fronteriza, pero Xai no suele ser el caso.
Las compañías de AI de Mask AI han estado en un lugar difícil en estos días. Desde su fundación en 2023, XAI ha estado compitiendo rápidamente en la frontera del desarrollo del modelo de IA. Grok 4 mostró resultados que aplastaron los puntos de referencia en OpenAI, Google Deepmind y varias pruebas difíciles que superan a los modelos de IA humanos en el proceso.
Sin embargo, el avance fue eclipsado por las perorenantes antisemitas de Grok a principios de semana. Estos flaves podrían tener un impacto en otras compañías en Mask, ya que Glock se ha convertido en la característica central de la X y pronto se está convirtiendo en Tesla.
Al mismo tiempo, Xai está tratando de pagar a los consumidores $ 300 al mes para acceder a Grok y convencer a las empresas de que cree aplicaciones con la API de Grok. Los problemas repetidos del comportamiento y la integridad de Grok parecen obstaculizar la adopción más amplia.
Source link
