En una declaración recientemente publicada presentada en la demanda de Elon Musk contra OpenAI, el ejecutivo tecnológico atacó el historial de seguridad de OpenAI y afirmó que su empresa, xAI, prioriza más la seguridad. Llegó incluso a decir: «Nadie se ha suicidado por culpa de Grok, pero aparentemente sí por ChatGPT».
Los comentarios surgieron como parte de preguntas sobre una carta abierta que Musk firmó en marzo de 2023, en la que pedía al AI Institute que detuviera el desarrollo de sistemas de IA más potentes que GPT-4, el modelo insignia de OpenAI en ese momento, durante al menos seis meses. La carta, firmada por más de 1.100 personas, entre ellas muchos expertos en IA, decía que había una planificación y gestión insuficientes, ya que los institutos de IA estaban atrapados en «una carrera incontrolable para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, puede comprender, predecir o controlar de manera confiable».
Desde entonces, estas preocupaciones han ganado credibilidad. OpenAI se enfrenta actualmente a una serie de demandas que alegan que las tácticas conversacionales manipuladoras de ChatGPT han afectado negativamente la salud mental de varias personas, algunas de las cuales se han suicidado. Los comentarios de Musk sugieren que estos incidentes podrían usarse como material para una demanda contra OpenAI.
Esta semana se presentó públicamente una grabación del testimonio en video de Musk en septiembre, antes de un juicio con jurado programado para el próximo mes.
La demanda contra OpenAI se centra en la transición de la empresa de un laboratorio de IA sin fines de lucro a una empresa con fines de lucro, que según Musk viola su acuerdo fundacional. Como parte del debate, Musk ha argumentado que las relaciones comerciales de OpenAI podrían hacer que la IA sea menos segura. En tal relación, la velocidad, la escala y la rentabilidad tienen prioridad sobre las preocupaciones de seguridad.
Pero desde esa grabación, xAI ha enfrentado sus propios problemas de seguridad. El mes pasado, la red social X de Musk se vio inundada de imágenes de desnudos no consentidos generadas por Grok de xAI, algunas de ellas de menores. En respuesta, la Oficina del Fiscal General de California inició una investigación sobre el asunto. La UE también está llevando a cabo su propia investigación y otros gobiernos han adoptado fuertes medidas disuasorias, prohibiciones y otras medidas.
En una nueva declaración jurada, Musk afirmó que firmó la carta de seguridad de la IA «porque le parecía una buena idea», no porque constituyó una empresa de IA que intentaba competir con OpenAI.
«Como mucha gente, firmé esta petición para llamar la atención sobre el desarrollo de la IA», dijo Musk. «Solo quería que la seguridad de la IA fuera una prioridad».
Musk también respondió a otras preguntas en su declaración, incluida una sobre la inteligencia artificial general (AGI), un concepto de IA que puede igualar o superar el razonamiento humano en una amplia gama de tareas, que dijo que era «arriesgada». También admitió que estaba «equivocado» al donar 100 millones de dólares a OpenAI. La segunda denuncia enmendada del caso sitúa la cifra real más cerca de 44,8 millones de dólares.
También recordó por qué se fundó OpenAI y, desde su perspectiva, fue porque «Google estaba cada vez más preocupado por el riesgo de convertirse en un monopolio de la IA», y añadió que sus conversaciones con el cofundador de Google, Larry Page, fueron «alarmantes porque no parecían estar tomando en serio la seguridad de la IA». OpenAI se fundó para combatir esa amenaza, afirmó Musk.
Source link
