El Fiscal General de California, Rob Bonta, y la Fiscal General de Delaware, Kathy Jennings, han enviado una carta abierta a OpenAi para expresar sus preocupaciones sobre la seguridad de ChatGPT, particularmente para niños y adolescentes.
La advertencia se produce una semana después de que Bonta y otros 44 generales de abogados enviaron cartas a 12 personas de 12 compañías de IA luego de informes de interacciones sexualmente inapropiadas entre chatbots de IA e hijos.
«Desde que se emitió la carta, nos enteramos de la desgarradora muerte de un joven californiano del suicidio después de una extensión a largo plazo de nuestra interacción con un chatbot abierto, y aprendimos sobre el igualmente inquietante suicidio asesino en Connecticut», escribe Bonta y Jennings. «Aunque las salvaguardas estaban en su lugar, no funcionó».
Dos funcionarios estatales están investigando actualmente la reestructuración propuesta por las organizaciones con fines de lucro para garantizar que la misión de la organización sin fines de lucro permanezca intacta. Su misión incluye «garantizar que la inteligencia artificial se despliegue de manera segura» y para construir información general artificial (AGI) de acuerdo con la carta para beneficiar a todas las humanidades «incluidos los niños» de todas las humanidades.
«Antes de beneficiarse, debe asegurarse de tener medidas de seguridad apropiadas para evitar daños», continúa la carta. «Operai y la industria en su conjunto no son el lugar necesario para garantizar la seguridad del desarrollo y el despliegue de productos de IA. Como Fiscal General, la seguridad pública es una de nuestras misiones principales. A medida que continuamos nuestro diálogo relacionado con el plan de recapitalización de OpenAI, debemos esforzarnos por acelerar y amplificar la seguridad como la futura dominio de esta poderosa tecnología».
Bonta y Jennings dijeron que están buscando más información sobre las precauciones de seguridad actuales de OpenAi y la gobernanza y esperan que tomemos medidas correctivas inmediatas cuando sea necesario.
TechCrunch se comunicó con OpenAi para hacer comentarios.
Eventos de TechCrunch
San Francisco
|
27-29 de octubre de 2025
Source link
