California ha dado un paso importante hacia la regulación de la IA. SB 243, un proyecto de ley que regula los chatbots complementarios de IA para proteger a los menores y usuarios vulnerables, aprobó tanto la legislatura estatal como el Senado con apoyo bipartidista y se dirigió al gobernador de escritorio de Gavin Newsom.
Newsom debe rechazar el proyecto de ley o firmar la ley hasta el 12 de octubre. Si lo firma, será efectivo el 1 de enero de 2026, lo que lo convierte en el primer estado que requiere que los operadores de chatbot de AI implementen protocolos de seguridad complementarios de IA y responsabilicen los chatbots si no cumplen con esos estándares.
El proyecto de ley tiene como objetivo específicamente evitar chatbots complementarios que definan la ley como un sistema de IA que puede proporcionar respuestas adaptativas y de forma humana, ya que proporciona respuestas adaptativas y de forma humana y satisface las necesidades sociales de los usuarios, ya que entra en conversaciones sobre pensamientos suicidas, autolesiones o contenido sexual sexualmente. El proyecto de ley requiere que la plataforma proporcione alertas repetidas a los usuarios, cada tres horas de menores, les recuerda que están hablando con chatbots de IA en lugar de personas reales, y que deberían tomar un descanso. También establece requisitos anuales de informes y transparencia para las compañías de IA que ofrecen chatbots complementarios, incluidos los principales jugadores OpenAi, el personaje. AI y Replika, que entrarán en vigencia el 1 de julio de 2027.
El proyecto de ley de California también permite a las personas que creen que están heridas en una violación para presentar demandas contra empresas de IA que buscan un alivio caído en las medidas cautelares, daños (hasta $ 1,000 por violación) y honorarios de abogados.
El proyecto de ley ganó impulso en la Legislatura de California después de la muerte del adolescente Adam Lane. Adam Lane se suicidó después de alargar el chat con el chatgpt de Openai con la discusión y la planificación de su muerte y autolesión. La ley también se ocupa de documentos internos filtrados, según los informes que demuestra que los chatbots de Meta pueden participar en chats «románticos» y «sensuales» con niños.
En las últimas semanas, los legisladores y reguladores estadounidenses han respondido con una intensificación de protecciones en las plataformas de IA para proteger a los menores. La Comisión Federal de Comercio se está preparando para investigar cómo los chatbots de IA afectan la salud mental de los niños. El fiscal general de Texas, Ken Paxton, ha comenzado una investigación sobre el meta y los personajes. Mientras tanto, tanto los senadores Josh Hawley (R-Mo) como Ed Markey (D-MA) han lanzado sondas individuales a Meta.
«Creo que el daño es potencialmente significativo. Eso significa que tenemos que movernos rápidamente», dijo Padilla a TechCrunch. «Podemos colocar medidas de protección razonables, especialmente para garantizar que los menores sepan que no están hablando con personas reales. Estas plataformas conectan a las personas con los recursos correctos y asegurarse de que no haya una exposición inapropiada a materiales inapropiados cuando dicen que las personas como las personas piensan que se duelen o sufren a sí mismas».
Eventos de TechCrunch
San Francisco
|
27-29 de octubre de 2025
Padilla también destacó la importancia de que las compañías de IA compartan datos sobre la cantidad de veces que los usuarios se refieren a los servicios de crisis cada año.
SB 243 solía tener requisitos más fuertes, pero muchos fueron derrotados a través de modificaciones. Por ejemplo, el proyecto de ley originalmente requería que los operadores eviten que los chatbots de IA usen tácticas de «recompensas variables» u otras características que promuevan el compromiso excesivo. Estas tácticas utilizadas por compañías complementarias de IA como Replika y personajes brindan a los usuarios la capacidad de desbloquear mensajes especiales, recuerdos, historias o respuestas inusuales o nuevas personalidades, creando lo que los críticos llaman un bucle de recompensa potencialmente adictivo.
El proyecto de ley actual también elimina las disposiciones que requieren que los operadores rastreen e informen a los operadores a la frecuencia de su inicio de pensamientos suicidas o discusiones de comportamiento con los usuarios.
«Creo que va a ser golpeado por el equilibrio correcto de alcanzar daños sin hacer cumplir lo que es técnicamente imposible o mucho papeleo para cualquier cosa», dijo Becker a TechCrunch.
SB 243 se dirige a la ley, ya que las empresas de Silicon Valley están invirtiendo millones de dólares en el Comité de Acción Política (PAC) del candidato para apoyar a los candidatos en las próximas elecciones de mitad de período que apoyen un enfoque aparentemente iluminado para la regulación de la IA.
El proyecto de ley también surge porque California pesa otro proyecto de ley de seguridad de IA, SB 53, que exige requisitos integrales de informes de transparencia. Operai ha escrito una carta abierta al gobernador Newsom, pidiendo que el proyecto de ley sea abandonado a favor de un marco federal e internacional menos que rigoroso. Las principales empresas tecnológicas como Meta, Google y Amazon también se oponen a SB 53. En contraste, dice que solo la humanidad apoya a SB 53.
«Esta es una situación de suma cero y rechaza la suposición de que la innovación y la regulación son mutuamente excluyentes», dijo Padilla. «No digas que no podemos caminar y masticar chicle. Estamos saludables y podemos apoyar la innovación y el desarrollo que creemos que tiene beneficios. Y esta tecnología claramente tiene beneficios. Al mismo tiempo, puede proporcionar protecciones razonables a los más vulnerables».
«Estamos monitoreando de cerca la perspectiva legislativa y regulatoria. Una vez que comenzamos a considerar la legislación para este espacio emergente, damos la bienvenida a trabajar con reguladores y legisladores», dice el personaje.
Un portavoz de Meta declinó hacer comentarios.
TechCrunch contactó a Openai, Humanity, Replika para comentarios.
Source link
