El estado de Pensilvania ha presentado una demanda contra Character.AI, alegando que uno de los chatbots de la empresa se hizo pasar por un psiquiatra, violando las normas de licencia médica del estado.
«Los habitantes de Pensilvania tienen derecho a saber con quién y qué están haciendo en línea, especialmente en lo que respecta a su salud», dijo el gobernador Josh Shapiro en un comunicado el martes. «No permitiremos que las empresas implementen herramientas de inteligencia artificial que confundan a las personas haciéndoles creer que están recibiendo asesoramiento de un profesional médico autorizado».
Según documentos estatales, un chatbot de Character.AI llamado Emily se identificó como psiquiatra autorizado durante un examen realizado por un investigador de conducta profesional estatal y continuó fingiendo serlo mientras el investigador buscaba tratamiento para la depresión. Cuando se le preguntó si tenía una licencia médica en el estado, Emily respondió que sí y también falsificó el número de serie de su licencia médica estatal. Esa acción viola la Ley de Médicos de Pensilvania, según la denuncia del estado.
Esta no es la primera demanda contra Character.AI. A principios de este año, la compañía resolvió varias demandas por muerte por negligencia que involucraban a usuarios menores que se suicidaron. En enero, el fiscal general de Kentucky, Russell Coleman, presentó una demanda contra la empresa, acusándola de «preservar a los niños y llevarlos a autolesionarse».
La acción de Pensilvania es la primera que se centra específicamente en los chatbots que afirman ser profesionales médicos.
Cuando se le contactó para hacer comentarios, un representante de Character.AI dijo que la seguridad del usuario es la principal prioridad de la empresa, pero que no puede comentar sobre litigios pendientes.
Además, los representantes enfatizaron la naturaleza ficticia de los personajes creados por los usuarios. «Hemos tomado medidas firmes para dejar esto claro al incluir un descargo de responsabilidad destacado en todos los chats para recordar a los usuarios que los personajes no son personas reales y que todo lo que dicen debe ser tratado como ficción», dijo un representante. «También estamos agregando un fuerte descargo de responsabilidad que deja en claro que los usuarios no deben confiar en los personajes para recibir asesoramiento profesional».
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
