En un nuevo video viral, el senador Bernie Sanders intentó exponer cómo la industria de la IA es una amenaza para la privacidad de los estadounidenses, pero terminó demostrando cómo la tendencia de los chatbots de IA a estar de acuerdo con los usuarios y halagarlos puede convertirlos en menos herramientas de descubrimiento y más en espejos de las propias creencias de los usuarios.
Hemos visto este problema antes con el aumento de personas que sufren de «psicosis de IA», donde los chatbots de IA refuerzan los pensamientos y creencias irracionales de personas mentalmente inestables. En algunos casos, este patrón oscuro incluso llevó a los usuarios a quitarse la vida, alegan varias demandas.
En el caso de Sanders, el proxenetismo de la IA se manifestó como un chatbot de IA que moldeaba sus respuestas para adaptarlas al político.
Vale la pena señalar que la entrevista comienza cuando Sanders se presenta a Claude (a quien erróneamente se refiere como un «agente» de IA). Este es un movimiento que podría afectar las respuestas de los chatbots.
Luego, Sanders preguntó sobre las prácticas de recopilación de datos de las empresas de inteligencia artificial y otras preocupaciones sobre la privacidad, y Claude respondió estando de acuerdo con lo que los políticos quieren escuchar. Parte de la razón es la forma en que Sanders formula la pregunta: «¿Qué sorprendería al pueblo estadounidense en términos de saber cómo se recopila esa información?» «¿Cómo podemos confiar en que las empresas de inteligencia artificial protejan nuestra privacidad cuando utilizan la información personal de las personas para ganar dinero?» Estas preguntas guía alientan al chatbot a aceptar la premisa de la pregunta y dar una respuesta adecuada. Así funcionan estas cosas.
Y cuando las respuestas de Claude sugirieron que un tema era más complejo o matizado de lo que Sanders había planteado, Sanders no estuvo de acuerdo, lo que llevó al chatbot a reconocer con cierta autodesprecio de la IA que el senador tenía «absolutamente razón».
Considerando que los chatbots son una fuente de verdad universal en lugar de una herramienta sujeta a la influencia del usuario, la naturaleza halagadora de la IA puede llevar a las personas por un camino peligroso.
No está claro si Sanders sabe que esto es cierto y simplemente no le importa (después de todo, ¡es solo un anuncio!) o si realmente cree que engañó a Claude para que se convirtiera en un denunciante en la industria de la inteligencia artificial.
Y, por supuesto, dado que se trataba de una «entrevista» preparada, también está la cuestión de si el equipo de Sanders convenció al chatbot para que respondiera de cierta manera.
Existen preocupaciones reales en lo que respecta a la recopilación de datos y la privacidad, pero las cosas no son tan blancas y negras como sugiere la respuesta de la IA en este video.
Ya vivimos en un mundo donde las empresas recopilan y venden los datos de los usuarios en línea a escala, y así ha sido durante años. Sabemos que los gigantes de las redes sociales como Meta están convirtiendo anuncios personalizados en máquinas de imprimir billetes de miles de millones de dólares. Y gracias a los informes periódicos de transparencia de las grandes empresas tecnológicas, sabemos que los gobiernos de todo el mundo solicitan periódicamente acceso a los datos de los usuarios para sus propios fines.
Si bien la IA puede representar un nuevo medio para que los legisladores puedan regular, los datos personales han impulsado durante mucho tiempo la economía digital. (Irónicamente, Anthropic es una empresa de inteligencia artificial que se ha comprometido a no ganar dinero con anuncios personalizados, a pesar de lo que sugirió su respuesta a Sanders).
Toda la conversación entre Sanders y Claude no viene al caso para cualquiera que entienda cómo funcionan los chatbots de IA, pero al menos definitivamente nos dio un gran meme nuevo.
Source link
