La IA es, por alguna razón, obligarse a nosotros en casi todos los aspectos de la vida, desde teléfonos y aplicaciones hasta motores de búsqueda e incluso drive-thru. El hecho de que actualmente tenga un navegador web con un asistente de IA Burning Chatbots indica que la forma en que algunas personas usan Internet para buscar y consumir información hoy es muy diferente de hace unos años.
Sin embargo, las herramientas de IA buscan cada vez más el nivel total de acceso a datos personales, fingiendo que necesitan trabajar. Este tipo de acceso no es normal y no necesita ser normalizado.
Hasta hace poco, sería correcto cuestionar por qué las aplicaciones de «linterna» o «calculadora» gratuitas aparentemente inofensivas de la tienda de aplicaciones están tratando de solicitar acceso a contactos, fotos e incluso datos de ubicación en tiempo real. Es posible que estas aplicaciones no necesiten que funcionen esos datos, pero si cree que puede ganar un dólar o dos al monetizar sus datos, lo solicitará.
En estos días, la IA no es tan diferente.
Como ejemplo, tomaremos Comet, el último navegador web de AI de Perplejity. Comet permite a los usuarios usar el motor de búsqueda de IA incorporado para encontrar respuestas y automatizar tareas diarias, como el correo electrónico y el resumen de eventos de calendario.
En una práctica reciente del navegador, TechCrunch descubrió que cuando Prplexity solicita acceso al calendario de Google de un usuario, el navegador solicita permisos amplios de la cuenta de Google del usuario e incluye la capacidad de administrar borradores y enviar correos electrónicos, incluida la capacidad de obtener contactos, visualización, edición de eventos e incluso copias de todo el empleado en todos los calendarios.
La vergüenza dice que gran parte de estos datos se almacenan localmente en el dispositivo, pero otorga a la compañía el derecho de acceder y usar información personal, como mejorar el modelo AI de todos los demás.
La confusión no solo requiere acceso a sus datos. Por ejemplo, hay una tendencia a las aplicaciones de IA a ahorrar tiempo mediante la transcripción de llamadas y reuniones de trabajo, pero necesita un asistente de IA para acceder a conversaciones privadas, en tiempo real, calendarios, contactos y más. Meta también está probando los límites de qué aplicaciones de IA puede solicitar acceso. Por ejemplo, tocar una foto guardada en el rollo de cámara de un usuario que aún no se ha cargado.
El presidente de la señal, Meredith Whitaker, comparó recientemente el uso de agentes y asistentes de IA para «ponerlos en el cerebro en la botella». Whittaker explicó cómo algunos productos de IA pueden prometer realizar todo tipo de tareas mundanas, como reservar mesas en restaurantes o reservar entradas para conciertos. Pero para hacer eso, AI dirá que para abrir un navegador deberá abrir un sitio web (que puede permitir el acceso de IA a contraseñas guardadas, marcadores, historial de navegación), una tarjeta de crédito, un calendario para hacer reservas y un calendario que marca las fechas.
Existen graves riesgos de seguridad y privacidad asociados con el uso de asistentes de IA dependientes de datos. Al otorgar acceso, puede entregar instantáneamente e irreversiblemente la instantánea de su información más personal en ese momento, como mensajes, mensajes, entradas de calendario que se remontan al año. Todo esto le ahorra tener que pensar activamente en ello, ya sea para realizar una tarea que aparentemente ahorra tiempo o hasta el punto de Whittaker.
También acepta que ha dado permiso a los agentes de IA para actuar de manera autónoma en su nombre, y requiere que coloque una gran cantidad de confianza en la tecnología que tiende a hacer las cosas mal o mantener las cosas firmes. Con AI, debe confiar en las empresas que buscan ganancias que desarrollen estos productos de IA. Se basa en datos para mejorar el rendimiento de los modelos de IA. Cuando las cosas salen mal (y hacen mucho), es una práctica común que las personas de las compañías de IA analicen sus indicaciones privadas y comprendan por qué las cosas no salieron bien.
Desde una perspectiva de seguridad y privacidad, no vale la pena renunciar a un análisis simple de costo-beneficio de conectar la IA con los datos más personales. Las aplicaciones de IA que buscan estos niveles de permisos deben sonar la alarma para que la aplicación de linterna quiera saber dónde se encuentra en cualquier momento.
Dado el conjunto de datos que está entregando a las compañías de IA, pregúntese si lo que obtiene es realmente valioso.
Source link
