Un ejecutivo de Búsqueda de Google dijo que una de las mayores oportunidades de la compañía en IA radica en su capacidad de conocer mejor a los usuarios y personalizar sus respuestas.
La IA promete ser de gran ayuda porque te conoce. Pero el riesgo es que la IA parezca más una vigilancia que un servicio.
En un episodio reciente del podcast Limitless, Robbie Stein, vicepresidente de producto de Búsqueda de Google, explicó que la IA de Google tiende a procesar más consultas que piden consejo o donde los usuarios buscan recomendaciones, y que es probable que este tipo de preguntas se beneficien de respuestas más subjetivas.
«Creemos que existe una gran oportunidad para que nuestra IA llegue a conocerle mejor y sea de gran ayuda con ese conocimiento», dijo Stein en una entrevista. «Una de las cosas de las que hablamos en la I/O[conferencia de desarrolladores de Google]fue cómo la IA puede ayudarnos a comprender mejor a nuestros usuarios a través de servicios conectados como Gmail».
Google lleva tiempo integrando la IA en sus aplicaciones, desde que Gemini todavía era conocido como Bard. Recientemente comenzamos a incorporar datos personales en otro producto de inteligencia artificial, Gemini Deep Research. Y ahora, Gemini está integrado en aplicaciones de Google Workspace como Gmail, Calendar y Drive.
Pero a medida que Google integra más datos personales en su IA, incluidos correos electrónicos, documentos, fotografías, historial de ubicaciones, comportamiento de navegación y más, la línea entre asistentes útiles y molestos se vuelve cada vez más borrosa. Y a diferencia de los servicios de suscripción voluntaria, a medida que la IA se vuelve más central para los productos de Google, puede resultar más difícil evitar la recopilación de datos por parte de Google.
El argumento de Google es que esta profunda personalización hará que la IA sea aún más útil. La idea es que la tecnología de inteligencia artificial de Google pueda aprender de sus interacciones en los diversos servicios de Google y utilizar esa comprensión para hacer recomendaciones más personalizadas. Por ejemplo, si aprendemos que los usuarios prefieren ciertos productos o marcas, la respuesta de la IA puede priorizar esos productos o marcas en sus recomendaciones.
Stein dijo que eso es «mucho más conveniente» que mostrar a los usuarios una lista más general de los productos más vendidos en una categoría particular. «Creo que esa es realmente la visión de construir algo que realmente tenga conocimiento para mí».
Esta idea no es tan diferente de cómo el «otro» en el exitoso programa «Pluribus» de Apple TV devoraba el conocimiento del mundo, incluidos los detalles íntimos de los individuos. Cuando el sistema interactúa con el personaje principal del programa, Carol, utiliza esos datos para personalizar todo. Eso significa cocinar sus comidas favoritas, emplear caras conocidas para manejar las comunicaciones con ella y anticiparse a sus necesidades.
Pero Carol no cree que las respuestas personalizadas sean amables. Los encuentra invasivos. Ella nunca aceptó compartir sus datos con Hivemind, pero Hivemind sabe más sobre ella de lo que le gustaría.
De manera similar, parece cada vez más difícil eludir las técnicas de canibalización de datos de Google en la era de la IA y, a menos que Google logre el equilibrio adecuado, los resultados podrían parecer más espeluznantes que útiles.
(Para ser claros: Google te permite controlar qué aplicaciones usa Gemini para ayudar a la IA de Gemini a saber más sobre ti. Esto se encuentra en Aplicaciones conectadas en la configuración de Gemini).
Si comparte datos de aplicaciones con Gemini, Google dice que almacenará y utilizará esos datos de acuerdo con la política de privacidad de Gemini. Y la política advierte a los usuarios que no «ingresen información confidencial que no desee que vean los revisores o que no desee que utilicemos para mejorar nuestros servicios», ya que los revisores humanos pueden leer algunos de sus datos.
Pero a medida que más datos entran en la conciencia colectiva de Google, es fácil ver cómo la IA podría hacer que la privacidad de los datos sea más un área gris.
Pero Google cree que tiene algún tipo de solución.
Stein dijo que indicará cuándo se personalizarán las respuestas de IA de Google.
«Creo que la gente quiere entender intuitivamente cuándo están personalizados, cuándo se crea la información para ellos y cuándo es algo que todos pueden ver si hacen esta pregunta», dice.
Stein también señaló que Google podría enviar notificaciones automáticas a los usuarios cuando un producto que estaban considerando después de días de investigación en línea esté disponible o se lance.
“Hoy en día, Google te resulta increíblemente útil en todo tipo de formas, en diferentes modos y en diferentes aspectos de tu vida…”, dijo. «Creo que se trata más de cómo pienso sobre el futuro de la búsqueda que de una característica particular o un factor de forma único».
Source link
