La Agencia de Prevención de Incendios del Estado de California ha lanzado un chatbot de IA para mejorar la eficiencia. El resultado es preocupante, informa Marena Carolo. «Los chatbots generan respuestas utilizando el sitio web de Cal Fire y la agencia Readyforwildfire.org. Pueden comunicarse con los usuarios sobre temas como incendios forestales activos, agentes, consejos de preferencia de fuego y programas de fuego de Cal».
Calmatters ha descubierto que «los chatbots destinados a proporcionar importantes recursos de prevención de incendios e información de emergencia casi en tiempo real» no pueden explicar con precisión la contención de un incendio forestal en particular, pero no proporcionan información de manera confiable, como una lista de elementos de evacuación «, y no puede informar a los usuarios sobre las órdenes de evacuación».
El chatbot luchó por responder preguntas sobre la preparación del fuego, dependiendo de cómo se expresaron las preguntas. «Y aunque los chatbots no generaron respuestas incorrectas a ninguna de las consultas creadas por calmatters, no siempre obtienen la información más reciente». El chatbot tampoco puede proporcionar información sobre las órdenes de evacuación.
Los expertos dicen que las pruebas de BOT deberían haberse realizado mucho antes de que se lanzara para uso público. «Las agencias interesadas en usar chatbots deben identificar preguntas que el público probablemente haga herramientas de IA de antemano. Esto garantiza que los agentes proporcionen y refinen sus chatbots asegurando que los miembros del piloto público tengan la información que solicitan sus sistemas».
Source link
