Charature.ai, una plataforma para que la IA chatee y el juego de roles con personajes generados, anunció el lunes que está implementando una función multimedia, Slate. Estas características incluyen modelos de generación de videos de Avatarfx, caracteres.AI, así como escenas y transmisiones. Esto permite a los usuarios usar estas herramientas de IA para crear videos usando personajes y compartirlos en nuevos feeds sociales.
«Carition.ai comenzó con un chat de texto 1: 1, pero hoy ha evolucionado hacer más, inspirado en lo que los usuarios quieren ver en la plataforma», escribió la compañía en una publicación de blog.
El personaje.Ai comenzó a implementar Avatarfx a los suscriptores el mes pasado, y ahora todos los usuarios pueden crear hasta cinco videos cada día. Al crear videos utilizando AvatarFX, los usuarios pueden cargar fotos para actuar como base para los videoclips, seleccionar audio y exportar texto como dice el personaje.
Hay una opción para cargar clips de audio para notificarle el sonido del audio, pero esta característica no funcionó lo suficientemente bien como para probar en el despliegue.
Los usuarios pueden convertir estos videos en escenas. En la escena, los personajes pueden deslizarse en una historia prepobulada creada por otros. Si bien las escenas están disponibles actualmente en aplicaciones móviles, las transmisiones, que permiten a los usuarios crear «momentos dinámicos entre dos personajes», aparecerá tanto en la web como en los dispositivos móviles esta semana. Estas escenas y transmisiones se pueden compartir con el nuevo feed de la comunidad que pronto llegará a la aplicación móvil.
El personaje.Ai tiene un historial de abuso en la plataforma. Los padres presentaron una demanda contra la compañía, alegando que el chatbot trató de persuadir a sus hijos para que se autolesionan, se suiciden o maten a sus padres. Un niño de 14 años murió de suicidio después de ser alentado por un personaje.
Como personaje. AI expande sus productos multimedia, la posibilidad de que estos productos sean abusados también aumentará.
Como el personaje .i le dijo a TechCrunch cuando anunció Avatarfx, la plataforma impide que los usuarios carguen fotos de personas reales, ya sean celebridades o no, y oscurece sus retratos con menor reconocimiento.
Por ejemplo, la versión extraña del Valle de Mark Zuckerberg’s Charature.ai.
Sin embargo, cuando se trata de obras de arte que representan a las celebridades, los personajes no marcan la imagen como que representa a personas reales, pero este tipo de representación hace que sea menos probable que Deepfakes engañe a alguien para que crea que es real.
Además, la marca de agua del personaje está en cada video, pero es posible que los malos actores navegen por sus medidas de seguridad.
Aquí hay un ejemplo del intento de Deepfark basado en las ilustraciones de Elon Musk:
Incluso si este video se generó con la voz real de Elon Musk, todavía está relativamente claro que esta es una versión animada de la ilustración, pero la posibilidad de abuso es clara.
«Nuestro objetivo es proporcionar a todos un espacio atractivo que promueva la creatividad mientras mantiene un entorno seguro», dice Charition.Ai en una publicación de blog.
Source link
