A principios de este mes, Adrian Holovaty, fundador de SoundLice, una plataforma de enseñanza musical, resolvió el misterio que había sido preocupante durante varias semanas. Las imágenes extrañas, que obviamente eran sesiones de chatgpt, continuaron cargadas en el sitio.
Una vez que lo resolvió, se dio cuenta de que ChatGPT se había convertido en uno de los hombres exagerados más grandes de su compañía, pero le estaba mintiendo a la gente sobre lo que su aplicación podía hacer.
Holovaty es mejor conocido como uno de los creadores del Proyecto Django de código abierto, un popular marco de desarrollo web de Python (aunque se retiró de administrar el proyecto en 2014). En 2012 lanzó SoundsLice. Él le dice a TechCrunch que esto permanecerá «orgullosamente bootstrap». Actualmente, se enfoca en su carrera musical como artista y fundador.
SoundsLice es una aplicación para enseñar música para que los estudiantes y los maestros lo usen. Esto es conocido por los reproductores de video sincronizados con notación musical, que guía a los usuarios sobre cómo reproducir notas.
También ofrece una característica llamada «Score Scanner», que permite a los usuarios cargar imágenes de Paper Shay Music, y utiliza IA para convertirlo automáticamente en una hoja interactiva con notación.
Holovaty analiza cuidadosamente el registro de errores para esta función para ver dónde ocurre el problema y dónde agregar mejoras.
Ahí es donde comenzó a ver las sesiones de chatgpt que subió.
Habían creado muchos registros de errores. En lugar de imágenes de partituras, eran imágenes de palabras, cuadros de símbolos conocidos como tablatura ASCII. Este es un sistema básico basado en texto utilizado para la notación de guitarra utilizando teclados regulares. (Por ejemplo, los teclados Qwerty estándar no tienen teclas aguas).
El volumen de imágenes para estas sesiones de chatgpt no era demasiado problemático, por lo que el dinero de su compañía era costoso para almacenarlas y aplastar el ancho de banda de la aplicación, dijo Holovaty. Estaba confundido y escribió en una publicación de blog sobre la situación.
«Nuestro sistema de escaneo no tenía la intención de respaldar este estilo de notación. ¿Por qué fuimos bombardeados con tantas capturas de pantalla de CHATGPT ASCII?
Así es como vio a Chatgpt diciéndole a la gente que puede escuchar esta música abriendo una cuenta de SoundsLice y subiendo imágenes desde una sesión de chat. Pero no pudieron. Cargar estas imágenes no convierte la pestaña ASCII en una nota de audio.
Fue golpeado por un nuevo problema. «El costo principal era la reputación. Los nuevos usuarios de Soundslice iban con falsas expectativas. Estaban seguros de que harían algo que realmente no haríamos», explicó a TechCrunch.
Él y su equipo discutieron sus opciones: abofetear el sitio de la descargo de responsabilidad en todo el sitio: «No, no podemos convertir las sesiones de chat GPT en música que se puede escuchar», o incorporó esa funcionalidad en un escáner, a pesar de nunca pensar en apoyar ese sistema de notación musical fuera de ritmo.
Él eligió construir la función.
«Mis sentimientos sobre esto están en desacuerdo. Estoy feliz de agregar herramientas para ayudar a las personas. Pero nuestras manos sienten que han sido forzadas de maneras extrañas. ¿Deberíamos desarrollar características en respuesta a la información errónea?» Él escribió.
También se preguntó si este fue el primer caso documentado de tener que desarrollar una función ya que ChatGPT siguió repetiendo alucinaciones al respecto en muchas personas.
Los compañeros programadores en Hacker News tenían una visión interesante al respecto. Algunos de ellos dijeron que no son diferentes de los vendedores humanos que prometen el mundo a las perspectivas y obligan a los desarrolladores a proporcionar nuevas características.
«¡Creo que es una comparación muy apropiada e interesante!» Holobaty estuvo de acuerdo.
Source link
