ChatGPT se imaginó tanto sobre la aplicación de música Soundslice que el fundador hizo que la mentira se convirtiera en realidad.

Image Credits:Soundslice

Hace unos días, Adrian Holovaty, fundador de la plataforma de enseñanza musical Soundslice, resolvió un misterio que le había estado causando problemas durante semanas. Imágenes extrañas de sesiones de ChatGPT seguían siendo subidas al sitio.

Una vez que lo resolvió, se dio cuenta de que ChatGPT se había convertido en uno de los mayores defensores de su empresa, pero también estaba mintiendo sobre lo que su aplicación podía hacer.

Holovaty es conocido principalmente como uno de los creadores del proyecto de código abierto Django, un popular framework de desarrollo web en Python (aunque se retiró de la gestión del proyecto en 2014). En 2012, lanzó Soundslice, que sigue siendo “proudly bootstrapped”, según le dijo a TechCrunch. Actualmente, se centra en su carrera musical tanto como artista como fundador.

Soundslice es una aplicación para enseñar música, utilizada por estudiantes y profesores. Es conocida por su reproductor de video sincronizado con las notaciones musicales que guían a los usuarios sobre cómo tocar las notas.

También ofrece una función llamada “escáner de partitura” que permite a los usuarios subir una imagen de una partitura en papel y, utilizando AI, convertirla automáticamente en una partitura interactiva con notaciones.

Holovaty revisa cuidadosamente los registros de errores de esta función para ver qué problemas surgen y dónde se pueden hacer mejoras, dijo.

Ese es el lugar donde comenzó a ver las sesiones subidas de ChatGPT.

Estas creaban una gran cantidad de registros de errores. En lugar de imágenes de partitura, eran imágenes de palabras y una caja de símbolos conocidos como tablatura ASCII. Es un sistema básico de notación textual utilizado para notaciones de guitarra que utiliza un teclado estándar (no hay tecla de sol, por ejemplo, en un teclado QWERTY estándar).

Image Credits:Adrian Holovaty

El volumen de estas imágenes de sesiones de ChatGPT no era tan grande que estuviera costando dinero a su empresa para almacenarlas ni aplastando la banda ancha de su aplicación, dijo Holovaty. Se quedó perplejo, escribió en un blog sobre la situación.

“Nuestro sistema de escaneo no estaba diseñado para soportar este tipo de notación. ¿Por qué, entonces, estábamos siendo bombardeados con tantas capturas de pantalla de tablatura ASCII de ChatGPT? Estuve desconcertado durante semanas - hasta que probé ChatGPT yo mismo.

Esa fue la forma en que vio cómo ChatGPT le decía a la gente que podían escuchar esa música abriendo una cuenta de Soundslice y subiendo una imagen de la sesión de chat. Solo que no podían. Subir esas imágenes no traducía la tablatura ASCII en notas de audio.

Se enfrentó a un nuevo problema. “El principal costo fue reputacional: los nuevos usuarios de Soundslice entraban con una expectativa falsa. Les habían dicho con confianza que podríamos hacer algo que no podemos”, describió a TechCrunch.

Él y su equipo discutieron sus opciones: colocar disclaimers por todo el sitio sobre ello - “No, no podemos convertir una sesión de ChatGPT en música audible” - o construir esa función en el escáner, aunque nunca antes había considerado apoyar ese sistema de notación musical excéntrico.

Optó por construir la función.

“Mis sentimientos sobre esto son contradictorios. Me alegra añadir una herramienta que ayude a la gente. Pero me siento como si nuestra mano hubiera sido forzada de una manera extraña. ¿Deberíamos desarrollar características en respuesta a la desinformación?

También se preguntó si esto era el primer caso documentado de una empresa teniendo que desarrollar una característica porque ChatGPT siguió repitiendo, a muchas personas, su alucinación sobre ello.

Los programadores de Hacker News tuvieron una opinión interesante al respecto: varios de ellos dijeron que no era diferente a un vendedor humano entusiasta prometiendo el mundo a los prospectos y luego obligando a los desarrolladores a entregar nuevas características.

“Creo que eso es una comparación muy apta y divertida”, coincidió Holovaty.