PlayerZero recauda $15M para evitar que los agentes de IA envíen código con errores.

Créditos de la imagen:PlayerZero

Mientras Silicon Valley se dirige hacia un futuro en el que los agentes de IA realizan la mayoría de la programación de software, surge un nuevo problema: encontrar los errores generados por la IA antes de que se pongan en producción. Incluso OpenAI está tratando con estos problemas, como ha descrito un antiguo empleado.

La startup recién financiada PlayerZero ha creado una solución: utilizar agentes de IA entrenados para encontrar y corregir problemas antes de que el código se ponga en producción, según el CEO y fundador único, Animesh Koratana, a TechCrunch.

Koratana creó PlayerZero mientras estaba en el laboratorio DAWN de Stanford para el aprendizaje automático bajo la supervisión de su asesor y fundador del laboratorio, Matei Zaharia. Zaharia, por supuesto, es un famoso desarrollador y cofundador de Databricks; creó su tecnología fundacional mientras trabajaba en su propio doctorado.

PlayerZero anunció el miércoles que había recaudado $15 millones en una ronda Serie A liderada por Ashu Garg de Foundation Capital, un inversor temprano de Databricks. Esto sigue a una ronda de semilla de $5 millones liderada por Green Bay Ventures y varios ángeles destacados, incluyendo Zaharia, el CEO de Dropbox Drew Houston, el CEO de Figma Dylan Field y el CEO de Vercel Guillermo Rauch.

Durante su tiempo en el laboratorio DAWN de Stanford, Koratana, ahora de 26 años, trabajaba en la tecnología de compresión de modelos de IA y “se expuso muy temprano a los modelos de lenguaje”, dice. Conoció a los desarrolladores que crearon algunas de las primeras herramientas de asistencia en la codificación por IA.

Entonces le golpeó que “hay un mundo en el que los computadoras van a escribir el código. Ya no será humano”, le dijo Koratana a TechCrunch. “¿Cómo será el mundo en ese momento?”, se preguntó.

Sabía antes de que se acuñara el término “AI slop” que estos agentes iban a producir código que rompía cosas, exactamente como sus supervisores humanos.

Ese problema también se agravaría porque muchos agentes estarían generando mucho más código del que se ha escrito antes. No siempre será práctico para los humanos revisar todo el código escrito por IA en busca de errores o alucinaciones. Y el problema se vuelve aún más intenso para los grandes y complejos conjuntos de código en los que confían las empresas.

ProjectZero entrena modelos “que realmente entienden profundamente los conjuntos de código y comprendemos cómo están construidos y cómo están arquitecturados”, dice Koratana.

Su tecnología estudia la historia de los errores, problemas y soluciones de una empresa. Cuando algo se rompe, su producto puede entonces “determinar por qué y corregirlo, y luego aprender de esos errores para que nunca vuelvan a ocurrir”, dice Koratana. Lo compara con un sistema inmunológico para grandes conjuntos de código.

Contratar a Zaharia, su asesor, como ángel fue un primer paso para la recaudación de fondos, pero el momento que realmente validó su idea fue cuando mostró un demo a otro famoso desarrollador: Rauch. Rauch es el fundador de la empresa de herramientas de desarrollo triple unicornio Vercel y creador del popular framework de código abierto JavaScript Next.js.

Rauch observó el demo de Koratana con interés pero escepticismo, preguntando cuánto de ello era “real”. Koratana respondió que era código “ejecutándose en producción. Como, esto es una instancia real”. Rauch se quedó en silencio, y luego su pronto a ser inversor ángel respondió: “Si puedes resolver esto de la manera que estás imaginando, es un gran problema”.

Por supuesto, PlayerZero no está solo en su intento de resolver el problema de los errores generados por la IA. Solo la semana pasada, Anysphere lanzó Bugbot para detectar errores de codificación, entre otros ejemplos.

Sin embargo, PlayerZero ya está ganando tracción por su enfoque en grandes conjuntos de código. Aunque fue concebido para un mundo en el que los agentes son los codificadores, actualmente se está utilizando por varias grandes empresas que utilizan co-pilotos de codificación. Por ejemplo, la empresa de facturación por suscripción Zuora es uno de los clientes destacados de la startup. Zuora está utilizando la tecnología en sus equipos de ingeniería, incluyendo para supervisar su código más valioso, sus sistemas de facturación, según dijo.