Box CEO Aaron Levie on AI’s ‘era of context’
Créditos de la imagen:Steve Jennings / Getty Images
El jueves, Box lanzó su conferencia de desarrolladores Boxworks al anunciar un nuevo conjunto de características de inteligencia artificial, integrando modelos de inteligencia artificial autónomos en la columna vertebral de los productos de la empresa.
Es más de lo habitual en términos de anuncios de productos para la conferencia, reflejando el ritmo cada vez más rápido del desarrollo de la inteligencia artificial en la empresa: Box lanzó su estudio de inteligencia artificial el año pasado, seguido de un nuevo conjunto de agentes de extracción de datos en febrero, y otros para búsqueda y investigación profunda en mayo.
Ahora, la empresa está lanzando un nuevo sistema llamado Box Automate que funciona como un tipo de sistema operativo para agentes de inteligencia artificial, descomponiendo los flujos de trabajo en diferentes segmentos que pueden ser mejorados con inteligencia artificial según sea necesario.
Hablé con el CEO Aaron Levie sobre el enfoque de la empresa hacia la inteligencia artificial y el trabajo peligroso de competir con las empresas de modelos fundacionales. Como era de esperar, estaba muy optimista sobre las posibilidades de los agentes de inteligencia artificial en el lugar de trabajo moderno, pero también tenía una visión clara de las limitaciones de los modelos actuales y cómo gestionar esas limitaciones con la tecnología existente.
Esta entrevista ha sido editada por longitud y claridad.
TechCrunch: Estás anunciando muchos productos de inteligencia artificial hoy, así que quiero empezar preguntando sobre la visión a gran escala. ¿Por qué construir agentes de inteligencia artificial en un servicio de gestión de contenido en la nube?
Aaron Levie: Lo que nos preocupa todos los días – y lo que es nuestro enfoque en Box – es cuánto trabajo está cambiando debido a la inteligencia artificial. Y la mayoría del impacto actual se encuentra en los flujos de trabajo que involucran datos no estructurados. Ya hemos sido capaces de automatizar cualquier cosa que trate con datos estructurados que van a una base de datos. Si piensas en sistemas CRM, ERP, HR, ya hemos tenido años de automatización en ese espacio. Pero donde nunca hemos tenido automatización es en cualquier cosa que toque datos no estructurados.
Piensa en cualquier proceso de revisión legal, cualquier proceso de gestión de activos de marketing, cualquier proceso de revisión de fusiones y adquisiciones — todos esos flujos de trabajo tratan con muchos datos no estructurados. Las personas tienen que revisar esos datos, hacer actualizaciones, tomar decisiones y así sucesivamente. Nunca hemos podido llevar mucha automatización a esos flujos de trabajo. Hemos podido describirlos en software, pero las computadoras simplemente no han sido lo suficientemente buenas para leer un documento o ver un activo de marketing.
Por lo tanto, para nosotros, los agentes de inteligencia artificial significan que, por primera vez, podemos acceder a toda esa información no estructurada.
TC: ¿Qué hay de los riesgos de desplegar agentes en un contexto empresarial? Algunos de tus clientes deben estar nerviosos por desplegar algo así en datos sensibles.
Levie: Lo que hemos visto de los clientes es que quieren saber que cada vez que ejecutan ese flujo de trabajo, el agente va a ejecutarse más o menos de la misma manera, en el mismo punto del flujo de trabajo, y no va a salir de las vías. No quieres que un agente cometa un error compuesto donde, después de hacer las primeras 100 presentaciones, empiece a comportarse de manera salvaje.
Se vuelve muy importante tener los puntos de demarcación correctos, donde el agente comienza y las otras partes del sistema terminan. Para cada flujo de trabajo, hay esa pregunta de qué necesita tener guardas deterministas, y qué puede ser completamente autónomo y no determinista.
Lo que puedes hacer con Box Automate es decidir cuánto trabajo quieres que haga cada agente individual antes de que pase el relevo a otro agente. Así que podrías tener un agente de presentación que sea diferente del agente de revisión, y así sucesivamente. Permite que los agentes de inteligencia artificial se desplieguen a gran escala en cualquier flujo de trabajo o proceso empresarial de la organización.
Un flujo de trabajo de Box Automate, con agentes de inteligencia artificial desplegados para tareas específicas. Créditos de la imagen: Box
TC: ¿Qué tipo de problemas evitas al dividir el flujo de trabajo?
Levie: Ya hemos visto algunas de las limitaciones incluso en los sistemas más avanzados completamente autónomos como Claude Code. En algún momento de la tarea, el modelo se queda sin espacio de ventana de contexto para continuar tomando decisiones buenas. No hay una solución gratuita ahora en inteligencia artificial. No puedes tener un agente de larga duración con ventana de contexto ilimitada que vaya tras cualquier tarea en tu negocio. Por lo tanto, tienes que dividir el flujo de trabajo y usar subagentes.
Creo que estamos en la era del contexto dentro de la inteligencia artificial. Lo que necesitan los modelos y agentes de inteligencia artificial es contexto, y el contexto que necesitan para trabajar es el que se encuentra en tus datos no estructurados. Por lo tanto, nuestro sistema está diseñado para determinar qué contexto puedes dar al agente de inteligencia artificial para asegurarte de que realice lo mejor posible.
TC: Hay un debate mayor en la industria sobre los beneficios de los grandes modelos de vanguardia frente a los modelos más pequeños y más fiables. ¿Esto te pone en el lado de los modelos más pequeños?
Levie: Debería aclarar: Nada en nuestro sistema impide que la tarea sea arbitrariamente larga o compleja. Lo que estamos tratando de hacer es crear las guardas adecuadas para que puedas decidir cuán autónomo quieres que sea esa tarea.
No tenemos una filosofía particular sobre dónde deberían estar las personas en ese continuo. Solo estamos diseñando una arquitectura a prueba de futuro. Hemos diseñado esto de tal manera que, a medida que mejoren los modelos y mejoren las capacidades autónomas, obtendrás todos esos beneficios directamente en nuestra plataforma.
TC: La otra preocupación es el control de datos. Porque los modelos se entrenan en tanto datos, hay un miedo real de que los datos sensibles se regurgiten o se utilicen incorrectamente. ¿Cómo se tiene en cuenta esto?
Levie: Es donde fallan muchas implementaciones de inteligencia artificial. La gente piensa, “Hey, esto es fácil. Le daré acceso a un modelo de inteligencia artificial a todos mis datos no estructurados, y responderá preguntas para las personas”. Y luego empieza a darte respuestas sobre datos a los que no tienes acceso o de los que no deberías tener acceso. Necesitas una capa muy poderosa que maneje los controles de acceso, la seguridad de datos, las permisos, la gobernanza de datos, el cumplimiento, todo.
Por lo tanto, estamos beneficiándonos de las dos décadas que hemos pasado construyendo un sistema que básicamente maneja ese problema exacto: ¿Cómo aseguras que solo la persona adecuada tenga acceso a cada pieza de datos en la empresa? Así que cuando un agente responde una pregunta, sabes determinadamente que no puede recurrir a ningún dato al que esa persona no debería tener acceso. Esto simplemente está construido fundamentalmente en nuestro sistema.
TC: Más temprano esta semana, Anthropic lanzó una nueva función para cargar directamente archivos en Claude.ai. Está muy lejos del tipo de gestión de archivos que hace Box, pero debes estar pensando en la competencia posible de las empresas de modelos fundacionales. ¿Cómo abordas esto estratégicamente?
Levie: Si piensas en lo que necesitan las empresas cuando despliegan inteligencia artificial a gran escala, necesitan seguridad, permisos y control. Necesitan la interfaz de usuario, necesitan APIs potentes, quieren elegir sus modelos de inteligencia artificial, porque un día un modelo de inteligencia artificial puede ser mejor para algún uso en su negocio que otro, pero luego podría cambiar, y no quieren estar bloqueados en una plataforma particular.
Por lo tanto, lo que hemos construido es un sistema que les permite tener efectivamente todas esas capacidades. Estamos haciendo el almacenamiento, la seguridad, los permisos, la codificación de vectores y nos conectamos a todos los modelos de inteligencia artificial líderes que están ahí fuera.