CEO de Box Aaron Levy sobre la «Edad del Contexto» de AI

El jueves, Box lanzó la conferencia de desarrolladores Boxworks presentando un nuevo conjunto de características de IA, construyendo el modelo de IA del Agente en la columna vertebral de los productos de la compañía.

La conferencia fue más lanzamiento de productos de lo habitual, lo que refleja el ritmo del desarrollo de IA el desarrollo de IA del año pasado, y lanzó el estudio de IA el año pasado, con un nuevo conjunto de agentes de extracción de datos en febrero y buscando e investigaciones más profundas en mayo.

Ahora, la compañía está implementando un nuevo sistema llamado Box Automate, que actúa como una especie de sistema operativo para los agentes de IA, destruyendo flujos de trabajo en varios segmentos que se pueden escalar con IA si es necesario.

Hablé con el CEO Aaron Levy sobre el enfoque de la compañía hacia la IA y el peligroso trabajo de competir con las compañías de modelos de fundaciones. Naturalmente, era muy optimista sobre las posibilidades de los agentes de IA en los lugares de trabajo modernos, pero también tenía una clara visión de las limitaciones de los modelos actuales y cómo las tecnologías existentes pueden administrar esas limitaciones.

Esta entrevista ha sido compilada por longitud y claridad.

TechCrunch: Hoy estamos presentando un montón de productos de IA, por lo que queremos comenzar preguntando sobre la mayor parte de nuestra visión. ¿Por qué construir agentes de IA en los servicios de gestión de contenido en la nube?

Aaron Levy: Entonces, lo que pensamos todo el día, y lo que nuestro enfoque está en la caja es cuánto trabajo está cambiando para la IA. Y la mayor parte del impacto actual radica en flujos de trabajo que contienen datos no estructurados. Pudimos automatizar cualquier cosa que maneja datos estructurados que ingresen a la base de datos. Cuando piensa en los sistemas CRM, los sistemas ERP y los sistemas de recursos humanos, el espacio ya ha tenido años de automatización. Pero si nunca lo hemos automatizado, estamos expuestos a datos no estructurados.

Piense en todo tipo de procesos de revisión legal, todo tipo de procesos de gestión de activos de marketing, todo tipo de revisiones de transacciones de M&A. Todos estos flujos de trabajo tratan con muchos datos no estructurados. La gente tiene que revisar esos datos, actualizarlos, tomar decisiones, etc. No podríamos aportar mucha automatización a estos flujos de trabajo. Aunque el software podía explicarlo, la computadora no era suficiente para leer la documentación o analizar los activos de marketing.

Entonces, para nosotros, los agentes de IA significan que por primera vez, pueden hacer uso de todos estos datos no estructurados.

TC: ¿Qué pasa con el riesgo de desplegar agentes en un contexto comercial? Algunos clientes deben estar nerviosos por implementar algo como esto en datos confidenciales.

Levy: Lo que hemos visto de nuestros clientes es que cada vez que ejecutan ese flujo de trabajo, quieren saber que el agente funciona más o menos de la misma manera en el mismo punto del flujo de trabajo. No quiero que el agente cometa algunos errores compuestos en los que comenzaron a correr después de hacer 100 presentaciones para la primera pareja.

Es muy importante que el agente tenga un punto límite adecuado donde se inicie y el resto del sistema saldrá. Para cada flujo de trabajo, existe esta pregunta sobre lo que requiere barandillas deterministas y lo que es completamente agente y no determinista.

Lo que Box Automate puede hacer es decidir cuánto trabajo desea hacer con cada agente antes de entregar a otro agente. Por lo tanto, puede haber otros agentes de presentación, etc., en lugar de revisar agentes. Esencialmente, puede implementar agentes de IA a escala en cualquier tipo de flujo de trabajo o proceso comercial dentro de su organización.

TC: ¿Qué problemas puedes prevenir dividiendo tu flujo de trabajo?

Incluso con los sistemas de agentes más sofisticados y completos como Levie: Claude Code, ya hemos visto algunas limitaciones. En algún momento de la tarea, el modelo sale de la sala de la ventana de contexto y continúa tomando buenas decisiones. AI no tiene almuerzos gratis en este momento. Los agentes a largo plazo no pueden seguir sus tareas comerciales utilizando ventanas de contexto ilimitadas. Por lo tanto, debe dividir el flujo de trabajo y usar subagentes.

Creo que estamos en una era de contexto dentro de la IA. Lo que necesitan los modelos y los agentes de IA es el contexto, y el contexto con el que necesitan trabajar se encuentra dentro de sus datos no estructurados. Por lo tanto, todo nuestro sistema está diseñado para comprender realmente qué contextos podemos proporcionar para que los agentes de IA puedan ejecutarse de la manera más efectiva posible.

TC: Hay un mayor debate en la industria sobre los beneficios de modelos fronterizos más grandes y potentes en comparación con los modelos más pequeños y más confiables. ¿Esto te lleva al aspecto del modelo más pequeño?

Levie: Probablemente necesite ser claro. Con nuestro sistema, no hay nada que evite que la tarea se vuelva arbitrariamente larga o complicada. Lo que estamos tratando de hacer es crear las barandillas adecuadas para que podamos decidir cómo queremos hacer esa tarea.

No tenemos una filosofía particular sobre dónde las personas deberían estar en ese continuo. Estamos tratando de diseñar una arquitectura para futuros terrenos. Diseñamos esto para obtener todos estos beneficios directamente a la plataforma a medida que mejora el modelo y mejora la funcionalidad del agente.

TC: Otra preocupación es el control de datos. El modelo está entrenado con tantos datos, existe un temor real de que los datos confidenciales se refluan o se usen mal. ¿Cuál será la causa de eso?

Levy: Aquí es donde muchos despliegues de IA salen mal. La gente dice: «Oye, esto es fácil. Le doy acceso al modelo de IA a todos mis datos no estructurados, y responde preguntas para las personas». Y comienza a darle respuestas sobre los datos a los que no puede acceder o que no debe acceder. Necesita una capa muy fuerte de control de acceso, seguridad de datos, permisos, gobernanza de datos, cumplimiento, todo.

Por lo tanto, nos estamos beneficiando de décadas de gasto en la construcción de un sistema que esencialmente maneja ese problema exacto. ¿Desea que solo las personas adecuadas accedan a cada datos dentro de la empresa? Entonces, cuando un agente responde una pregunta, saben deterministas que no puede extraer datos a los que la persona no tiene acceso. Está fundamentalmente integrado en nuestro sistema.

TC: A principios de esta semana, Humanity lanzó una nueva característica para cargar archivos directamente a Claude.ai. Este es un largo camino desde el tipo de administración de archivos que lo hace el cuadro, pero debe pensar en la competencia potencial con las compañías de modelos de fundaciones. ¿Cómo lo abordarías estratégicamente?

Levie: Entonces, cuando considera lo que las empresas necesitan al implementar la IA a escala, se necesitan permisos, permisos y control. Necesita una interfaz de usuario, una API fuerte y una selección de modelos de IA. Un día, un modelo de IA impulsa mejores casos de uso que el otro, por lo que puede cambiar y no desea que se bloquee en una plataforma en particular.

Entonces, lo que construimos es un sistema que tiene todas estas funciones de manera efectiva. Tiene almacenamiento, seguridad, permisos, integración vectorial y se conecta a todos los principales modelos de IA.