Conocida por su infraestructura en la nube que permite a los desarrolladores implementar agentes sin administrar servidores, Vercel se ha convertido silenciosamente en una de las empresas más líderes en software de inteligencia artificial. Actualmente, la compañía realiza 6 millones de implementaciones por día, la mitad de las cuales son activadas por agentes de codificación, y más de 1 billón de tokens pasan a través de su puerta de enlace de IA todos los días.
Después de la conferencia ShipNYC de la compañía la semana pasada, hablamos con el director ejecutivo de Vercel, Guillermo Rauch, sobre su visión actual de la IA y cómo las empresas de plataformas como Vercel competirán con los grandes laboratorios. A continuación se muestra una transcripción ligeramente editada.
Se siente como si hubiera una energía diferente en la comunidad este año, menos programas piloto y más enfoque en cómo hacer que las cosas realmente funcionen. Estoy seguro de que ha visto mucha interacción con los clientes, pero tengo curiosidad por ver cómo ha sido ese viaje dentro de Vercel.
El año pasado se trató de creación de prototipos. El cielo es el límite, liberando agentes, cualquiera puede construir, etc. Lo hicimos y aprendimos mucho, ya que teníamos cientos de agentes desarrollados e implementados orgánicamente internamente. Luego comencé a comprender la realidad de los agentes en producción y algunos de los desafíos.
Lo más importante para mí fue el caso de uso de jonrones, las dos aplicaciones asesinas del agente. Uno, por supuesto, es el agente codificador. Esto facilita el uso de muchos tokens en todo el mundo, pero cuando creas tanto software, necesitas un lugar para colocarlo. La segunda aplicación excelente para los agentes es el agente interno que le ayuda a gestionar su empresa. El desafío es cómo acceder a los datos de forma segura. ¿Cómo se audita el comportamiento de los agentes? ¿Cómo se puede obtener un seguimiento de todas las llamadas a herramientas y controles de acceso que el agente requirió para completar su trabajo?
Para resolver esto, ideamos un marco llamado Eve que le permite exponer las instrucciones y habilidades de un agente en lenguaje natural. Otra herramienta es Vercel Sandbox, que coloca a los agentes en pequeñas jaulas. Tiene la libertad de expresar su inteligencia, pero puede hacer cumplir políticas sobre a qué datos se puede acceder y qué puede salir del entorno de pruebas.
¿Qué tipo de problemas ayuda a evitar?
La mayor ventaja del sandboxing es el control de datos. El riesgo real con la IA en el que siempre pienso es que cuando obtienes un IDE de codificación como Devin o Cursor, si lo configuras mal, puede terminar entrenando todo tu código base. Recuerdo haber hablado de esto con el presidente de Airbus. Tenemos décadas de código C++ acumulado específico de la ingeniería aeroespacial. Si alguien entra e instala las herramientas de desarrollo incorrectas, todo el código se enviará a la nube para su capacitación.
Me encantaría saber más sobre ese segundo caso de uso asesino. Todos sabemos acerca de los agentes de codificación, pero ¿cómo son realmente los agentes internos?
Entonces hay un vendedor sentado allí[en la oficina de Vercel]. Trabaja en Base Instalada. Su trabajo es hacer crecer las cuentas existentes. El cuello de botella para personas como ella eran los datos, no su creatividad, inteligencia o capacidad para establecer relaciones. «No sé qué cuentas están creciendo más rápido. Para ayudarme a priorizar mi trabajo, ¿cuáles son las cinco cuentas que han agregado la mayor cantidad de puestos en las últimas dos semanas?» Ella no pudo hacer esa pregunta antes. Tuvimos que esperar hasta que se completara el proyecto del primer trimestre para el nuevo panel de ventas.
En Vercel, habíamos estado en ese cuello de botella durante años y era realmente frustrante porque somos la empresa que avanza más rápido en el mundo en términos de I+D. Sin embargo, era muy incompetente en lo que respecta al motor de ventas, la ingeniería de Salesforce (lateral). Nunca en mi vida había abierto Salesforce.
Eve puede usarse como agente de atención al cliente y también para mejorar la productividad, por lo que siento que realmente puede impactar a la empresa en su conjunto. Es la misma tecnología, solo una API. La agencia está obligando a las empresas a abrirse, lo que tendrá un impacto dramático a largo plazo. Muchos de estos gigantes de SaaS han construido reinos enteros en torno a la captura de datos, que no es compatible con los agentes.
¿Cómo cree que cambiará la relación entre los clientes y los principales laboratorios de IA?
El año pasado, muchas personas dijeron que elegirían un socio de laboratorio y construirían todo con OpenAI o Anthropic. Ahora entienden cómo funciona todo: modelos, arneses, plataformas de datos, entornos sandbox, puertas de enlace, etc. Dice que todas las piezas son plug and play. Puedes usar OpenAI, puedes usar Anthropic, puedes usar Gemini. Aunque no ha aparecido mucho en las noticias, estamos viendo un gran crecimiento en Géminis. Esto se debe a que ahora la gente está optimizando la producción. En realidad, al optimizar la producción, se tienen en cuenta el precio y el rendimiento. Los modelos Gemini tienen excelentes características de precio y rendimiento. Como también hemos introducido un modelo abierto, DeepSeek y GLM-5.2 también se están volviendo populares. Los datos no mienten.
Hay algunos lugares que compiten directamente con los laboratorios de investigación, ¿verdad? La semana pasada, OpenAI lanzó un nuevo conjunto de herramientas para publicar directamente en la web sin salir de su enclave OpenAI.
El siguiente paso natural para ellos es alojar un sitio web pequeño. Y este es un gran comienzo para nosotros porque ahora la gente considerará ChatGPT como una herramienta de creación de sitios web. Y cuando siguen preguntando a la modelo sobre alojamiento web, la modelo nos recomienda. Pero como usted dice, a medida que se agregan más funciones al modelo y a la plataforma, se convierte en un competidor directo de las plataformas de infraestructura existentes.
Creo que en este momento estamos decidiendo si combinar el modelo y el agente.
¿Obtiene toda su información de un solo lugar o obtiene módulos, bibliotecas o bloques de construcción de un solo proveedor y construye sobre ellos? Esta es más bien la forma tradicional de ingeniería de software, y eso es lo que realmente estamos ofreciendo al mercado. A medida que nos convertimos en esta generación de AWS, claramente estamos luchando por un mundo de protocolos abiertos.
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
