Cómo la IA cambiará las matemáticas para las startups, según el vicepresidente de Microsoft

Amanda Silver de Microsoft se ha dedicado a ayudar a los desarrolladores durante 24 años. Y durante los últimos años, eso ha significado crear herramientas para la IA. Después de un largo período en GitHub Copilot, Silver es ahora vicepresidente corporativo de la división CoreAI de Microsoft, donde trabaja en herramientas para implementar aplicaciones y sistemas de agentes dentro de las empresas.

Su trabajo se centra en el sistema Foundry en Azure, que está diseñado como un portal de IA unificado para empresas, que proporciona una mirada profunda a cómo las empresas utilizan realmente estos sistemas y dónde las implementaciones finalmente se quedan cortas.

Hablé con Silver sobre las capacidades actuales de los agentes empresariales y por qué cree que esta es la mayor oportunidad para las nuevas empresas desde la nube pública.

Esta entrevista ha sido editada para mayor extensión y claridad.

Esto significa que su trabajo se centra en productos de Microsoft para desarrolladores externos. A menudo son empresas emergentes que de otro modo no se centran en la IA. ¿Cómo cree que la IA afectará a esas empresas?

Veo esto como un punto de inflexión para las startups, tan importante como pasar a la nube pública. Si lo piensas bien, la nube ha tenido un gran impacto en las startups. Porque ya no necesita espacio para alojar racks y no tiene que gastar tanto dinero en inyecciones de capital para alojar hardware en laboratorios y similares. Ahora todo es más barato. Ahora, la IA del agente seguirá reduciendo una vez más el coste total de las operaciones de software. Muchas de las tareas involucradas en el inicio de una nueva empresa, como el personal de apoyo y la investigación legal, se pueden realizar de forma más rápida y económica utilizando agentes de IA. Creo que esto conducirá al lanzamiento de más emprendimientos y startups. Y surgirán startups con menos gente al mando y mejores valoraciones. Y creo que es un mundo muy apasionante.

¿Qué pasaría realmente?

Es cierto que los agentes de varios pasos se están utilizando ampliamente en muchos tipos diferentes de tareas de codificación. Como solo un ejemplo, una de las cosas que los desarrolladores deben hacer para mantener su código base es mantenerse actualizado con las últimas versiones de las bibliotecas dependientes. Es posible que tenga dependencias de una versión anterior del tiempo de ejecución de dotnet o del SDK de Java. Y luego puede hacer que estos sistemas de agentes analicen todo su código base y lo actualicen mucho más fácilmente y probablemente tomen entre un 70% y un 80% menos de tiempo. Y para que eso suceda, es necesario implementar un agente de varios pasos.

Operar un sitio en vivo es otra cuestión. Si está buscando mantener un sitio web o un servicio y algo sale mal, escucha un ruido sordo en la noche y alguien tiene que despertarse y esperar para responder al incidente. Seguimos de guardia las 24 horas del día, los 7 días de la semana en caso de que el servicio se caiga. Sin embargo, solía ser un trabajo que realmente no gustaba porque a menudo era causado por eventos tan triviales. Y ahora hemos construido un sistema genético para diagnosticar adecuadamente y, en muchos casos, mitigar por completo los problemas que surgen en el funcionamiento de estos sitios vivos. Esto elimina la necesidad de que los humanos sean despertados en medio de la noche, dirigiéndose frenéticamente a su terminal e intentando diagnosticar lo que está pasando. Esto también ayuda a reducir significativamente el tiempo medio que lleva resolver un incidente.

Uno de los otros misterios en este momento es que la introducción de agentes no se está produciendo tan rápido como se esperaba, ni siquiera hace seis meses. Me pregunto por qué piensas eso.

Si piensas en las personas que son agentes arquitectónicos y en lo que les impide tener éxito, muchas veces es porque no entienden realmente cuál debería ser el propósito de un agente. Es necesario que haya un cambio cultural en la forma en que la gente construye estos sistemas. ¿Qué caso de uso empresarial están intentando resolver? ¿Qué están tratando de lograr? Es necesario analizar realmente cuál es la definición de éxito para este agente. Luego debemos pensar qué datos queremos pasar al agente para que pueda razonar sobre cómo realizar esta tarea en particular.

Creemos que estos son obstáculos mayores que la incertidumbre general en torno al despliegue de agentes. Cualquiera que examine estos sistemas verá el retorno de la inversión.

Mencionas la incertidumbre general y creo que eso se siente como un gran obstáculo desde la perspectiva de un extraño. ¿Por qué crees que en realidad no importa tanto?

En primer lugar, creo que será muy común tener escenarios con participación humana en los sistemas de agentes. Piense en algo como devolver un paquete. Anteriormente, teníamos un flujo de trabajo de procesamiento de devoluciones que era 90 % automatizado y 10 % humano, lo que requería que alguien mirara el paquete y determinara qué tan dañado estaba antes de decidir si aceptaba la devolución.

Este es un ejemplo perfecto de cómo los modelos de visión por computadora son ahora tan buenos que en muchos casos ya no es necesario que los humanos supervisen las inspecciones y decisiones de los paquetes. Probablemente habrá algunos casos límite en los que la visión por computadora aún no sea lo suficientemente buena como para tomar una decisión y tal vez pueda ocurrir una escalada. Es como, ¿con qué frecuencia debo llamar a mi gerente?

Hay algunas operaciones que son tan críticas que siempre requieren algún tipo de supervisión humana. Considere implementar código en su base de código de producción que pueda tener obligaciones legales contractuales o afectar la confiabilidad del sistema. Sin embargo, la pregunta sigue siendo hasta qué punto se puede automatizar el proceso restante.