Shadow AI significaba que los empleados pegaban cosas en ChatGPT que no deberían. Ahora tiene un significado más amplio: los empleados crean aplicaciones completas utilizando IA, las conectan a sistemas de producción y las publican en Internet abierta. No es necesario involucrar a la seguridad ni a TI.
Los artefactos se han movido de indicaciones a productos. En consecuencia, el perfil de riesgo también ha cambiado.
En el informe The Shadow Builders (disponible aquí), un nuevo estudio a nivel de categoría presentado en mayo por Axios, WIRED y VentureBeat, Red Access identificó más de 380.000 activos web de acceso público en las principales plataformas de vibecoding.
Aproximadamente 5.000 personas parecían estar en el negocio. Más de 2.000 de ellos contenían datos corporativos, comerciales y personales confidenciales y residían en la web abierta, desplegados sin controles de acceso básicos y, a menudo, otorgando acceso administrativo de forma predeterminada a cualquiera que alcanzara la URL. Seis continentes. Se investigarán todas las industrias. No es necesaria ninguna explotación.
Dentro de la organización se pasó una auditoría mientras se realizaban estas exposiciones.
La nueva Shadow AI no se trata de indicaciones. Se trata del producto.
Vibe Coding, un amplio espectro de plataformas de desarrollo impulsadas por IA que permiten a cualquiera escribir lo que quiera y crear aplicaciones funcionales, ha comprimido el trabajo que antes llevaba meses a los equipos de ingeniería en algo que los no desarrolladores pueden enviar antes del almuerzo.
Los gerentes de marketing crean rastreadores de campañas y los conectan a herramientas de BI donde residen los números reales. El gerente de operaciones crea un formulario de aceptación del proveedor y lo conecta al sistema de emisión de boletos. El equipo de finanzas creará un panel de preparación de la junta directiva y tendrá los datos de las facturas el viernes. Estas aplicaciones están conectadas a sistemas operativos autorizados (CRM, ERP, herramientas de emisión de tickets, plataformas de BI) y frecuentemente expuestas a Internet abierta con controles de acceso establecidos por el constructor. Muchas veces nada.
Las personas que hacen esto no son maliciosas. Son empleados talentosos que resuelven problemas reales más rápido que su organización y hacen exactamente lo que la plataforma les pide que hagan. Las plataformas tampoco son las malas, le están dando a la audiencia original lo que quiere. Lo que no se ha mantenido al día son las barreras técnicas y operativas que rigen el comportamiento posterior a la construcción.
Esto no es TI en la sombra en el antiguo sentido. La TI en la sombra tenía sus limitaciones. Cuando el equipo compró una cuenta de Trello con una tarjeta corporativa sin decírselo a nadie, los datos se almacenaron en un proveedor de SaaS no aprobado, pero al menos los aspectos de identidad, registros de auditoría y gobernanza estaban presentes. Shadow Builders revierte eso. Las aplicaciones se crean a medida, los datos se cargan de forma personalizada, las integraciones son conexiones directas a sistemas de registro de producción y los artefactos a menudo se exponen en la Internet abierta. La plataforma subyacente puede ser auditada. Las aplicaciones creadas sobre él no lo son. Hay constructores, plataformas y URL. ¿eso? Apenas está en la habitación.
¿Por qué las pilas de seguridad maduras todavía pasan por alto esto?
Después de leer los números anteriores, el CISO comprueba reflexivamente la pila. EDR está en ejecución. DLP está configurado. CASB tiene licencia. Existen cortafuegos y SSE. Algunas organizaciones están agregando navegadores empresariales. Cada una de estas herramientas hace exactamente aquello para lo que fue diseñada. Las categorías se encuentran en los espacios entre ellas.
EDR tiene en cuenta los procesos del navegador, no las compilaciones internas. Para los agentes finales, Shadow Builder, impulsado por la plataforma Vibecoding, parece una actividad de navegador normal y no maliciosa, la misma forma de telemetría que alguien lee las noticias. Si un EDR moderno o un navegador empresarial muestra información más detallada, solo lo hará en un dispositivo propiedad de la organización y dentro de un navegador administrado por la organización. Las computadoras portátiles personales, las máquinas de contratistas, los dispositivos BYOD y las pestañas del navegador personal son, por definición, invisibles.
DLP monitorea los canales enumerados. Si un usuario pega datos regulados en un chat de IA conocido, se puede marcar. Las aplicaciones codificadas por Vibe pueden conectarse a herramientas de BI autorizadas mediante programación a través de API y mover datos de una nube a otra, evitando por completo los puntos finales físicos.
CASB se creó para proveedores de TI en la sombra o SaaS con identidades reconocibles. La plataforma en sí no se puede distinguir fácilmente de la población ilimitada de aplicaciones personalizadas alojadas en subdominios de la plataforma Vibecoding. Existe una tendencia a que toda la población se registre como un proveedor de SaaS aprobado.
Los firewalls y SSE ven el tráfico hacia el dominio de la plataforma, pero no el contexto de la aplicación como un objeto comercial. E incluso si la mayoría de las implementaciones de SASE/SSE son parciales y maduras, el problema de los dispositivos no administrados sigue sin resolverse.
Ninguna de estas herramientas ha fallado. Esta categoría existe a través de los espacios que las arquitecturas existentes dejan entre capas, produciendo fragmentos de señal que nunca se ensamblan en una sola imagen manejable.
Donde la visibilidad es realmente necesaria
La codificación de vibraciones de un extremo a otro es un evento de sesión web. La compilación es un evento del navegador. Los permisos de OAuth que conectan nuevas aplicaciones a sistemas empresariales autorizados son eventos del navegador. Los datos utilizados para crear la aplicación viajan dentro de la sesión. Las implementaciones son eventos del navegador. La acción de publicación que convierte su compilación en una aplicación activa con una URL pública está a solo un clic de distancia dentro de la misma pestaña donde sucede todo lo demás.
Todos los pasos ocurren en la capa de sesión. No adyacente. En eso.
Por lo tanto, los controles colocados en la capa de sesión ven toda la ruta de compilación, no solo una parte de ella. Plataforma utilizada. ¿Qué mecanismos se utilizan para conectar los sistemas corporativos? Los datos van y vienen. Un evento público que expone su aplicación a Internet abierta. Atribuible a una persona específica y a una instancia de aplicación específica, independientemente del navegador utilizado o de la ruta de red que tomó el tráfico. Y, lo que es más importante, si el dispositivo es una computadora portátil proporcionada por la empresa o la máquina personal de un contratista.
que hacer esta semana
4to movimiento. Ninguna de esas son compras de tecnología.
Empecemos por el descubrimiento. Pregunte directamente a sus empleados qué construyeron. La mayoría de los creadores de sombras hacen un trabajo útil y no ocultan nada. El encuadre es importante. Aviso a toda la fuerza laboral: si ha creado una herramienta utilizando una plataforma de desarrollo de IA, cuéntenoslo. No hacemos auditorías. Estamos haciendo inventario. La primera etapa va más allá de los memorandos de políticas y la implementación de herramientas.
Luego el mapa. Para cada aplicación que aparezca, capture a qué sistemas corporativos está conectada, cómo está conectada (OAuth, claves API, cargas manuales, varios registros de auditoría) y si es de acceso público. La accesibilidad al público es la señal más viable a corto plazo.
Establecer un camino autorizado. Dale a los Constructores de las Sombras un lugar para enseñar. Nombre las plataformas aprobadas, defina categorías de datos aceptables y establezca estándares mínimos de autenticación. Es menos fricción que las alternativas, pero no te dicen eso en absoluto.
Y acepte que el trabajo no es un inventario de una sola vez. Se siguen creando aplicaciones codificadas con Vibe. La imagen que creaste este mes estará incompleta el próximo mes. Una actitud madura es un descubrimiento continuo en el nivel donde realmente ocurre la actividad.
Esta categoría seguirá madurando. La plataforma continúa reajustando sus valores predeterminados. Ninguna de esas adaptaciones está completa. La mayoría de las empresas están en riesgo hoy.
Red Access es una plataforma de seguridad de capa de sesión sin agentes creada exactamente para este propósito. Eso significa visibilidad y control de nivel SSE de la sesión en sí en cualquier navegador y dispositivo, incluso los no administrados. Se puede instalar en unas pocas horas. Solicite una auditoría gratuita.
Source link
