Las plataformas de IA de generación como ChatGPT, Gemini, Copilot y Claude se están volviendo cada vez más comunes en las organizaciones. Estas soluciones mejoran la eficiencia general de la tarea, pero también presentan una nueva prevención de fugas de datos contra los desafíos generativos de IA. La información confidencial se puede compartir mediante indicaciones de chat, archivos cargados para resúmenes impulsados por la IA o mediante complementos de navegador que omiten los controles de seguridad familiares. Los productos DLP estándar a menudo no se registran para estos eventos.
Soluciones como FidelisNetwork® Detection and Respuesta (NDR) introducen la prevención de pérdida de datos basada en la red que controla la actividad de IA. Esto permite a los equipos monitorear, hacer cumplir las políticas y auditar su uso de Genai como parte de una estrategia más amplia de prevención de pérdidas de datos.
Por qué debe evolucionar la prevención de la pérdida de datos de Genai
La prevención de la pérdida de datos para la IA generada requiere un enfoque cambiante desde los puntos finales y los canales aislados hasta la visibilidad de toda la ruta de tráfico. A diferencia de las herramientas anteriores que confían en escanear el correo electrónico y las acciones de almacenamiento, las tecnologías NDR como Fidelis identifican amenazas al atravesar una red y analizar los patrones de tráfico, incluso cuando el contenido está encriptado.
La preocupación clave no es solo quién creó los datos, sino cómo y cuándo y cómo dejar el control de una organización a través de cargas directas, consultas de conversación o capacidades de IA integradas en el sistema comercial.
Monitorear efectivamente el uso de AI de generación
Las organizaciones pueden usar la solución Genai DLP basada en el descubrimiento de redes en tres enfoques complementarios.
Indicadores basados en URL y alertas en tiempo real
Los administradores pueden definir indicadores para una plataforma Genai particular. Por ejemplo, chatgpt. Estas reglas se pueden aplicar a múltiples servicios y se pueden adaptar al departamento o grupo de usuarios pertinentes. El monitoreo se puede realizar a través de la web, el correo electrónico u otros sensores.
proceso:
Cuando un usuario accede a un punto final de Genai, Fidelis NDR genera una alerta si se activa una política DLP. La plataforma puede registrar capturas completas de paquetes para los sensores de correo electrónico y web de análisis posteriores, y puede automatizar acciones como redirigir el tráfico de usuarios y aislar mensajes sospechosos.
ventaja:
Una respuesta de seguridad rápida que permite notificaciones en tiempo real respalda el análisis forense integral cuando sea necesario.
Consideraciones:
A medida que cambian los puntos finales de IA y los complementos, es necesario mantener las últimas reglas.
Auditoría y metadatos solo monitoreo para entornos de bajo ruido
No todas las organizaciones necesitan alertas inmediatas para todas las actividades de Genai. Las políticas de prevención de pérdidas de datos basadas en la red a menudo registran la actividad como metadatos y crean pistas de auditoría de búsqueda que causan una confusión mínima.
Las alertas se suprimen y todos los metadatos de sesión asociados contienen sesiones en las que los equipos de seguridad de la fuente de registro de sesión de registro y IP de destino, protocolo, puerto, dispositivo y marca de tiempo revisan históricamente todas las interacciones Genai por host, grupo o marco de tiempo.
ventaja:
La reducción de los falsos positivos y la fatiga operativa en los equipos de SOC permite el análisis de tendencias a largo plazo y los informes de auditoría o cumplimiento
límite:
Los eventos importantes pueden pasar desapercibidos si no se revisan regularmente, y la captura completa de paquetes está disponible solo si ciertas alertas se intensifican
En la práctica, muchas organizaciones usan este enfoque como línea de base, agregando monitoreo activo solo para departamentos y actividades de alto riesgo.
Detectar y evitar cargas de archivos peligrosos
La carga de archivos a la plataforma Genai presenta riesgos más altos, especialmente cuando procesa PII, PHI o sus propios datos. Fidelis NDR se puede monitorear cuando se producen tales cargas. La seguridad efectiva de la IA y la protección de datos significa examinar de cerca estos movimientos.
proceso:
El sistema reconoce que el archivo se carga en la política DLP de punto final de Genai inspecciona automáticamente el contenido del archivo cuando las reglas coinciden, captura el contexto completo de la sesión incluso sin inicio de sesión del usuario, y los atributos del dispositivo proporcionan responsabilidad
ventaja:
Detecta y aborta un evento de salida de datos no válido.
Consideraciones:
El monitoreo funciona solo para cargas que aparecen en las rutas de red administradas. El atributo está a nivel de activo o dispositivo, a menos que esté presente la autenticación del usuario
Medir sus elecciones: ¿Qué es lo mejor?
Alertas de URL en tiempo real
Pros: permite una intervención rápida e investigaciones forenses, apoyando las desventajas del triaje de incidentes y los autorespondedores: potencialmente aumentar el ruido y la carga de trabajo en entornos de alta actividad, y se requiere el mantenimiento de reglas de rutina a medida que evolucionan los puntos finales
Modo de solo metadatos
Pros: con una sobrecarga operativa menos fuerte para auditorías y revisiones posteriores a los eventos, la atención de seguridad continúa enfocándose en los contras de las verdaderas anomalías. No es adecuado para amenazas inmediatas.
Monitoreo de carga de archivos
PROS: Dirija eventos de exfoliación de datos reales y proporcione registros detallados de cumplimiento y desventajas forenses: mapeo de nivel de activos ciegos, fuera de red o canales no supervisados solo cuando no hay inicio de sesión
Construyendo protección integral de datos de IA
Un programa integral de solución de Genai DLP incluye:
Mantenga una lista en vivo de puntos finales de Genai y asigne periódicamente los modos de monitoreo de actualizaciones de reglas de monitoreo, alertas, metadatos o ambos, y el riesgo y las empresas deben trabajar con líderes de cumplimiento y privacidad.
Las organizaciones deben verificar periódicamente los registros de políticas y actualizar sus sistemas para abordar los nuevos servicios de Genai, complementos y el nuevo uso comercial impulsado por la IA.
Las mejores prácticas para la implementación
Una implementación exitosa requiere:
La gestión de inventario de plataforma clara y las actualizaciones de políticas regulares promueven el monitoreo y la adaptación continua a las tecnologías de IA que evolucionan los programas de educación de los usuarios que promueven el uso responsable de la IA, utilizando un enfoque de monitoreo basado en el riesgo adaptado a las necesidades organizativas con flujos de trabajo de SOC existentes y marcos de cumplimiento de cumplimiento
Key Takeout
Como muestra Fidelis NDR, las soluciones modernas de prevención de pérdidas de datos basadas en la red ayudan a las empresas a equilibrar la fuerte seguridad de la IA con la adopción de la protección de datos y la IA de la generación. Combinando controles de carga basados en alertas, de metadatos y archivos, las organizaciones crean un entorno de monitoreo flexible donde la productividad y el cumplimiento coexisten. Los equipos de seguridad conservan el contexto y el alcance que necesitan manejar nuevos riesgos de IA, y los usuarios continúan beneficiándose del valor de la tecnología Genai.
Source link
