En las últimas semanas, se ha recordado a la comunidad de la ciberseguridad la rapidez con la que la IA de frontera y de agente en las redes de defensa puede alterar nuestras suposiciones. Cuando el modelo Claude Mythos de Anthropic estuvo disponible para algunas organizaciones como vista previa técnica, se informó que grupos no autorizados afirmaron haber obtenido acceso en cuestión de horas. De ser cierto, este incidente fue más que una simple infracción. Esa fue una advertencia.
El impacto potencial de la IA avanzada en las redes de inteligencia y defensa de Estados Unidos es significativo. La oportunidad es clara a medida que el gobierno de EE. UU. avanza para introducir capacidades de inteligencia artificial en redes sensibles. La IA avanzada puede ayudar a acelerar la superioridad en la toma de decisiones del ejército estadounidense. Pero los riesgos también están creciendo rápidamente, especialmente a medida que la IA de los agentes comienza a operar en redes sensibles, entornos de datos y flujos de trabajo de misión.
Implementar IA es más que simplemente implementar modelos poderosos. Eso requiere seguridad, gobernanza e infraestructura resilientes adecuadas.
La confiabilidad de la IA está determinada por los datos que utiliza, las redes a las que se conecta y los controles que determinan quién y qué tiene acceso a ella. En entornos clasificados, el desafío se complica aún más por la necesidad de mover información de forma segura a través de niveles de sensibilidad, compartimentos, límites de federación y entornos operativos.
Para que la IA proporcione rápidamente las ventajas deseadas en la toma de decisiones, se deben considerar tres áreas clave:
1. ¿Qué incluye el modelo?
Los datos de capacitación y los modelos comerciales deben trasladarse de manera rápida y segura a entornos sensibles. Sin las pruebas adecuadas, incluso los modelos de IA más potentes pueden tener problemas para procesar información obsoleta o ingerir contenido «contaminado» que puede generar malas calificaciones.
2. ¿Quién y qué puede acceder a la IA?
Los analistas autorizados, los socios de colaboración, los operadores de borde y los equipos de integración de IA requieren acceso administrado para hacer cumplir los límites de seguridad sin «colapsar» accidentalmente la red.
3. ¿Adónde se acercan los agentes de IA?
Todas las llamadas de modelos a bases de datos, sistemas de misión o socios de colaboración deben mantener la integridad de la capa de clasificación. Cuando la IA intenta comprimir los cronogramas operativos, el perímetro de seguridad no puede ser el primer punto de falla.
Los beneficios de la misión de IA comienzan con una infraestructura segura
Todo esto depende de la capa de red debajo del modelo. Everfox permite a las agencias de defensa e inteligencia responder a cambios revolucionarios en la IA sin sacrificar la velocidad y la seguridad de la misión. Nuestra tecnología proporciona una estructura de red segura basada en capacidades entre dominios y protección aplicada por hardware diseñada específicamente para entornos sensibles y la ventaja táctica, para que pueda implementar IA de forma segura y confiable a escala de misión.
La IA introduce riesgos en todas las capas, incluidos los componentes del sistema, la integración, los resultados posteriores y los flujos de trabajo de la misión. A medida que las organizaciones de defensa e inteligencia aceleren la adopción, las herramientas de IA operarán cada vez más en dominios, compartimentos y áreas operativas. En estos entornos, una infraestructura confiable, controles de acceso estrictos y una gobernanza de datos sólida no son opciones. Estos son de misión crítica.
Los datos confidenciales deben poder moverse de forma segura a través de los límites de clasificación, identificando amenazas y violaciones de políticas antes de que lleguen al modelo.
Si queremos implementar IA a escala de manera responsable, debemos incorporar la seguridad desde el principio, en lugar de agregarla después de que la tecnología ya sea parte de las operaciones de la misión.
Frontier AI será un motor clave para la ventaja de futuras misiones. Pero sin una estructura de red segura que lo soporte, no se puede confiar en que ni siquiera el mejor modelo funcione donde más importa y cuando más importa.
Nota: Este artículo fue escrito y contribuido por Dave Wajsgras, presidente y director ejecutivo de Everfox.
Source link
