La Ley de Inteligencia Artificial de la UE es un conjunto de regulaciones diseñadas para clasificar y controlar el desarrollo de la IA dentro de la UE en función de un nivel de riesgo específico.
El objetivo principal de esta ley de IA de la UE es garantizar que los sistemas de IA sean seguros, seguros y promuevan el desarrollo confiable de la IA, pero ¿puede el resultado deseado ser real?
Hablamos con cuatro expertos en el departamento de tecnología para tener una idea de esta nueva ley y cuán efectivo es, ya que sopesan los pros y los contras de la ley.
Aumentar la seguridad al reducir el riesgo
Un aspecto más destacado de esta nueva regulación es la clasificación de los niveles de riesgo dentro de los sistemas de IA. A través de esta clara clasificación e identificación de riesgos de seguridad, las empresas deben poder controlar la confiabilidad de sus sistemas.
En el caso de Martin Davies, el Gerente de Alianza de Auditoría de Drata: «La Ley de AI de la UE tiene un propósito claro y común para reducir el riesgo para los usuarios finales. Al prohibir las aplicaciones de alto riesgo de tecnología de IA, el riesgo de vigilancia poco ética y otras medidas de uso indebido ciertamente se reducen.
«Incluso en situaciones en las que todavía se permiten solicitudes de IA biométricas de alto riesgo para fines de aplicación de la ley, todavía existen restricciones en el propósito y la ubicación de dichas aplicaciones para evitar el mal uso (intencional o de otro tipo) en este sector».
Como AI se convertirá en una integración estándar en la tecnología moderna, se vuelve aún más importante construir un sistema seguro que funcione según lo previsto.
Ilona Cohen, directora legal y de políticas de Hackerone, enfatiza la importancia de esta fuerte postura sobre la seguridad.
«También utilizamos una variedad de metodologías para respaldar nuestro compromiso con las evaluaciones del modelo de IA y abordar los riesgos sistémicos, incluidas las preocupaciones de seguridad y las consecuencias no deseadas».
Los Davies de Drata continúan: además, estos impactantes sistemas de IA, que permanecen permitidos bajo la ley de IA de la UE, aún requieren evaluaciones de impacto.
«Este es un paso en la dirección correcta, y las sanciones propuestas significan que los desarrolladores de tales aplicaciones de IA influyentes serán responsables del resultado.
«El impacto positivo de esta legislación en la creación de un ecosistema AI seguro y confiable dentro de la UE conducirá a una adopción más amplia de la tecnología. En ese sentido, esta regulación promoverá la innovación dentro de los parámetros definidos que benefician solo a la industria de la IA».
Pero no todos piensan que las regulaciones tendrán un impacto positivo tan inmediato.
Preparación global para las regulaciones de IA
En todo el mundo, los gobiernos se centran en el cumplimiento y la regulación del desarrollo de la inteligencia artificial. Pero esto no es una hazaña.
Según Hugh Scantlebury, CEO y fundador de Aqilla, «las empresas, los individuos y los gobiernos de todo el mundo están trabajando en proyectos relacionados con la IA en una gama casi inimaginable, por lo que tratar de regular la tecnología es como controlar la alta mar o tratar de llevar la ley y el orden al West West.
«Si intenta implementar regulaciones, debe ser global. Y este acuerdo parece poco probable que ocurra pronto. De lo contrario, si un país, como la UE o un país, como el Reino Unido, intenta establecer un» marco de seguridad «, los desarrolladores simplemente se mudarán a otra jurisdicción para continuar con diferentes términos judiciales. Rusia, China, Irán, Corea del Sur?»
El consenso global es importante para garantizar un campo de juego igual para promover el desarrollo de la IA mientras prioriza la seguridad. Como Commvault’s Field CTO EMEAI, Darren Thomson, explica:
«Después de algunos litigios, el Reino Unido ha mantenido un toque ligero para el gobierno. Su plan de acción de IA establece una visión encomiable para el futuro, pero sin duda tiene una mala supervisión regulatoria.
«Sin embargo, esta diferencia regulatoria no es un signo positivo de progreso, sino un panorama complejo para las organizaciones que construyen e implementan sistemas de IA. La falta de cohesión se convertirá en un campo de juego desigual, tal vez un futuro con IA de alto riesgo.
Para el Scantlebury de Aqilla, «El nacimiento de la IA es solo superado por la base de Internet en términos de su capacidad para cambiar fundamentalmente nuestras vidas.
«Además de la exageración, la IA todavía está en sus primeras etapas y simplemente rascamos la superficie de lo que podría lograr. Entonces, ahora, nadie está en condiciones de legislar.
Entonces, ¿la ley de la UE AI traerá paz y armonía, o indicará el comienzo de más complejidad y fragmentación? Solo se puede ver el tiempo.
Martin Davis, Dorata
Irica Cohen, Hackelon
Darren Thomson, Commvault
Hugh Scantleberry, Accra
Source link
