En una publicación del martes X por la mañana, el director ejecutivo de Google DeepMind, Demis Hassabis, pidió la creación de un nuevo organismo regulador para supervisar el lanzamiento del modelo Frontier. La publicación, titulada «Marcos de referencia de IA fronteriza y el amanecer de una nueva era», aboga por un «organismo de normalización» inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA) que pueda probar modelos de frontera y desarrollar mejores prácticas para su publicación.
«Inicialmente, Frontier Labs compartía voluntariamente modelos con organismos de normalización para su revisión hasta 30 días antes de su lanzamiento», se lee en la publicación. «La formalización podría ocurrir pronto si se demuestra que el protocolo de evaluación es efectivo y sólido, lo que significa que el modelo Frontier tendría que aprobarlo antes de poder implementarse en el mercado de EE. UU. El Instituto también planea trabajar con organismos de normalización para abordar las vulnerabilidades críticas posteriores al lanzamiento».
El sistema propuesto se basa en una revisión ad hoc realizada por el gobierno de EE. UU. de Mythos de Anthropic y Sol de OpenAI. Estas revisiones generaron importantes críticas por la falta de experiencia técnica y la opaca toma de decisiones sobre cuándo se lanzaron los modelos. Según el regulador propuesto por Hassabis, esas decisiones podrían entregarse a una nueva organización que sería administrada de forma independiente y financiada por la industria de la IA, con el apoyo del gobierno de Estados Unidos.
Las perspectivas para la regulación de la IA siguen siendo controvertidas tanto para la industria tecnológica como para la administración Trump. Más recientemente, Sriram Krishnan, asesor de IA de la Casa Blanca y socio general de a16z, descartó la posibilidad de que exista un regulador de IA dentro del poder ejecutivo, diciendo: «No existe una FDA para la IA».
Establecer organismos de normalización como organismos autorreguladores como FINRA podría ser una forma de abordar estas preocupaciones. Hassabis prevé el apoyo financiero necesario del laboratorio de IA para dotar de personal y retener a representantes de la industria de código abierto y expertos técnicos en el regulador. Algunas evaluaciones también podrían subcontratarse a un número cada vez mayor de grupos de seguridad de IA que pueden especializarse en riesgos específicos.
«La ventaja de este enfoque es que puede centrarse en la tecnología y al mismo tiempo apoyar la innovación y fomentar el comportamiento responsable», sostiene Hassabis. «Está diseñado para seguir la aceleración sobre el terreno y adaptarse a los mayores riesgos a medida que se identifican, y puede intensificarse en etapas según lo requiera la gravedad de la situación».
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
