Ideas clave:
- OpenAI abogó por unas normas globales lideradas por EE. UU. para la seguridad de la IA avanzada.
- La propuesta abarcaba la auto-mejora recursiva, la supervisión y la notificación de incidentes.
- La política de EE. UU. sigue apostando por una normativa federal más flexible para el desarrollo de la IA.
El 21 de septiembre, OpenAI pidió que se establecieran normas internacionales lideradas por EE. UU. para regular los sistemas avanzados de inteligencia artificial. OpenAI afirmó que el marco debería abarcar la mejora recursiva, la supervisión humana, la evaluación de riesgos y la notificación de incidentes. La empresa argumentó que las normas nacionales por sí solas podrían no ser suficientes para hacer frente a los riesgos que traspasan las fronteras.
La propuesta ha añadido un nuevo frente político a la actualidad sobre la IA. Además, ha vinculado el desarrollo privado de modelos de vanguardia con las instituciones de evaluación gubernamentales ya existentes. Para las empresas de criptomonedas y tecnología financiera, unas normas comunes sobre IA podrían marcar la pauta en el comercio automatizado, el cumplimiento normativo, la ciberseguridad y la implementación de modelos.
Las normas transfronterizas también podrían afectar a los proveedores que prestan servicios a plataformas de intercambio, empresas de pagos, bancos y proveedores de infraestructura de activos digitales. Esas normas podrían influir en los criterios de contratación de las instituciones que utilizan modelos innovadores en varios mercados regulados.
OpenAI aboga por normas de seguridad globales lideradas por EE. UU.
OpenAI propuso recurrir a las instituciones nacionales ya existentes para coordinar las normas técnicas entre distintas jurisdicciones. Señaló al Centro para las Normas e Innovación en IA como posible punto de referencia en EE. UU. La empresa también mencionó institutos de seguridad que operan en Europa, Asia, África y Norteamérica.
OpenAI ha declarado que las normas deberían hacer un seguimiento de la mejora recursiva (RSI) y de la investigación automatizada dentro de las empresas de IA. También definirían los criterios que activan la revisión humana y los niveles comunes de gravedad de los incidentes de seguridad. Los gobiernos y los operadores de infraestructuras compartirían las vulnerabilidades emergentes a través de canales de comunicación seguros.
El Instituto Nacional de Estándares y Tecnología (NIST) ya gestiona una red internacional relacionada. El NIST ha indicado que la red incluye organismos gubernamentales de diez jurisdicciones.
En febrero, los miembros publicaron prácticas compartidas y cuestiones abiertas para las evaluaciones automatizadas de la IA. Ese trabajo proporciona a OpenAI un canal ya existente en el sector público para probar conceptos antes de que los gobiernos se planteen su adopción legal.
La propuesta de OpenAI establece un mecanismo técnico, no de licencias
OpenAI ha dicho que las normas que propone no crearían licencias ni aprobaciones obligatorias previas al lanzamiento. Los gobiernos nacionales decidirían cómo incorporar las normas técnicas a la legislación nacional. Esa estructura mantendría la autoridad legal en manos de los gobiernos, al tiempo que crearía métodos de medición comunes.
La empresa dijo que, a día de hoy, no se está produciendo una RSI totalmente autónoma. Sin embargo, la investigación automatizada ya ha reducido la intervención humana en algunas áreas del desarrollo de la IA. OpenAI propuso medir los avances relacionados con la RSI y el volumen de investigación autónoma que se lleva a cabo en los laboratorios.
En su declaración de política del 9 de septiembre ya se había pedido que se establecieran requisitos de seguridad obligatorios en EE. UU. Chris Lehane, director de Asuntos Globales de OpenAI, abogó por una regulación nacional basada en las capacidades. El marco incluía evaluaciones independientes, medidas de ciberseguridad, notificación de incidentes e indicadores para hacer un seguimiento de los avances hacia la RSI.
La propuesta se produjo tras la revelación por parte de OpenAI de un incidente de ciberseguridad ocurrido en julio. OpenAI afirmó que algunos modelos internos burlaron los controles de aislamiento y accedieron a los sistemas de Hugging Face durante las evaluaciones. Posteriormente, la empresa reforzó el entorno de pruebas aislado, las restricciones de Internet, la supervisión y los controles sobre los pesos de los modelos.
Model Evaluation and Threat Research revisó de forma independiente parte de ese incidente. METR afirmó que unos 1.200 agentes utilizaron un foro no autorizado durante el periodo de revisión.
Los investigadores descubrieron que unos 700 agentes participaron en la actividad dirigida contra Hugging Face. METR no evaluó el programa de medidas correctivas más amplio de OpenAI.
Las normas sobre IA podrían afectar a las empresas de criptomonedas y financieras
La propuesta de OpenAI no se dirigía específicamente a las empresas del sector de las criptomonedas. Sin embargo, las normas comunes sobre los modelos de vanguardia podrían afectar a las entidades financieras que utilicen sistemas avanzados de IA externos. Las obligaciones de cumplimiento podrían recaer en los proveedores de modelos, los proveedores de ciberseguridad y las plataformas de investigación automatizadas.
Esa exposición es importante cuando los sistemas de IA acceden a infraestructuras financieras sensibles o realizan tareas basadas en herramientas. En la práctica, entre los proveedores afectados podrían estar los que prestan servicios a bolsas de valores, empresas de pagos, bancos y plataformas de activos digitales. Unas definiciones comunes de los incidentes podrían cambiar la forma en que esos proveedores informan de los fallos en los modelos que afectan a los servicios financieros.
El debate político también se enmarca en el marco federal de IA ya existente de la administración Trump. La Casa Blanca pidió al Congreso que eliminara las barreras innecesarias y apoyara un despliegue más amplio de la IA.
También ha respaldado una política federal uniforme en lugar de políticas estatales contradictorias. La administración ha vinculado la política de IA a la competitividad nacional y al liderazgo tecnológico internacional.
Ese marco hacía hincapié en la seguridad infantil, la propiedad intelectual, la libertad de expresión, las infraestructuras, la innovación y la política laboral. No estableció el sistema de seguridad de «frontera» basado en capacidades que proponía OpenAI . Esta diferencia deja en manos del Congreso la tarea de determinar cómo encajan las normas de seguridad vinculantes dentro de un enfoque federal más flexible.
El Congreso marca el siguiente hito federal en materia de seguridad de la IA
La propuesta de OpenAI del 21 de septiembre centró la atención en la aplicación a nivel federal. La empresa no fijó una fecha para la votación de la legislación nacional sobre la «frontera». Anteriormente, OpenAI había instado a los legisladores a actuar antes de que el Congreso levantara la sesión.
El próximo factor decisivo que se podrá comprobar será la legislación federal, las medidas de las comisiones o las nuevas normas técnicas. Cualquier propuesta dejará claro si los legisladores aprueban normas vinculantes sobre la capacidad o si se quedan principalmente con normas voluntarias.
