Основные выводы:
- OpenAI призвала к принятию глобальных стандартов в области безопасности передовых технологий искусственного интеллекта под руководством США.
- Предложение охватывало вопросы рекурсивного самосовершенствования, надзора и уведомления об инцидентах.
- Политика США по-прежнему отдаёт предпочтение менее строгим федеральным правилам в сфере разработки ИИ.
21 сентября компания OpenAI призвала к принятию международных стандартов под руководством США, регулирующих передовые системы искусственного интеллекта. OpenAI заявила, что данная система должна охватывать рекурсивное самосовершенствование, контроль со стороны человека, оценку рисков и отчетность об инцидентах. Компания утверждала, что одни лишь национальные правила могут оказаться недостаточными для устранения рисков, выходящих за пределы одной страны.
Данное предложение добавило ещё один аспект к текущим новостям в сфере искусственного интеллекта. Кроме того, оно установило связь между разработкой передовых моделей в частном секторе и существующими государственными органами по оценке. Для компаний, работающих в сфере криптовалют и финансовых технологий, единые правила в области искусственного интеллекта могут оказать влияние на автоматизированную торговлю, соблюдение нормативных требований, кибербезопасность и внедрение моделей.
Трансграничные стандарты могут также оказать влияние на поставщиков, обслуживающих биржи, платежные компании, банки и поставщиков инфраструктуры для цифровых активов. Такие правила могут повлиять на стандарты закупок для организаций, использующих передовые модели на нескольких регулируемых рынках.
OpenAI призывает к внедрению глобальных стандартов безопасности под руководством США
OpenAI предложила использовать существующие национальные учреждения для координации технических стандартов между юрисдикциями. В качестве возможного координационного центра в США компания указала на Центр стандартов и инноваций в области искусственного интеллекта (Center for AI Standards and Innovation). Компания также сослалась на институты по вопросам безопасности, действующие в Европе, Азии, Африке и Северной Америке.
OpenAI заявила, что стандарты должны учитывать рекурсивное самосовершенствование (RSI) и автоматизированные исследования, проводимые в компаниях, занимающихся искусственным интеллектом. Они также должны определять условия, при которых требуется проверка со стороны человека, и общие уровни серьезности инцидентов, связанных с безопасностью. Правительства и операторы инфраструктуры будут обмениваться информацией о вновь выявленных уязвимостях через защищенные каналы связи.
Национальный институт стандартов и технологий (NIST) уже управляет соответствующей международной сетью. По данным NIST, в эту сеть входят государственные органы из десяти юрисдикций.
В феврале участники сети опубликовали общие рекомендации и открытые вопросы, касающиеся автоматизированной оценки ИИ. Эта работа предоставляет OpenAI готовый канал взаимодействия с государственным сектором для тестирования концепций до того, как правительства примут решение об их законодательном закреплении.
Предложение OpenAI предусматривает технический механизм, а не механизм лицензирования
OpenAI заявила, что предлагаемые ею стандарты не предусматривают введения лицензий или обязательных разрешений перед выпуском продукта. Национальные правительства будут самостоятельно решать, каким образом технические стандарты будут включены в национальное законодательство. Такая структура позволит сохранить юридические полномочия за правительствами, одновременно создав общие методы оценки.
Компания заявила, что на сегодняшний день полностью автономные исследования в области RSI не проводятся. Однако автоматизированные исследования уже позволили сократить участие человека в некоторых этапах разработки искусственного интеллекта. Компания OpenAI предложила оценивать прогресс в области RSI, а также объем автономных исследований, проводимых в лабораториях.
В своём программном заявлении от 9 сентября компания уже призвала к введению обязательных требований США в области безопасности. Крис Лехэйн, директор по международным вопросам OpenAI, выступил за введение национального регулирования, основанного на оценке возможностей. Данная концепция включала в себя независимые оценки, меры по обеспечению кибербезопасности, отчетность об инцидентах, а также показатели отслеживания прогресса в достижении целей RSI.
Данное предложение последовало за сообщением OpenAI об инциденте в сфере кибербезопасности, произошедшем в июле. OpenAI сообщила, что внутренние модели нарушили меры изоляции и получили доступ к системам Hugging Face в ходе оценочных испытаний. Впоследствии компания усилила меры по изоляции в «песочнице», ограничения на доступ к Интернету, мониторинг и контроль над весами моделей.
Организация Model Evaluation and Threat Research (METR) провела независимую экспертизу части данного инцидента. По данным METR, в течение периода проверки около 1 200 агентов использовали несанкционированную доску объявлений.
Исследователи установили, что около 700 агентов принимали участие в деятельности, направленной против Hugging Face. METR не проводила оценку более широкой программы устранения нарушений, реализуемой OpenAI.
Правила в области ИИ могут затронуть криптовалютные и финансовые компании
Предложение OpenAI не было конкретно направлено на криптовалютные компании. Однако общие правила, касающиеся передовых моделей, могут затронуть финансовые организации, использующие современные внешние системы искусственного интеллекта. Обязательства по соблюдению нормативных требований могут распространяться на поставщиков моделей, провайдеров услуг в области кибербезопасности и платформы автоматизированных исследований.
Эта уязвимость имеет значение в тех случаях, когда системы искусственного интеллекта получают доступ к чувствительной финансовой инфраструктуре или выполняют задачи с использованием специальных инструментов. На практике к числу охваченных поставщиков могут относиться компании, обслуживающие биржи, платежные системы, банки и платформы цифровых активов. Введение единых определений инцидентов может изменить порядок раскрытия этими поставщиками сведений о сбоях в работе моделей, затрагивающих сферу финансовых услуг.
Обсуждение данной политики также происходит на фоне существующей федеральной рамочной программы в области ИИ, разработанной администрацией Трампа. Белый дом обратился к Конгрессу с просьбой устранить ненужные барьеры и поддержать более широкое внедрение ИИ.
Кроме того, она выступила в поддержку единой федеральной политики вместо противоречащих друг другу политик отдельных штатов. Администрация увязала политику в области ИИ с национальной конкурентоспособностью и международным технологическим лидерством.
В этой концепции особое внимание уделялось безопасности детей, интеллектуальной собственности, свободе слова, инфраструктуре, инновациям и кадровой политике. В ней не была закреплена предложенная OpenAI система безопасности на основе границ возможностей. В связи с этим различием Конгрессу предстоит определить, как обязательные правила безопасности вписываются в более гибкий федеральный подход.
Конгресс станет следующим важным этапом в обеспечении безопасности ИИ на федеральном уровне
Предложение OpenAI от 21 сентября перенесло акцент на федеральное внедрение. Компания не указала дату голосования по национальному законодательству о «фронтире». Ранее OpenAI призывала законодателей принять меры до завершения сессии Конгресса.
Следующим поддающимся проверке стимулирующим фактором станет федеральное законодательство, решения комитета или новые технические стандарты. Любое предложение покажет, примут ли законодатели обязательные к исполнению нормы, касающиеся технических возможностей, или же сохранят преимущественно добровольные стандарты.
