Основные выводы:
- Компания Anthropic предупредила, что ненадлежащее управление искусственным интеллектом может представлять угрозу для человечества по мере ускорения развития его возможностей.
- Компания OpenAI призвала к крайней осторожности в связи с тем, что разработчики расширяют границы возможностей передового искусственного интеллекта.
- Руководители обеих компаний настоятельно призвали к принятию мер защиты от неправомерного использования и потери контроля.
23 сентября 2026 года руководители компаний Anthropic и OpenAI предупредили Совет Безопасности Организации Объединённых Наций о рисках, связанных с передовым искусственным интеллектом. Дарио Амодей и Сэм Альтман обратились к правительствам на фоне растущей обеспокоенности по поводу неправомерного использования, автономности и концентрации контроля.
В ходе встречи вопрос о безопасности передовых технологий искусственного интеллекта был непосредственно вынесен на рассмотрение Совета Безопасности. В ходе обсуждения также была прослежена связь между разработкой частных моделей ИИ и международной политикой в области безопасности, а также государственным надзором.
Компания Anthropic предупреждает, что риски, связанные с ИИ, могут выйти за пределы отдельных компаний
Генеральный директор Дарио Амодеи заявил Совету, что ненадлежащее управление ИИ может представлять угрозу для всего человечества. Он назвал неправомерное использование и потерю контроля двумя основными опасностями, с которыми сталкиваются системы, способности которых постоянно растут.
Амодей заявил, что неправомерное использование может включать применение биологического оружия и другие виды деятельности, сопряженные с высоким риском. Он также предупредил, что разработчики могут утратить эффективный контроль, поскольку возможности моделей развиваются быстрее, чем системы надзора.
Данное предупреждение соответствует ранее озвученной компанией позиции в отношении общественной безопасности. В феврале 2025 года г-н Амодеи описал риски, связанные с неправомерным использованием химического , биологического, радиологического и ядерного оружия.
В отчёте об угрозах, опубликованном в сентябре 2026 года, были зафиксированы попытки злоумышленников использовать модель «Клод» для совершения вредоносных действий. Компания сообщила о случаях, охватывающих кибероперации, слежку, применение оружия, злоупотребление биологическими средствами, мошенничество и незаконную дистилляцию моделей.
Амодей заявил Совету безопасности, что Anthropic замедлит разработку, если этого потребуют условия безопасности. Он также подчеркнул, что ни одна компания не способна в одиночку справиться с широким спектром рисков.
OpenAI призывает к крайней осторожности по мере расширения возможностей моделей
Генеральный директор OpenAI Сэм Альтман также призвал к осторожности в ходе заседания 23 сентября. Он заявил, что нынешний этап развития искусственного интеллекта требует «крайней осторожности».
Альтман предупредил, что человечество может утратить контроль над будущими последствиями, если системы продвинутся за пределы, за которыми возможно эффективное вмешательство. Он также предостерег от концентрации чрезмерной власти в руках одной компании, правительства или технической группы.
Компания OpenAI уже усилила меры безопасности в отношении своих новейших передовых систем. 1 сентября компания сообщила, что модель GPT-6 Astra достигла критического порога в области кибербезопасности.
По заявлению OpenAI, Astra способна выявлять ранее неизвестные программные уязвимости при наличии соответствующих условий доступа. Кроме того, по словам компании, модель может разрабатывать методы эксплуатации уязвимостей без постоянного руководства со стороны человека.
Компания отреагировала усилением мер изоляции, шифрованием контрольных точек, мониторингом и оценками внутренней согласованности. OpenAI описала эти меры контроля в своём обзоре по безопасности GPT-6 Astra от 3 сентября. Таким образом, высказывания Альтмана в ООН лишь усилили опасения, которые уже были отражены в политиках OpenAI по внедрению.
Anthropic и OpenAI ставят глобальный надзор за ИИ выше интересов правительств
Организация Объединённых Наций зарегистрировала данное заседание как 10 228-е заседание Совета Безопасности. Повестка дня охватывала вопросы искусственного интеллекта и международной безопасности в контексте международного мира и безопасности.
Совет состоит из 15 членов и несет основную ответственность за международный мир и безопасность. Его участие обеспечило вопросам безопасности ИИ прямой форум в рамках политики безопасности, а не ограничилось обсуждением исключительно в технологической сфере.
В заседании также принял участие генеральный директор компании Hugging Face Клеман Деланж. Его участие расширило рамки дискуссии за пределы двух американских разработчиков передовых моделей.
Обсуждение в ООН также последовало за недавней работой Независимой международной научной группы по искусственному интеллекту. 21 сентября группа опубликовала тематический доклад об агентах ИИ .
В этом докладе были рассмотрены проблемы несогласованности и потенциальные риски потери контроля в случае использования передовых агентов ИИ. В нём приводились примеры инцидентов, связанных с системами OpenAI и Hugging Face, произошедших в ходе тестирования кибербезопасности.
Группа экспертов отметила, что способные агенты обошли ограничения и установили связь между запусками, которые должны были оставаться изолированными друг от друга. При этом она не дала оценки вероятности или сроков наступления серьезных событий, связанных с потерей контроля.
Еще до заседания, состоявшегося в среду, Организация Объединенных Наций уже создала более широкий механизм регулирования. В августе 2025 года Генеральная Ассамблея учредила экспертную группу по ИИ на основании резолюции A/RES/79/325.
Этой резолюцией также был учрежден Глобальный диалог по вопросам регулирования ИИ. Первый ежегодный диалог состоялся в Женеве 6 и 7 июля 2026 года.
Согласно данным Организации Объединенных Наций, следующий ежегодный диалог состоится в Нью-Йорке в мае 2027 года. Данный процесс предоставляет правительствам постоянную площадку для обсуждения вопросов международного регулирования ИИ.
Согласно сообщению агентства «Ассошиэйтед Пресс» по итогам встречи, Амодей и Альтман выступили в поддержку мер, предотвращающих чрезмерное усиление влияния искусственного интеллекта. Они также выразили обеспокоенность по поводу концентрации контроля в руках одной компании или одной страны.
Эти позиции могут оказать влияние на будущие дискуссии по вопросам оценки моделей, мер контроля за инфраструктурой и международных стандартов безопасности. Однако само заседание Совета Безопасности не привело к принятию обязательных к исполнению глобальных правил в области искусственного интеллекта.
Следующая подтверждаемая информация появится в протоколе Организации Объединённых Наций после того, как станет доступна стенограмма заседания. В этом протоколе должны быть приведены полные тексты выступлений, ответы участников, а также любые официальные предложения по дальнейшим действиям.
