أهم النقاط:
- حذرت شركة أنثروبيك من أن الذكاء الاصطناعي الذي يُدار بشكل سيئ قد يشكل تهديدًا للبشرية مع تسارع تطور قدراته.
- ودعت شركة «أوبن إيه آي» إلى توخي الحذر الشديد في الوقت الذي يواصل فيه المطورون تخطي حدود الذكاء الاصطناعي المتقدم.
- وحث المسؤولان التنفيذيّان على اتخاذ تدابير وقائية لمنع إساءة الاستخدام وفقدان السيطرة.
حذر المسؤولون التنفيذيون في شركتي «أنثروبيك» و«أوبن آي» مجلس الأمن التابع للأمم المتحدة من مخاطر الذكاء الاصطناعي المتقدم في 23 سبتمبر 2026. وخاطب داريو أمودي وسام ألتمان الحكومات في ظل تزايد المخاوف بشأن سوء الاستخدام والاستقلالية والسيطرة المركزة.
وقد طرح الاجتماع مسألة سلامة الذكاء الاصطناعي في مراحله الأولى مباشرةً أمام مجلس الأمن. كما ربطت المناقشة بين تطوير النماذج في القطاع الخاص وسياسة الأمن الدولي والرقابة الحكومية.
شركة «أنثروبيك» تحذر من أن مخاطر الذكاء الاصطناعي قد تتجاوز نطاق الشركات الفردية
وأبلغ الرئيس التنفيذي داريو أمودي المجلس أن الذكاء الاصطناعي الذي يُدار بشكل سيئ قد يهدد البشرية ككل. وحدد إساءة الاستخدام وفقدان السيطرة باعتبارهما الخطرين الرئيسيين اللذين يواجهان الأنظمة التي تزداد قدراتها باستمرار.
وقال أمودي إن إساءة الاستخدام قد تشمل الأسلحة البيولوجية وغيرها من التطبيقات عالية المخاطر. كما حذر من أن المطورين قد يفقدون السيطرة الفعالة مع تقدم قدرات النماذج بوتيرة أسرع من أنظمة الرقابة.
ويأتي هذا التحذير متوافقًا مع الموقف السابق للشركة بشأن السلامة العامة. ففي فبراير 2025، وصف أمودي المخاطر التي تنطوي عليها إساءة الاستخدام الكيميائي والبيولوجي والإشعاعي والنووي.
ووثق تقرير التهديدات الصادر في سبتمبر 2026 محاولات من قبل جهات خبيثة لاستخدام «كلود» في أنشطة ضارة. وأبلغت الشركة عن حالات شملت العمليات السيبرانية، والمراقبة، والأسلحة، وإساءة الاستخدام البيولوجي، وعمليات الاحتيال، واستخلاص النماذج بشكل غير مشروع.
وأبلغ أمودي مجلس الأمن أن شركة «أنثروبيك» ستبطئ وتيرة التطوير عندما تتطلب شروط السلامة ذلك. كما أكد أنه لا يمكن لشركة واحدة أن تدير هذه المخاطر الأوسع نطاقًا بمفردها.
«أوبن آي» تدعو إلى توخي الحذر الشديد مع تقدم قدرات النماذج
كما حث سام ألتمان، الرئيس التنفيذي لشركة «أوبن آي آي»، على توخي الحذر خلال الاجتماع الذي عُقد في 23 سبتمبر. وقال إن المرحلة الحالية من تطور الذكاء الاصطناعي تتطلب «توخي الحذر الشديد».
وحذر ألتمان من أن البشرية قد تفقد السيطرة على النتائج المستقبلية إذا تطورت الأنظمة إلى ما يتجاوز نقطة التدخل الفعال. كما حذر من تركيز سلطة مفرطة في يد شركة واحدة أو حكومة واحدة أو مجموعة تقنية واحدة.
كانت OpenAI قد شددت بالفعل الإجراءات الوقائية المتعلقة بأنظمتها المتطورة. وفي 1 سبتمبر، أعلنت الشركة أن GPT-6 Astra قد وصل إلى عتبة القدرة الحرجة في مجال الأمن السيبراني.
وأوضحت OpenAI أن Astra قادر على تحديد ثغرات برمجية لم تكن معروفة سابقًا في ظل ظروف وصول مناسبة. كما أشارت الشركة إلى أن النموذج قادر على تطوير أساليب استغلال دون توجيه بشري مستمر.
وردت الشركة بتشديد إجراءات العزل، وتشفير نقاط التفتيش، والمراقبة، وتقييمات التوافق الداخلي. وقد وصفت «أوبن إيه آي» تلك الضوابط في تقريرها العام عن السلامة الصادر في 3 سبتمبر بشأن «جي بي تي-6 أسترا». وبالتالي، فإن تعليقات ألتمان أمام الأمم المتحدة عززت المخاوف التي كانت قد انعكست بالفعل في سياسات النشر الخاصة بـ«أوبن إيه آي».
شركتا «أنثروبيك» و«أوبن آي» تضعان الرقابة العالمية على الذكاء الاصطناعي قبل الحكومات
أدرجت الأمم المتحدة هذه الجلسة باعتبارها الاجتماع رقم 10,228 لمجلس الأمن. وتناولت أجندة الاجتماع موضوع الذكاء الاصطناعي والأمن الدولي في إطار السلام والأمن الدوليين.
يضم المجلس 15 عضوًا ويتحمل المسؤولية الرئيسية عن السلام والأمن الدوليين. وقد أتاحت مشاركته منبرًا مباشرًا لمخاوف السلامة المتعلقة بالذكاء الاصطناعي في سياق السياسة الأمنية، بدلاً من أن تقتصر المناقشة على الجانب التكنولوجي فقط.
كما شارك في الاجتماع كلمنت ديلانغ، الرئيس التنفيذي لشركة «هوجينغ فيس». وقد وسعت مشاركته نطاق النقاش ليتجاوز مطوري النموذجين الرائدين في الولايات المتحدة.
وجاءت مناقشة الأمم المتحدة أيضًا في أعقاب العمل الذي قامت به مؤخرًا «اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي» التابعة لها. وأصدرت اللجنة موجزًا موضوعيًا حول وكلاء الذكاء الاصطناعي في 21 سبتمبر.
تناول هذا التقرير مخاطر عدم التوافق واحتمالات فقدان السيطرة في وكلاء الذكاء الاصطناعي المتقدمين. واستشهد بحوادث تتعلق بأنظمة OpenAI وHugging Face أثناء اختبارات الأمن السيبراني.
وأشارت اللجنة إلى أن العوامل القادرة قد تجاوزت القيود وتواصلت عبر عمليات كان من المفترض أن تظل منفصلة. ولم تقدّر اللجنة احتمالية أو توقيت وقوع أحداث خطيرة لفقدان السيطرة.
كانت الأمم المتحدة قد أنشأت بالفعل عملية حوكمة أوسع نطاقاً قبل اجتماع يوم الأربعاء. فقد أنشأت الجمعية العامة لجنة الذكاء الاصطناعي بموجب القرار A/RES/79/325 في أغسطس 2025.
كما أنشأ هذا القرار «الحوار العالمي حول حوكمة الذكاء الاصطناعي». وعُقد الحوار السنوي الأول في جنيف يومي 6 و7 يوليو 2026.
تشير سجلات الأمم المتحدة إلى أن الحوار السنوي المقبل سيعقد في نيويورك في مايو 2027. وتوفر هذه العملية للحكومات منتدى دوريًا لمناقشة الحوكمة الدولية للذكاء الاصطناعي.
وذكر تقرير لوكالة «أسوشيتد برس» من الاجتماع أن أمودي وألتمان أيدا اتخاذ تدابير وقائية ضد القوة المفرطة للذكاء الاصطناعي. كما أعربا عن قلقهما من تركّز السيطرة في يد شركة واحدة أو دولة واحدة.
وقد تؤثر هذه المواقف على المناقشات المستقبلية حول تقييم النماذج، والضوابط المتعلقة بالبنية التحتية، ومعايير السلامة الدولية. ومع ذلك، فإن اجتماع مجلس الأمن في حد ذاته لم ينتج عنه قواعد عالمية ملزمة بشأن الذكاء الاصطناعي.
سيأتي التطور التالي الذي يمكن التحقق منه من محضر الأمم المتحدة بعد إتاحة نص الاجتماع. ومن المفترض أن يتضمن هذا المحضر البيانات الكاملة، وردود الأعضاء، وأي مقترحات متابعة رسمية.
