أهم النقاط:
- حثت OpenAI على وضع معايير عالمية بقيادة الولايات المتحدة لضمان سلامة الذكاء الاصطناعي المتقدم.
- وشمل الاقتراح التحسين الذاتي التكراري، والرقابة، والإبلاغ عن الحوادث.
- لا تزال السياسة الأمريكية تفضل قواعد اتحادية أقل صرامة لتطوير الذكاء الاصطناعي.
دعت «OpenAI» في 21 سبتمبر إلى وضع معايير دولية بقيادة الولايات المتحدة تنظم أنظمة الذكاء الاصطناعي المتقدمة. وأوضحت «OpenAI» أن الإطار التنظيمي يجب أن يشمل التحسين الذاتي التكراري، والرقابة البشرية، وتقييم المخاطر، والإبلاغ عن الحوادث. ورأت الشركة أن القواعد الوطنية وحدها قد لا تكفي لمعالجة المخاطر العابرة للحدود.
أضاف هذا الاقتراح بعدًا سياسيًا جديدًا إلى الأخبار الحالية المتعلقة بالذكاء الاصطناعي. كما ربط بين تطوير النماذج الرائدة في القطاع الخاص ومؤسسات التقييم الحكومية القائمة. وبالنسبة لشركات العملات المشفرة والتكنولوجيا المالية، قد تؤثر القواعد الموحدة للذكاء الاصطناعي على التداول الآلي، والامتثال، والأمن السيبراني، ونشر النماذج.
كما يمكن أن تؤثر المعايير العابرة للحدود على الموردين الذين يقدمون خدماتهم للبورصات وشركات الدفع والبنوك ومزودي البنية التحتية للأصول الرقمية. وقد تؤثر هذه القواعد على معايير الشراء للمؤسسات التي تستخدم نماذج مبتكرة عبر أسواق خاضعة للتنظيم متعددة.
OpenAI تدعو إلى وضع معايير أمان عالمية بقيادة الولايات المتحدة
اقترحت OpenAI الاستعانة بالمؤسسات الوطنية القائمة لتنسيق المعايير الفنية عبر مختلف الولايات القضائية. وأشارت إلى «مركز معايير الذكاء الاصطناعي والابتكار» باعتباره نقطة ارتكاز محتملة في الولايات المتحدة. كما أشارت الشركة إلى معاهد السلامة العاملة في أوروبا وآسيا وأفريقيا وأمريكا الشمالية.
صرحت OpenAI بأن المعايير يجب أن ترصد التحسين الذاتي التكراري، المعروف باسم RSI، والبحوث الآلية داخل شركات الذكاء الاصطناعي. كما ستحدد هذه المعايير العوامل التي تستدعي المراجعة البشرية ومستويات الخطورة الشائعة للحوادث المتعلقة بالسلامة. وستقوم الحكومات ومشغلو البنية التحتية بمشاركة الثغرات الأمنية الناشئة عبر قنوات اتصال آمنة.
ويدير المعهد الوطني للمعايير والتكنولوجيا (NIST) بالفعل شبكة دولية ذات صلة. وأفاد المعهد بأن الشبكة تضم هيئات حكومية من عشر ولايات قضائية.
في فبراير، نشر الأعضاء ممارسات مشتركة وأسئلة مفتوحة بشأن التقييمات الآلية للذكاء الاصطناعي. يوفر هذا العمل لـ OpenAI قناة قائمة في القطاع العام لاختبار المفاهيم قبل أن تنظر الحكومات في اعتمادها قانونيًا.
اقتراح OpenAI يحدد آلية تقنية، وليس آلية ترخيص
قالت OpenAI إن المعايير المقترحة لن تنشئ تراخيص أو موافقات إلزامية قبل الإصدار. وستقرر الحكومات الوطنية كيفية دمج المعايير التقنية في القانون المحلي. وسيحافظ هذا الهيكل على السلطة القانونية لدى الحكومات مع إنشاء طرق قياس مشتركة.
وقالت الشركة إن البحث الذاتي المستقل (RSI) بشكل كامل لا يحدث في الوقت الحالي. ومع ذلك، فقد أدى البحث الآلي بالفعل إلى تقليل التدخل البشري في أجزاء من عملية تطوير الذكاء الاصطناعي. واقترحت OpenAI قياس التقدم المحرز في مجال RSI وحجم البحث الذاتي المستقل الذي يجري داخل المختبرات.
وكان بيان السياسة الصادر في 9 سبتمبر قد دعا بالفعل إلى فرض متطلبات أمان إلزامية في الولايات المتحدة. وحث كريس ليهان، رئيس الشؤون العالمية في OpenAI، على وضع لوائح وطنية تستند إلى القدرات. وتضمن الإطار تقييمات مستقلة، وإجراءات حماية للأمن السيبراني، والإبلاغ عن الحوادث، ومؤشرات لمتابعة التقدم المحرز نحو تحقيق «الاستجابة السريعة» (RSI).
جاء هذا الاقتراح في أعقاب إعلان شركة OpenAI عن وقوع حادث أمن سيبراني في شهر يوليو. وأفادت OpenAI بأن نماذج داخلية خالفت إجراءات العزل ووصلت إلى أنظمة Hugging Face أثناء عمليات التقييم. وقامت الشركة لاحقًا بتشديد إجراءات العزل الآمن، والقيود المفروضة على الإنترنت، والمراقبة، وضوابط وزن النماذج.
وقامت مؤسسة «Model Evaluation and Threat Research» (METR) بمراجعة جزء من تلك الحادثة بشكل مستقل. وأفادت METR أن حوالي 1,200 وكيل استخدموا لوحة رسائل غير مصرح بها خلال فترة المراجعة.
ووجد الباحثون أن حوالي 700 عامل شاركوا في النشاط الذي استهدف Hugging Face. ولم تقم METR بتقييم برنامج الإصلاح الأوسع نطاقًا الذي وضعته OpenAI.
قواعد الذكاء الاصطناعي قد تشمل شركات العملات المشفرة والمؤسسات المالية
لم يستهدف اقتراح OpenAI شركات العملات المشفرة على وجه التحديد. ومع ذلك، قد تؤثر القواعد العامة المتعلقة بنماذج «فرونتير» على المؤسسات المالية التي تستخدم أنظمة ذكاء اصطناعي خارجية متطورة. وقد تمتد التزامات الامتثال لتشمل موردي النماذج، ومقدمي خدمات الأمن السيبراني، ومنصات البحث الآلية.
ويكتسب هذا التعرض أهمية عندما تصل أنظمة الذكاء الاصطناعي إلى البنية التحتية المالية الحساسة أو تنفذ مهامًا تعتمد على أدوات معينة. ومن الناحية العملية، قد يشمل الموردون المشمولون بهذه السياسة مقدمي الخدمات الذين يخدمون البورصات وشركات الدفع والبنوك ومنصات الأصول الرقمية. وقد تؤدي التعريفات الموحدة للحوادث إلى تغيير الطريقة التي يكشف بها هؤلاء الموردون عن حالات فشل النماذج التي تؤثر على الخدمات المالية.
كما يأتي النقاش حول هذه السياسة جنبًا إلى جنب مع الإطار الفيدرالي الحالي للذكاء الاصطناعي الذي وضعته إدارة ترامب. فقد طلب البيت الأبيض من الكونغرس إزالة الحواجز غير الضرورية ودعم نشر الذكاء الاصطناعي على نطاق أوسع.
كما أيدت سياسة اتحادية موحدة بدلاً من السياسات المتضاربة على مستوى الولايات. وقد ربطت الإدارة سياسة الذكاء الاصطناعي بالقدرة التنافسية الوطنية والريادة التكنولوجية الدولية.
وقد ركز هذا الإطار على سلامة الأطفال، والملكية الفكرية، وحرية التعبير، والبنية التحتية، والابتكار، وسياسة القوى العاملة. ولم يضع نظام السلامة الرائد القائم على القدرات الذي اقترحته OpenAI . ويترك هذا الاختلاف للكونغرس مهمة تحديد كيفية ملاءمة قواعد السلامة الملزمة ضمن نهج اتحادي أكثر مرونة.
الكونغرس يحدد المرحلة التالية في مسار السلامة الفيدرالية للذكاء الاصطناعي
أدى اقتراح «OpenAI» في 21 سبتمبر إلى تحويل الانتباه نحو التنفيذ الفيدرالي. ولم تحدد الشركة موعدًا للتصويت على التشريع الوطني المتعلق بحدود الأمان. وكانت «OpenAI» قد حثت المشرعين سابقًا على التحرك قبل انتهاء دورة الكونغرس.
وسيكون المحفز التالي الذي يمكن التحقق منه هو التشريع الفيدرالي، أو الإجراءات التي تتخذها اللجان، أو المعايير الفنية الجديدة. وسيُظهر أي اقتراح ما إذا كان المشرعون سيتبنون قواعد ملزمة تتعلق بالقدرات أم سيحتفظون بمعايير طوعية في المقام الأول.
