الرؤى الرئيسية
- تغيرت أخبار الذكاء الاصطناعي بعد أن أعادت شركة «أنثروبيك» فتح الوصول العام إلى النموذج.
- أضافت شركة «أنثروبيك إيه آي» مصنفات جديدة للأمن السيبراني.
- أعطى المسؤولون الفيدراليون الأولوية لنشر تقنية الذكاء الاصطناعي على الحدود بشكل أسرع وأكثر أمانًا.
أعادت شركة الذكاء الاصطناعي «أنثروبيك» فتح الوصول العام إلى نموذجيها الرئيسيين «كلود فابل 5» و«ميثوس 5» بعد أن رفعت الحكومة الأمريكية القيود المفروضة على تصديرهما. وجاء هذا القرار في أعقاب محادثات جرت بين المسؤولين الفيدراليين والشركة، بعد أن أدت مخاوف تتعلق بالأمن السيبراني إلى تعليق هذين النموذجين في وقت سابق.
شكلت أخبار الذكاء الاصطناعي مثالاً غير معتاد على التدخل الحكومي المباشر في نشر النماذج الرائدة. ورأت شركة «أنثروبيك آي آي» أن وضع ضمانات أقوى، بدلاً من فرض قيود مطولة، يمثل مساراً أفضل لتحقيق التوازن بين الابتكار والأمن القومي.
تغيرات في أخبار الذكاء الاصطناعي بعد موافقة الحكومة على عودة شركة «أنثروبيك»
أعلنت شركة «أنثروبيك» عن استئناف الخدمة بعد أن أسفرت المناقشات مع الوكالات الفيدرالية عن التوصل إلى اتفاق بشأن تدابير أمان محدثة. وأوضحت الشركة أنها قامت بنشر مصنفات جديدة مصممة لحجب نطاق أوسع من الطلبات المتعلقة بالأمن السيبراني قبل وصولها إلى النماذج الأساسية.
وقد فُرضت هذه القيود في الأصل عقب دراسة أظهرت أنه يمكن استغلال جهاز «كلود فابل 5» للكشف عن الثغرات الأمنية في البرامج بعد تجاوز إجراءات الحماية الخاصة به. وقد دفع هذا التقرير المسؤولين الفيدراليين إلى مراجعة هذا الطراز قبل السماح للجمهور بالوصول إليه على نطاق أوسع مرة أخرى.
قال وزير التجارة الأمريكي هوارد لوتنيك إن المسؤولين تعاونوا مع شركة «أنثروبيك» خلال عملية المراجعة. وأشار إلى أن هذه الجهود ركزت على الموافقة على مشروع «فيبل 5» مع تعزيز ريادة البلاد في مجال الذكاء الاصطناعي المتقدم.
وقد رددت سوزي وايلز، رئيسة ديوان البيت الأبيض ، هذا الموقف. وقالت إن أولوية الإدارة لا تزال تتمثل في نشر التكنولوجيا المتطورة بسرعة مع الحفاظ على تدابير السلامة المناسبة.
أثارت هذه الحادثة جدلاً واسعاً في قطاع التكنولوجيا، لأن إجراءات الرقابة المؤقتة على الصادرات شملت نموذجاً متطوراً متاحاً تجارياً. ورأى العديد من الباحثين أن هذه الخطوة تشكل سابقة للرقابة الحكومية في المستقبل كلما أثارت الأنظمة المتطورة مخاوف تتعلق بالأمن السيبراني.
شركة «أنثروبيك إيه آي» تؤكد أن مخاطر «الجيلبريك» تتجاوز نموذجًا واحدًا
وأوضحت شركة «أنثروبيك» أن الثغرة التي تم الإبلاغ عنها لا تمثل نقطة ضعف تقتصر على لعبة «كلود فابل 5» وحدها. وأشارت الشركة إلى أن نماذج اللغة الأصغر حجمًا يمكنها تحديد ثغرات أمنية برمجية مماثلة عند تعرضها لمطالبات مماثلة.
وقد أدى هذا الموقف إلى تحويل الانتباه عن منتج معين نحو أسئلة أوسع نطاقًا تتعلق بتقييم النماذج. وتزايد الجدل بين الباحثين حول الكيفية التي ينبغي للمطورين بها التمييز بين القدرات العادية والسلوكيات التي تنطوي على مخاطر غير مقبولة في مجال الأمن السيبراني.
اشتد الجدل العام بعد أن ادعى باحث مستقل أنه تمكن من التحايل على إجراءات الحماية في لعبة «Fable 5» بعد فترة وجيزة من إطلاقها. وبدا أن لقطات الشاشة التي تم تداولها تثبت أن المطالبات المعدلة يمكن أن تُنتج ردودًا يتم حظرها خلال التفاعلات العادية.
وأكدت شركة «أنثروبيك» أن الدفاعات المتعددة الطبقات توفر حماية أقوى من الاعتماد على آلية أمان واحدة. وأوضحت الشركة أن المصنفات المحسّنة تعمل الآن على اعتراض الطلبات الخطرة قبل وصولها إلى أنظمة الاستدلال الحساسة.
أخبار الذكاء الاصطناعي تركز على المعايير الجديدة لكسر الحماية
كما قامت شركة «أنثروبيك» بتوسيع نطاق «مشروع غلاسوينغ»، وهو مبادرة مشتركة تضم «أمازون» و«مايكروسوفت» و«جوجل» وشركاء تقنيين آخرين. وكان الهدف من هذا التعاون هو وضع أساليب موحدة لتقييم مدى خطورة عمليات «كسر الحماية» عبر نماذج اللغة المتقدمة.
يهدف الإطار المقترح إلى الحد من التباين في التقارير المقدمة من قبل المطورين والهيئات الحكومية. ومن شأن التوصل إلى تعريفات موحدة أن يحسّن إمكانية إجراء المقارنات عندما يكتشف الباحثون تقنيات جديدة قادرة على التحايل على إجراءات الحماية الحالية.
كما عززت الشركة تعاونها مع السلطات الفيدرالية بما يتجاوز عمليات المراجعة في حالات الطوارئ. وأوضحت شركة «أنثروبيك» أن الأعمال المستقبلية ستشمل توفير إمكانية الوصول إلى النماذج قبل طرحها، وإجراء اختبارات منسقة، وتبادل المعلومات بشأن حالات سوء الاستخدام، وتخصيص موارد بحثية لدعم تقييمات الأمن السيبراني.
ويشير هذا النهج إلى أن صانعي السياسات فضلوا التعاون المنظم بدلاً من فرض قيود متكررة على النشر. كما حصل المطورون على إجراءات أكثر وضوحًا لإثبات أن الإجراءات الوقائية المحدثة قد خفضت المخاطر التي تم تحديدها قبل الإصدارات العامة.
وانتقل الاهتمام الآن إلى الكيفية التي ستتم بها مراجعة نماذج «فرونتير» المستقبلية قبل إطلاقها. وبدت الوكالات الحكومية والمطورون أكثر استعدادًا للتنسيق في مرحلة مبكرة من دورة التطوير، وذلك في أعقاب الخلاف الذي نشب مؤخرًا حول إتاحة هذه النماذج للجمهور.
كما أظهرت آخر أخبار الذكاء الاصطناعي أن معايير الأمن السيبراني قد تصبح بنفس أهمية الأداء الأولي للنموذج. وتواجه شركة «أنثروبيك إيه آي» الآن تدقيقاً مستمراً، حيث يختبر الباحثون ما إذا كانت إجراءات الحماية المحدثة التي تطبقها قادرة على الصمود أمام محاولات «كسر الحماية» المستقبلية.
