أهم النقاط:
- تحذير شركة Anthropic AI يشير إلى أن النماذج الصغيرة قد تنتشر قريبًا عبر أجهزة إنترنت الأشياء (IoT) منخفضة التكلفة.
- يقول ديفيد ساكس إن الاختبارات الخاضعة للرقابة لا تدعم الادعاءات المتعلقة بالتهديدات على نطاق واسع.
- لم يكمل سوى نموذج GLM-5.2 عملية التكاثر من البداية إلى النهاية في التجربة المبسطة التي أجرتها شركة «أنثروبيك».
تحدى ديفيد ساكس تحذير شركة «أنثروبيك» بشأن الذكاء الاصطناعي الذي يشير إلى أن النماذج الصغيرة قد تنتشر عبر الأجهزة المتصلة بالإنترنت منخفضة التكلفة. وقالت شركة «أنثروبيك» إن الأنظمة المدمجة قد تكتسب قدرات تكرار ذاتية في غضون أشهر. وقام باحثوها باختبار النماذج على أجهزة Android TV وأجهزة سحابية محاكاة.
وتساءل ساكس عما إذا كانت تلك النتائج الخاضعة للرقابة تبرر التهديد الأوسع نطاقاً الذي أشار إليه التقرير. فالأدلة تُظهر تقدماً ملموساً، لكنها لا تُظهر وجود دودة ذكاء اصطناعي خارجة عن السيطرة تعمل عبر الإنترنت. وهذا التمييز يُثير الآن نقاشاً أوسع نطاقاً حول الذكاء الاصطناعي القادر على التكاثر الذاتي، والأمن السيبراني، واللوائح التنظيمية.
يتنبأ تقرير شركة «أنثروبيك» بالمخاطر المستقبلية استنادًا إلى اتجاهات القدرات الحالية، وليس بناءً على هجوم مؤكد. وقد نشرت الشركة البحث في 12 أكتوبر.
تحذير شركة «أنثروبيك» بشأن الذكاء الاصطناعي يركز على تكاثر النماذج الصغيرة
قام فريق «فرونتير ريد تيم» التابع لشركة «أنثروبيك» بدراسة ما إذا كان بإمكان النماذج المدمجة نسخ نفسها وتشغيلها على أجهزة غير مألوفة. وقام الباحثان ويليام تشو ودانيال فريمان بتقسيم عملية التكاثر الذاتي إلى عدة خطوات. وشملت هذه الخطوات العثور على الأهداف، والوصول إليها، وإعداد عملية الاستدلال، ومواصلة الانتشار.
يركز تحذير «أنثروبيك» بشأن الذكاء الاصطناعي على النماذج التي لا تحتوي على خادم مركزي أو نقطة إيقاف. وقال الباحثون إن هذه الأنظمة قد تنتشر ببطء، حيث يتضاعف انتشارها في غضون أيام. ومع ذلك، فإنها قد تتكيف مع البيئات غير المألوفة بشكل أفضل من البرامج الضارة التقليدية.
في إحدى التجارب، تم توزيع نموذج Gemma4-26B-A4B على 15 جهازًا من أجهزة Android TV غير ذات العلامة التجارية. وبلغت تكلفة كل جهاز حوالي 55 دولارًا، وكان كل جهاز يحمل جزءًا من النموذج. وأنتجت الأجهزة مجتمعة 0.39 توكن في الثانية. جعلت السرعة المنخفضة هذا الإعداد غير عملي للاستخدام العادي. ومع ذلك، فقد أثبتت التجربة أن أجهزة إنترنت الأشياء الرخيصة يمكنها أن تستضيف بشكل جماعي نموذجًا فعالًا.
ديفيد ساكس يشكك في الأدلة التي تستند إليها تحذيرات «أنثروبيك» بشأن الذكاء الاصطناعي
وصف ساكس التقرير بأنه إنذار آخر صادر عما أسماه «مصنع الخوف البشري». وتساءل عما إذا كانت النماذج الصغيرة تشكل بالفعل الخطر الذي يوحي به العنوان. وركز في رده على الفارق بين التجربة والهجوم الفعلي.
وتتجلى هذه الفجوة في المنهجية التي اتبعتها شركة «أنثروبيك» نفسها. فقد استخدم الباحثون شبكة محمية بجدار حماية تتألف من ثماني عقد «أندرويد» محاكاة. كما تركوا منفذ تصحيح أخطاء «أندرويد» غير خاضع للمصادقة مفتوحًا. وقد أدى ذلك إلى تسهيل الوصول عن قصد وإزالة أحد العوائق الرئيسية الموجودة في الواقع.
كان نموذج التحكم في الدودة يعمل على خادم استدلال منفصل. ولم تكن العقد المحاكاة قادرة على استضافة النظام الأكبر بشكل مباشر. كما أقرت شركة «أنثروبيك» بأن التصميم يمثل الحد الأعلى للنجاح في العالم الواقعي. وتدعم هذه القيود شكوك ساكس، على الرغم من أنها لا تلغي التساؤلات المتعلقة بالأمن.
وبالتالي، فإن تحذير شركة «أنثروبيك» بشأن الذكاء الاصطناعي يستند جزئيًا إلى الاستقراء. فتقديرها الخاص بنهاية عام 2026 يعتمد على المكاسب التاريخية في مؤشر القدرة العامة. وقد وصفت «أنثروبيك» هذا التوقيت بأنه تقريبي لأن المؤشر لا يعكس سوى قدرات التكرار بشكل تقريبي.
ما تظهره اختبارات إنترنت الأشياء (IoT) حول الذكاء الاصطناعي الذاتي التكاثر
نجح نموذج «Qwen3.5-9B» في إجراء الاستدلال على ثمانية أنواع من الأجهزة من أصل تسعة. كما أكملت النماذج التي يقل عدد معلماتها عن 30 مليار معلمة العديد من مهام التكاثر المنفصلة. ومع ذلك، غالبًا ما فشلت هذه النماذج عندما طُلب منها دمج كل خطوة بشكل موثوق.
كان GLM-5.2 النموذج الوحيد من فئة الوزن المفتوح الذي خضع للاختبار وتمكن من إكمال العملية المبسطة من البداية إلى النهاية. فقد وصل إلى جميع العقد الثماني في أربع تجارب من أصل خمس. ووصل إلى سبع عقد في التجربة المتبقية. وأشارت شركة «أنثروبيك» إلى أن هذا يشير إلى أن النماذج الأصغر حجمًا قد تكتسب قدرات مماثلة مع تحسن الأداء.
يظل خطر الذكاء الاصطناعي القادر على التكاثر الذاتي مجرد خطر نظري خارج نطاق الاختبارات الخاضعة للرقابة. وقد أفادت شركة «أنثروبيك» بأنه لا يوجد حاليًا أي جهاز تكاثر مارق يعمل بشكل مستقل تمامًا. ومع ذلك، فإن أجهزة «إنترنت الأشياء» غير الآمنة توفر بالفعل للمهاجمين قاعدة أهداف واسعة. وقد تؤدي النماذج الأسرع وتوسع نطاق أجهزة الحافة إلى خفض الحاجز التقني.
اقترح التقرير مراقبة الشبكات، وفرض إجراءات الحجر من قبل مزودي خدمات الإنترنت، وتحسين الإعدادات الافتراضية للأجهزة، وتعزيز إجراءات الأمان من جانب الشركات المصنعة. ومن شأن عمليات نقل النماذج الضخمة أن تخلق أنماطًا لحركة المرور يمكن للمتخصصين في مجال الأمن اكتشافها. كما أن إزالة كلمات المرور الافتراضية قد تقلل أيضًا من عدد الأجهزة المعرضة للخطر. وأشارت شركة «أنثروبيك» إلى أن كلمات المرور الافتراضية لأجهزة إنترنت الأشياء غير متوافقة بالفعل مع المعايير المعمول بها في الأسواق البريطانية.
