أنثروبيك تحذر من اقتراب الذكاء الاصطناعي من تطوير أجيال أكثر تقدما من نفسه

يتسارع تطور الذكاء الاصطناعي مع اتساع نطاق استخدام النماذج في كتابة البرمجيات وإجراء التجارب وتحليل النتائج، غير أن التحول الأبرز قد يكون انتقال هذه الأنظمة من مجرد مساعدة البشر في تطوير الذكاء الاصطناعي إلى المشاركة في تصميم وتطوير أجيال جديدة أكثر قدرة منه.

وفي هذا السياق، حذرت شركة أنثروبيك، المطورة لنماذج «كلود» (Claude)، من اقترابها من مرحلة متقدمة في توظيف الذكاء الاصطناعي لتسريع تطوير أنظمة أكثر تطورا، وهو ما يفتح الباب أمام تساؤلات بشأن مستقبل الرقابة البشرية، ومدى قدرة الشركات على ضمان سلامة النماذج في ظل التسارع المتزايد لقدراتها.

وجاءت هذه التحذيرات ضمن إفصاحات الشركة الواردة في وثيقة التسجيل المعدلة للاكتتاب العام، التي نشرتها مؤخرا، وتطرقت فيها إلى احتمال اقتراب نماذجها من مستوى متقدم في مجال يُعرف باسم «التحسين الذاتي التكراري»، مع التأكيد أن نماذجها الحالية لم تبلغ هذه المرحلة بصورة كاملة.

ما التحسين الذاتي التكراري؟

يشير مفهوم التحسين الذاتي التكراري (Recursive Self-Improvement) إلى قدرة أنظمة الذكاء الاصطناعي على المساهمة في تطوير أنظمة أخرى أكثر تقدما، من خلال المشاركة في تصميم البرمجيات وإجراء التجارب وتحليل النتائج، وصولا إلى المساهمة في تدريب نماذج جديدة.

وتعتمد هذه العملية على دورة متتابعة، إذ يساعد نموذج ذكاء اصطناعي في تطوير إصدار أحدث يمتلك قدرات أكبر، ثم يستخدم النموذج الجديد إمكاناته المحسنة للمشاركة في تطوير الجيل التالي، وهو ما قد يؤدي إلى تسارع تراكمي في قدرات الأنظمة.

ولا يقتصر الأمر على استخدام روبوتات الدردشة لكتابة الشيفرات البرمجية أو تنفيذ تعليمات يحددها المهندسون، بل يتطلب وصول الأنظمة إلى مستوى يسمح لها بالمشاركة في مراحل متعددة من البحث والتطوير، بدءا من تحديد المشكلات واقتراح الحلول، مرورا بتنفيذ التجارب وتقييم نتائجها، وانتهاء باقتراح التحسينات.

وبحسب تحليل نشره معهد أنثروبيك، لا يزال الوصول إلى هذه المرحلة احتمالا مستقبليا، لكنه يستدعي الاستعداد لاحتمال تطور قدرات الذكاء الاصطناعي بوتيرة أسرع من التوقعات الحالية.

مؤشرات على تسارع التطوير داخل أنثروبيك

تستند مخاوف الشركة إلى مؤشرات تتعلق بالتوسع المتزايد في استخدام نماذجها ضمن عمليات التطوير الداخلية، خصوصا في مجالات كتابة الشيفرات البرمجية والمشاركة في التجارب البحثية.

ووفقا لبيانات نشرها معهد أنثروبيك، كتب نموذج «كلود» أكثر من 80% من الشيفرات البرمجية التي أدمجتها الشركة في قاعدة شيفرتها خلال مايو/أيار الماضي، وهو ما يعكس تنامي الاعتماد على النماذج في أعمال التطوير الهندسي.

كما أشار المعهد إلى أن مهندسي الشركة أصبحوا يدمجون يوميا كمية من الشيفرات تعادل نحو 8 أضعاف ما كانوا يدمجونه خلال عام 2024، مع التنبيه إلى أن عدد الأسطر البرمجية لا يمثل بمفرده مقياسا دقيقا للإنتاجية أو جودة العمل.

ولم يقتصر هذا التوسع على البرمجة، بل امتد إلى التجارب البحثية، إذ تقول أنثروبيك إن نماذجها أصبحت قادرة على تنفيذ تجارب محددة، وتعديل الشيفرات المستخدمة فيها، وتحليل النتائج، ثم اقتراح تحسينات إضافية.

وفي أحد الاختبارات الداخلية التي أوردها المعهد، ارتفع متوسط تسريع نموذج التدريب المصغر من نحو 3 أضعاف باستخدام «كلود أوبوس 4» في مايو/أيار 2025، إلى نحو 52 ضعفا باستخدام «كلود ميثوس بريفيو» في أبريل/نيسان الماضي، مقارنة بالشيفرة الأصلية للاختبار.

لكن هذه النتيجة لا تعني تسريع تدريب نماذج الذكاء الاصطناعي الكبيرة بالمقدار نفسه، إذ تتعلق بتحسين الشيفرة المستخدمة في تجربة محددة.

وتعكس هذه المؤشرات تغيرا في طبيعة العمل داخل مختبرات الذكاء الاصطناعي، حيث بات بإمكان المهندسين تفويض النماذج بمزيد من مهام البرمجة والاختبار وتحليل النتائج، مع استمرار دورهم في المراجعة واتخاذ القرارات البحثية الأساسية.

فرص علمية تقابلها مخاطر متزايدة

يحمل التحسين الذاتي التكراري المحتمل فرصا كبيرة لتسريع الابتكار في قطاعات متعددة، لا سيما من خلال تقليص الوقت والتكاليف المرتبطة بالأبحاث والتجارب المعقدة.

فقد تسهم النماذج الأكثر تطورا في مساعدة الباحثين على تحليل كميات ضخمة من البيانات واختبار الفرضيات العلمية، إلى جانب تطوير البرمجيات والأدوات البحثية وتسريع اكتشاف الأدوية والمواد الجديدة، وتحسين كفاءة استخدام الموارد الحاسوبية.

لكن هذه الفرص تقابلها مخاطر تتعلق بإمكانية تطور قدرات النماذج بوتيرة تتجاوز قدرة البشر على اختبارها ومراقبتها. فكلما اتسعت مشاركة الأنظمة في تطوير أجيال لاحقة، ازدادت أهمية التأكد من أن التعديلات التي تجريها لا تؤدي إلى إدخال أخطاء أو سلوكيات غير مرغوب فيها.

وتحذر أنثروبيك من احتمال انتقال الأخطاء والتحيزات من نموذج إلى آخر وتراكمها عبر أجيال متعاقبة، ما قد يجعل اكتشافها ومعالجتها أكثر صعوبة. كما تثير مخاوف من أن تتقدم قدرات الأنظمة بسرعة تفوق تطور إجراءات السلامة والمواءمة، الأمر الذي قد يضع فرق الاختبار أمام تحديات متزايدة.

وتبرز الرقابة البشرية بوصفها إحدى أبرز نقاط القلق، إذ إن قدرة النماذج على إنتاج الشيفرات وإجراء التجارب بسرعة كبيرة قد تجعل مراجعة جميع مخرجاتها مهمة صعبة، خصوصا عندما يتجاوز دورها تنفيذ المهام التقنية إلى اقتراح التجارب واختيار مسارات البحث وتقييم النتائج.

الإنسان أمام تسارع قدرات الذكاء الاصطناعي

تضع هذه التطورات شركات الذكاء الاصطناعي أمام تحد يتجاوز تحسين أداء النماذج، ويتمثل في ضمان مواكبة إجراءات الاختبار والمراجعة لسرعة التطوير.

وتؤكد أنثروبيك أهمية تعزيز الإشراف البشري على عمليات البحث والتطوير، وتقييم سلامة مراحل التدريب، إلى جانب إمكانية تأجيل بعض العمليات أو إيقافها عندما لا تكون إجراءات الحماية المتاحة كافية.

كما تبرز الحاجة إلى تنسيق الجهود بين الشركات المطورة للنماذج المتقدمة، لتجنب تحول المنافسة إلى سباق نحو إطلاق أنظمة أكثر قدرة على حساب متطلبات السلامة والرقابة.

ولا تعني هذه التطورات أن الذكاء الاصطناعي أصبح قادرا على تطوير نفسه بصورة مستقلة تماما، أو أن الوصول إلى التحسين الذاتي التكراري الكامل بات أمرا واقعا، لكنها تكشف عن تحول متسارع في طبيعة صناعة هذه التكنولوجيا، مع تزايد مشاركة النماذج في مهام كانت تعتمد سابقا بصورة أساسية على المهندسين والباحثين.

ويبقى التحدي الأهم هو الحفاظ على قدرة الإنسان على فهم هذه الأنظمة والتحقق من نتائجها والتحكم في مسار تطورها، بما يضمن عدم اتساع الفجوة بين سرعة تقدم الذكاء الاصطناعي والقدرة على مراقبته وضمان سلامته.