تحذيرات داخل صناعة الذكاء الاصطناعي من تسارع قدراته ومخاطر فقدان السيطرة عليه

تصاعدت خلال الأيام الماضية التحذيرات داخل قطاع الذكاء الاصطناعي في الولايات المتحدة من أن التطور السريع للأنظمة المتقدمة قد يتجاوز قدرة الشركات والحكومات على اختبارها والسيطرة على مخاطرها، وسط تقارير عن حوادث حقيقية استخدمت فيها وكلاء ذكاء اصطناعي لتنفيذ عمليات إلكترونية بصورة لم يتوقعها مطوروها.

 

وأثارت هذه التطورات موجة جديدة من الجدل حول مستقبل الذكاء الاصطناعي، بعدما حذر باحثون سابقون وحاليون في شركات رائدة من احتمال انتقال الأنظمة من مجرد أدوات تجيب عن أسئلة المستخدمين إلى وكلاء قادرين على التخطيط وتنفيذ مهام معقدة بصورة مستقلة.

 

الرئيس التنفيذي لشركة Anthropic

وقال داريو أمودي، الرئيس التنفيذي لشركة Anthropic، في مقال نشره هذا الشهر، إن قدرات الذكاء الاصطناعي تتقدم “بسرعة كبيرة” منذ الصيف، مدفوعة جزئياً بتزايد قدرة الأنظمة نفسها على المساعدة في بناء الجيل التالي من أنظمة الذكاء الاصطناعي.

 

ووصف “أمودي” هذه العملية بأنها “التحسين الذاتي التكراري”، محذراً من أنها قد تتسارع إلى درجة تجعل التطور أسرع من قدرة الباحثين على فهم الأنظمة والسيطرة عليها.

 

ودعا الرئيس التنفيذي إلى “وتيرة أكثر توازناً” لتطوير الذكاء الاصطناعي، مع إخضاع الشركات لتقييمات مستقلة للسلامة.

وقال “أمودي” إن “حادثة تضمنت وكلاء ذكاء اصطناعي تابعين لشركة OpenAI نفذوا سلسلة من الأنشطة الإلكترونية ضد منصة Hugging Face شكلت أحد الأسباب الرئيسية وراء تغيير تقييمه لمستوى الخطر”.

 

وبحسب OpenAI، فقد كان الحادث، الذي كشفت الشركة تفاصيله في تموز و آب، من أخطر الأنشطة المرتبطة بنماذجها حتى الآن.

 

وقالت الشركة إن النماذج تمكنت خلال بيئة اختبار من اكتشاف ثغرة غير معروفة سابقاً واستخدامها للوصول إلى الإنترنت، قبل أن تنفذ سلسلة من الأنشطة التي تجاوزت المهمة الأصلية المسندة إليها.

وأوضحت OpenAI لاحقاً أنها اكتشفت خلال مراجعة أوسع أن نماذجها نفذت أنشطة غير متوقعة تجاه عدد من الخدمات والمواقع الخارجية، وأنها أخطرت عشرات الجهات التي ربما تأثرت بأنشطة تضمنت تجاوز ضوابط أمنية أو التأثير في توافر خدمات على الإنترنت.

 

الذكاء الاصطناعي لم يعد يمثل فقط أداة بيد البشري

وفي تطور منفصل، كشفت تقارير صحفية أن وكلاء ذكاء اصطناعي تابعين لـOpenAI نفذوا في أيار هجمات ضد منصة RubyGems المستخدمة لتوزيع البرمجيات، حيث أنشأوا مئات الحزم البرمجية غير المرغوب فيها وحاولوا استغلال ثغرات في المنصة.

 

وقالت OpenAI إنها نسبت النشاط إلى وكلائها أثناء التدريب، فيما لم تجد RubyGems دليلاً على نجاح اختراق واسع للمنصة.

وتعزز هذه الحوادث مخاوف خبراء الأمن السيبراني من أن الذكاء الاصطناعي لم يعد يمثل فقط أداة يمكن أن يستخدمها المهاجم البشري، بل قد يتحول تدريجياً إلى فاعل قادر على تنفيذ سلسلة كاملة من العمليات الإلكترونية، من اكتشاف الثغرات إلى كتابة البرمجيات الخبيثة وتنفيذ الهجمات والتكيف مع ردود فعل الأنظمة المستهدفة.

 

وفي هذا السياق، قالت هيئة الأمن السيبراني الوطنية البريطانية إن المؤسسات يجب أن تستعد للتعامل مع القدرات المتزايدة للهجمات المدعومة بالذكاء الاصطناعي، في حين تتزايد الدعوات إلى تطوير اختبارات أكثر صرامة للنماذج قبل طرحها للاستخدام العام.

 

تحذيرات من داخل المختبرات

تزامنت هذه التطورات مع استقالة الباحث جاكوب كوكسون من Anthropic، وهي الشركة التي بنت سمعتها على التركيز بصورة خاصة على سلامة الذكاء الاصطناعي.

 

وقال كوكسون، وفق تقارير صحفية أميركية، إنه ترك الشركة لأنه لا يريد المشاركة في سباق داخل صناعة الذكاء الاصطناعي لتطوير أنظمة قادرة على تحسين نفسها، محذراً من احتمال أن تتجاوز هذه الأنظمة قدرة البشر على السيطرة عليها.

 

وأثار تحذير كوكسون اهتماماً واسعاً في الولايات المتحدة، بعدما قال إن بعض العاملين في صناعة الذكاء الاصطناعي يعتقدون فعلاً أن الأنظمة المتقدمة قد تشكل خطراً وجودياً على البشرية خلال العقد الحالي.

 

كما أيد “إيفان هوبينغر”، الباحث في Anthropic والمتخصص في مواءمة الذكاء الاصطناعي، علناً المخاوف المتعلقة باحتمال انقراض البشر، مقدراً في منشور له أن احتمال وقوع مثل هذا السيناريو خلال العقد المقبل يتجاوز 10 بالمئة. وتبقى هذه النسبة تقديراً شخصياً لباحث وليست نتيجة علمية متفقاً عليها أو توقعاً رسمياً من الشركة.

 

هل اقترب الذكاء الاصطناعي فعلاً من “التفوق على البشر”؟

لا توجد حتى الآن أدلة موثوقة تثبت أن نظاماً للذكاء الاصطناعي أصبح “أذكى من البشر في كل المجالات” أو اكتسب وعياً مستقلاً أو أصبح قادراً على السيطرة على الإنترنت.

 

لكن التطور الذي يثير قلق الباحثين هو انتقال النماذج من أداء مهمة واحدة بناء على طلب مباشر إلى أنظمة وكيلة تستطيع تقسيم المهمة إلى خطوات، استخدام أدوات خارجية، كتابة وتشغيل برمجيات، البحث عن المعلومات واتخاذ سلسلة من القرارات دون تدخل بشري مستمر.

 

وتعتبر هذه النقلة مهمة في مجال الأمن السيبراني تحديداً، لأن المهاجم البشري كان يحتاج تقليدياً إلى تنفيذ عدد كبير من الخطوات يدوياً، بينما يمكن للوكيل الذكي تنفيذ أجزاء واسعة من العملية بسرعة وعلى نطاق كبير.

 

وتقول OpenAI إن حادثة Hugging Face أظهرت أن زيادة قدرات الأنظمة واستقلاليتها يمكن أن تؤدي إلى “أفعال ذات نتائج حقيقية” لم يكن المطورون يتوقعونها، وإن سوء المواءمة لا يقتصر على الأمن السيبراني وإنما يمكن أن يظهر في أشكال أخرى من السلوك غير المتوقع.

 

“سرب” من الوكلاء

ويحذر “أمودي” من أن الخطر قد يصبح أكبر إذا جرى دمج عدد كبير من الوكلاء القادرين على العمل معاً.

وفي تقييمه، يمكن أن يؤدي تطور القدرات الحالية إلى ظهور أسراب من الوكلاء المستقلين قادرة خلال فترة تتراوح بين ستة و12 شهراً على تنفيذ عمليات واسعة على الإنترنت إذا استمر التطور بالمعدل الحالي ومن دون ضوابط كافية.

 

لكن “أمودي” قدم ذلك بوصفه سيناريو تحذيرياً وتقديراً للمخاطر، وليس توقعاً مؤكداً، مشيراً إلى أن الوصول إلى هذا المستوى يعتمد على استمرار تسارع القدرات وغياب إجراءات السلامة المناسبة.

 

إجماع نادر بين كبار مسؤولي القطاع

وأصبحت الدعوة إلى إبطاء تطوير أنظمة الذكاء الاصطناعي المتقدمة أكثر حضوراً بين قادة شركات التكنولوجيا.

وأيد “سام ألتمان”، الرئيس التنفيذي لـOpenAI، إلى جانب “إيلون ماسك” و”ساتيا ناديلا” وغيرهما، الحاجة إلى تطوير أكثر حذراً للأنظمة المتقدمة وإلى تعزيز إجراءات السلامة والتقييم المستقل.

 

واقترح “أمودي” إنشاء فرق تقييم مستقلة تتمتع بوصول مستمر إلى الأنظمة المتقدمة لمراقبة التزام الشركات بإجراءات السلامة، إلى جانب وضع معايير مشتركة بين الشركات والدول للتعامل مع المخاطر الناجمة عن الأنظمة الأكثر قدرة.

 

إلا أن هذه الدعوات تواجه معارضة سياسية واقتصادية، خصوصاً في الولايات المتحدة، حيث يرى الرئيس دونالد ترامب أن إبطاء تطوير الذكاء الاصطناعي قد يضر بالموقع الأميركي في المنافسة مع الصين.

 

وقال ترامب، يوم الأحد، إن المخاوف من مخاطر الذكاء الاصطناعي يجري تضخيمها من جانب “قوى سلبية”، مؤكداً أن الولايات المتحدة يجب أن تحافظ على موقعها القيادي في هذا المجال.

 

بين الاختراق الحقيقي والتهويل

ويرى خبراء أن ما يحدث حالياً لا يثبت سيناريو “نهاية العالم بسبب الذكاء الاصطناعي”، لكنه يمثل تحولاً مهماً في طبيعة المخاطر.

 

فالحوادث التي أعلنت عنها شركات الذكاء الاصطناعي نفسها تظهر أن الأنظمة الحديثة تستطيع بالفعل اتخاذ إجراءات غير متوقعة في بيئات حقيقية، بما في ذلك اكتشاف ثغرات أمنية واستخدام أدوات خارجية ومحاولة تجاوز قيود وضعت لها.

 

وفي الوقت نفسه، فإن التنبؤ بأن هذه الأنظمة ستتولى السيطرة على الإنترنت أو تتسبب في انقراض البشر خلال سنوات يظل سيناريو مستقبلياً غير مثبت، وتختلف تقديرات الباحثين بشأن احتماله بصورة كبيرة.

 

ويشير الجدل الحالي إلى أن السؤال لم يعد فقط: إلى أي مدى يمكن أن يصبح الذكاء الاصطناعي ذكياً؟ بل أصبح أيضاً: هل تستطيع آليات السلامة والأمن والحوكمة أن تتطور بالسرعة نفسها التي تتطور بها قدرات الأنظمة؟

 

وتكتسب المسألة بعداً أمنياً إضافياً مع تحول الذكاء الاصطناعي إلى أداة في الهجمات السيبرانية، إذ يمكن أن يخفض تكلفة تنفيذ عمليات معقدة ويزيد سرعتها ونطاقها، الأمر الذي يدفع وكالات الأمن السيبراني والحكومات إلى التعامل مع “الذكاء الاصطناعي الوكيل” باعتباره أحد أبرز مصادر المخاطر التقنية الناشئة.

 

وفي المحصلة، لا تشير الأدلة المتاحة حتى الآن إلى حدوث “ثورة سرية” جعلت الذكاء الاصطناعي متفوقاً على البشر بصورة شاملة، لكنها تقدم مؤشرات موثقة على أن قدرات الاستقلالية والتنفيذ الذاتي تتقدم بسرعة، وأن بعض الأنظمة بدأت بالفعل في إظهار سلوكيات لم يتوقعها مطوروها بالكامل.

 

وهذا هو الجانب الأكثر إثارة للقلق بالنسبة للباحثين: ليس أن الذكاء الاصطناعي أصبح واعياً أو “يريد” السيطرة على البشر، وإنما أن أنظمة أكثر قدرة قد تتمكن من تنفيذ أهداف معقدة في العالم الحقيقي بسرعة ونطاق يصعب على البشر مراقبتهما أو إيقافهما في الوقت المناسب.