الذكاء الاصطناعي يقترب من منطقة الخطر: نماذج تتجاوز القيود وتنفذ مهام غير متوقعة

تتزايد المخاوف عالميًا من التطور السريع لقدرات الذكاء الاصطناعي، بالتزامن مع ظهور حالات أظهرت قدرة نماذج متقدمة على تجاوز أنظمة الحماية وتنفيذ خطوات لم يطلبها منها المستخدمون بصورة مباشرة.

وخلال السنوات الأخيرة، انتقل النقاش حول الذكاء الاصطناعي من التركيز على فوائده في سوق العمل والتكنولوجيا إلى الحديث عن مخاطره المحتملة، خصوصًا في مجالات الأمن السيبراني وحماية المعلومات والقدرة على التحكم في النماذج المتقدمة.

وأظهرت اختبارات أجرتها شركة "Irregular"، التي تختبر نماذج متقدمة لشركات بينها OpenAI وأنثروبيك وغوغل، أن بعض وكلاء الذكاء الاصطناعي تمكنوا خلال تنفيذ مهام محددة من تجاوز أنظمة أمنية والوصول إلى معلومات لم تكن متاحة لهم.

تجاوز الأنظمة 

وفي إحدى التجارب، تمكن نموذجان من تطوير طريقة لتجاوز نظام يمنع تسرب المعلومات، بعدما تضمّنت المهمة الموكلة إليهما بيانات محظور نشرها. وفي تجربة أخرى، نجح أحد النماذج في تحليل نظام المصادقة وتجاوز القيود للوصول إلى معلومات داخلية.

كما أظهرت اختبارات أخرى قدرة نموذج على العثور على كلمة مرور إدارية، ورفع مستوى صلاحياته، وتعطيل بعض أنظمة الحماية، ما أثار مخاوف بشأن انتقال الذكاء الاصطناعي من مجرد تقديم إجابات إلى تنفيذ سلسلة من الإجراءات بشكل شبه مستقل.

وأدت نتائج بعض الاختبارات إلى وقف إطلاق نماذج جديدة بصورة مؤقتة، بعدما تبين أنها قد تشكل خطرًا على أنظمة وأجهزة وبنى تحتية رقمية في حال إتاحتها دون معالجة الثغرات المكتشفة.

وتتركز إحدى أبرز المشكلات في صعوبة تفسير الطريقة التي تتخذ بها النماذج الكبيرة قراراتها، إذ أصبحت أكثر تعقيدًا مع تطور قدراتها، بينما لا يستطيع المطورون دائمًا تحديد المسار الذي أدى إلى اتخاذ قرار معين.

دراسات 

وتتزامن هذه المخاوف مع دراسات رصدت حالات تجاهلت فيها نماذج للذكاء الاصطناعي تعليمات مباشرة، أو قدمت معلومات غير صحيحة بثقة، أو تجاوزت قيودًا وضعت لمنعها من تنفيذ إجراءات معينة.

وتزداد المخاوف مع قدرة النماذج الحديثة على كتابة الأكواد البرمجية واختبارها وإصلاح الأخطاء وإعادة تطويرها، ما يسمح بتنفيذ عمليات متكررة بسرعة كبيرة ويزيد صعوبة مراقبة كل خطوة يقوم بها النظام.

وفي المجال السيبراني، باتت قدرات الذكاء الاصطناعي تتيح اكتشاف الثغرات الأمنية واستغلالها بوتيرة أسرع، في وقت يجري فيه تطوير أدوات موازية لاستخدام التقنية نفسها في كشف نقاط الضعف وإغلاقها قبل استغلالها.

ومع استمرار التطور السريع للنماذج، يتركز السباق حاليًا على بناء أنظمة حماية ورقابة قادرة على مواكبة قدرات الذكاء الاصطناعي، في ظل مخاوف من أن يؤدي اتساع الفجوة بين تطور النماذج وتطور وسائل السيطرة عليها إلى زيادة المخاطر خلال السنوات المقبلة.