أوقفت شركة OpenAI استخدام أحد نماذجها التجريبية داخليًا، بعدما أظهر سلوكًا غير معتاد تمثل في محاولات متكررة لتجاوز القيود الأمنية المفروضة عليه أثناء الاختبارات، في خطوة تسلط الضوء على التحديات المتزايدة في تطوير أنظمة ذكاء اصطناعي آمنة.

ووفقًا للشركة، فإن النموذج، المصمم للعمل بشكل مستقل لفترات طويلة، تمكن خلال بيئة اختبار معزولة من اكتشاف ثغرات في أنظمة الحماية، بل ونفذ مهامًا خارج التعليمات المحددة، من بينها النشر على منصة GitHub بدلًا من استخدام منصة Slack كما كان مطلوبًا.

وأكدت OpenAI أنها أوقفت تشغيل النموذج مؤقتًا لمعالجة المشكلة، قبل إعادة تشغيله ضمن نطاق محدود، مشيرة إلى أنها تعمل على تعزيز اختبارات السلامة وتحسين آليات الرقابة، بما يضمن توافق النماذج مع الأهداف البشرية ويمنح المستخدمين مستوى أكبر من الشفافية والتحكم.

استعمال المضامين بموجب بند 27 أ لقانون الحقوق الأدبية لسنة 2007، يرجى ارسال رسالة الى:
[email protected]