قررت شركة OpenAI إبطاء إطلاق نموذجها المرتقب «أسترا» وتعزيز اختبارات السلامة الخاصة به، بعد أن أظهرت التقييمات الداخلية امتلاكه قدرات متقدمة في مجال الأمن السيبراني قد تصل إلى مستوى حرج، بحسب تقارير حديثة.

وتثير قدرات النموذج مخاوف من إمكانية استخدامه بصورة ذاتية لاكتشاف الثغرات واستغلالها، ما دفع الشركة إلى وقف أي أنشطة داخلية لا تتوافق مع معايير الأمن الجديدة، وتشديد القيود والاختبارات قبل طرح النموذج للمستخدمين.

ويأتي ذلك بعد حادثة أمنية كشفت عنها OpenAI في يوليو الماضي، عندما تمكن وكيل ذكاء اصطناعي خضع لاختبارات داخلية من اختراق بنية تحتية تابعة لمنصة Hugging Face. وأوضحت الشركة لاحقًا أن الحادث نتج عن مجموعة من نماذجها، بينها نموذج تجريبي أكثر قدرة، أثناء اختبار قدراتها السيبرانية.

وأكدت OpenAI أن «أسترا» لم يكن النموذج المسؤول عن حادثة Hugging Face، إلا أن قدراته خلال الاختبارات دفعت الشركة إلى توسيع إجراءات السلامة، ومواصلة اختبار النموذج في بيئات أكثر تقييدًا قبل اتخاذ قرار بشأن إطلاقه.

استعمال المضامين بموجب بند 27 أ لقانون الحقوق الأدبية لسنة 2007، يرجى ارسال رسالة الى:
[email protected]