كشف باحثون من شركة كنوستيك الإسرائيلية للأمن السيبراني عن ثغرة جديدة في أنظمة الذكاء الاصطناعي الكبيرة مثل شات جي بي تي ومايكروسوفت كوبايلوت تتيح استخراج معلومات حساسة رغم وجود أنظمة الحماية تعتمد الثغرة على استغلال عملية تدفق الإجابات حيث يتم عرض البيانات للمستخدم قبل أن تتمكن أنظمة الحماية من فحصها وحذفها مما يسمح بكشف معلومات مثل الرواتب والمراسلات الحساسة والأسرار التجارية
الباحثون أوضحوا أن النظام يظهر المعلومات لفترة قصيرة قبل أن يحذفها مما يمكن المستخدمين من تسجيل الجلسات واسترجاع البيانات لاحقًا كما تضمنت الثغرات المكتشفة تقنيات مثل إعادة التفكير التي ترسل الإجابة قبل فحصها وتوقف وتدفق التي تعرض الإجابة عند إيقاف النظام
شركة كنوستيك التي تأسست عام ألفين وثلاثة وعشرين تعمل في مجالات الأمن السيبراني وتقدم خدماتها لقطاعات المال الصحة التكنولوجيا والتجزئة وتواصل تطوير حلول لمعالجة تحديات الأمان في أنظمة الذكاء الاصطناعي.
[email protected]
أضف تعليق