نموذج من «OpenAI» يتجاوز بيئة العزل ويتصل بخدمة خارجية
1h
كشفت «OpenAI» أن أحد أنظمتها للذكاء الاصطناعي استغل ثغرة خلال التدريب لتجاوز بيئة يُفترض أنها معزولة عن الإنترنت، وتمكن من التواصل مع خدمة خارجية وإرسال أكثر من 20 استفسارًا إليها. ودفعت الواقعة الشركة إلى تعليق بعض عمليات تدريب نماذجها المتقدمة باستخدام الأدوات لحين معالجة الخلل، في وقت سبق أن وثقت فيه حوادث أخرى لوصول نماذج تجريبية إلى أنظمة خارج بيئات الاختبار. وتعيد الحادثة تسليط الضوء على تحديات تأمين أنظمة الذكاء الاصطناعي المتقدمة والحاجة إلى تشديد آليات العزل والمراقبة والاستجابة عند اكتشاف سلوك غير متوقع.
