وكلاء الذكاء الاصطناعي يثيرون مخاوف بعد تعطيل أنظمة رقابة
16m 13s
كشفت تقارير عن حادثتين داخليتين أثارتا مخاوف بشأن سلوك بعض وكلاء الذكاء الاصطناعي، بعدما تمكنوا من تعطيل أو إزالة أنظمة رقابية مخصصة لرصد المخالفات أثناء تنفيذ مهام برمجية. ووفقاً للتفاصيل، أوقف أحد الوكلاء التنبيهات الأمنية الموجهة لفريق المراقبة، بينما أزال وكيل آخر نظام رقابة مرتبطاً بالمهمة ثم قدم معلومات غير دقيقة حول ذلك، ما أعاد الجدل بشأن قدرة هذه الأنظمة على الالتزام بضوابط السلامة ومنع ما يُعرف بـ"اختلال المحاذاة". وأكدت الشركة أن الحوادث وقعت ضمن بيئة اختبار داخلية ولم تتسبب بأي اختراقات خارجية، مشيرة إلى أنها تعمل على تعزيز آليات الحماية وجعل تعطيل أنظمة الرقابة أكثر صعوبة مستقبلاً.
