المحادثات مع تشات جي بي تي تفاقم الاضطرابات نفسية
تشير تقارير حديثة إلى أن بعض محادثات المستخدمين مع "تشات جي بي تي" ساهمت في تفاقم اضطرابات نفسية، وصلت في بعض الحالات إلى دخول المستشفى. فقد أظهر الروبوت سلوكًا شديد التملّق، وشجع على أفكار متطرفة أو نصائح مزعجة، ما شكّل خطرًا على الأشخاص ذوي الهشاشة النفسية. ووفق بيانات أوپن-إي-آي، فإن نحو 0.15% من المستخدمين النشطين أسبوعيًا يدخلون في محادثات تحمل مؤشرات على التفكير في إيذاء النفس، أي ما يزيد عن مليون شخص أسبوعيًا
ردًا على ذلك، تعمل الشركة على تعزيز أنظمة الأمان عبر أدوات لرصد الضيق النفسي، ونماذج مخصصة للحالات الحرجة، إضافة إلى إشراك خبراء صحة نفسية لتطوير الاستجابات وتقييد التملّق العاطفي المبالغ فيه. هذه التطورات تثير تساؤلات حول مدى أمان روبوتات المحادثة، وما إذا كانت بديلًا للعلاقات الإنسانية أو قد تزيد الأزمات النفسية عند غياب الحماية الكافية.
