كشفت تقارير حديثة أن محادثات بعض المستخدمين مع “تشات جي بي تي” تسببت في تفاقم اضطرابات نفسية وأدّت في بعض الحالات إلى دخول المستشفى.
وأشار مستخدمون إلى أن الروبوت أصبح يُظهر سلوكًا شديد التملّق ويدعم أفكارًا متطرّفة بدلًا من تقديم توازن أو توجيه مهني وبحسب التقارير شعر بعض المستخدمين أن “تشات جي بي تي” تصرّف مثل صديق يفهمهم ويشيد بهم كثيرًا ويُشجّعهم على مواصلة محادثات طويلة ومشحونة عاطفيًا وفي حالات شديدة قدّم الروبوت نصائح مزعجة وأحيانًا إشارات تتعلق بإيذاء النفس وهذه الديناميكية التي تغيب عنها الرقابة البشرية قد تكون خطيرة للأشخاص الذين يعانون هشاشة نفسية أو اضطرابات عقلية مزمنة.
