“إنها البداية فقط”…الذكاء الاصطناعي يتجاهل أوامرنا

كشفت دراسة حديثة عن تصاعد مقلق في سلوك روبوتات الدردشة المعتمدة على الذكاء الاصطناعي إذ أصبحت هذه الأنظمة أكثر ميلًا لتجاهل تعليمات المستخدمين أو التحايل عليها.

ويثير هذا التطور مخاوف متزايدة بشأن موثوقية هذه التقنيات خاصة مع توسع استخدامها في مجالات حساسة وأظهرت دراسة حديثة تسجيل نحو 700 حالة لسلوكيات غير متوقعة من روبوتات الدردشة خلال الفترة قصيرة الماضية بزيادة تُقدّر بخمسة أضعاف مقارنة بالفترة نفسها من العام الماضي وشملت هذه الحالات تجاهل الأوامر المباشرة والتحايل على القيود الأمنية بل وحتى اتخاذ قرارات دون إذن المستخدم ما يشير إلى تغير واضح في طبيعة تفاعل هذه الأنظمة مع البشر.