“زر الإيقاف” لا يكفي…لماذا قد تعجز البشرية عن إطفاء الذكاء الاصطناعي؟

لطالما حذر باحثو الذكاء الاصطناعي من فقدان البشر السيطرة على هذه التقنية لكن ما تغيَّر مؤخراً هو التطور الهائل في قدرات هذه الأنظمة الجديدة وسلسلة من الحوادث والتحذيرات التي جعلت هذا الاحتمال يبدو أكثر واقعية.

وتأتي هذه التحركات في ظل تحذيرات صدرت أخيرًا من شخصيات وعاملين في قطاع الذكاء الاصطناعي بشأن المخاطر التي قد تنشأ مع تطور قدرات النماذج؛ ما أعاد طرح مسألة كيفية ضمان قدرة البشر على إيقاف هذه الأنظمة عند الحاجة ودفعت حوادث تعرضت لها “أوبن إيه آي” شركات أخرى إلى مراجعة إجراءاتها الأمنية لاختبار الذكاء الاصطناعي المتقدم. وأفادت شركتا “أنثروبيك” و”ميتا” باكتشاف ثغرات أمنية لم تكن معروفة من قبل.