حرفان يخترقان عقل الروبوت…تجربة تكشف مفاجأة صادمة

كشفت تجربة أجراها باحثون أمريكيون عن ثغرة أمنية في أنظمة الذكاء الاصطناعي المستخدمة لتخطيط حركات الروبوتات بعدما تمكنوا من دفع روبوت إلى تغيير هدفه وتوجيه سكين نحو يد بشرية اصطناعية بدلًا من تفاحة بلاستيكية.

وذلك باستخدام حرفين أُضيفا إلى أمر عادي وأجرى علماء حاسوب في جامعة بينغهامتون بولاية نيويورك التجربة لاختبار مخاطر الاعتماد على نماذج اللغة الكبيرة في تحويل التعليمات البشرية إلى خطوات تنفذها الروبوتات فعليًا وعندما أُضيف الحرفان “CF” إلى نهاية التعليمات أنتج النموذج المخترق خطة مختلفة استبدلت التفاحة باليد الاصطناعية هدفًا لحركة التقطيع ثم نفذ الروبوت الخطة المعدلة خلال التجربة ولا يعني ذلك أن الحرفين يشكلان شفرة سحرية قادرة على اختراق أي روبوت فقد اختير المحفز ضمن هجوم أُعد مسبقًا على نموذج محدد.