بلاغ كاذب وتجاوز للقيود…”كلود” يتورط في سلوكيات غير مقصودة

أعلنت شركة “أنثروبيك” أن نموذج الذكاء الاصطناعي الخاص بها “كلود” نفذ إجراءات إضافية غير مقصودة على الأنظمة الرقمية لمنظمات خارجية بما في ذلك بعض مواقع الويب التابعة لوكالات حكومية أمريكية.

وأدرجت الشركة أربعة أنواع من السلوكيات غير المقصودة التي أظهرها “كلود” بما في ذلك استغلال العيوب الأساسية في البرامج وتجاوز القيود للوصول إلى بيانات عامة معينة وأوضحت الشركة في بيان أنها أطلعت البيت الأبيض على هذه الحالات وأخطرت كل وكالة معنية ونتيجة لذلك قامت بتقييد بعض أنواع الوصول إلى الإنترنت لنماذج الذكاء الاصطناعي الخاصة بها خلال مرحلة التدريب بحسب وكالة أنباء “بلومبرغ”.