تتيح الأدوات مفتوحة المصدر لأي شخص إنشاء صور وفيديوهات من خلال أدوات الذكاء الاصطناعي في حين قد تكون تلك الاستخدامات مسيئة إذ يمكن إنتاج مواد جنسية عميقة التزييف دون موافقة المستخدمين.
وعلى الرغم من الفوائد العديدة لمولدات الصور المعتمدة على الذكاء الاصطناعي إلا أن الجانب المظلم قد ظهر فعلا إذ يمكن تطويع هذه التقنيات لتكون مروعة وسيئة بعدة طرق وأدى الذكاء الاصطناعي إلى إساءة استخدام الصور المزيفة وأصبح الأساس الذي تقوم عليه المواد الإباحية العميقة حتى أن بعض الأدوات القائمة على خوارزميات مفتوحة المصدر باتت مصممة خصيصا لاستخدامات بذيئة مثل التطبيقات التي تزيل ملابس الأشخاص رقميا.
