الذكاء الاصطناعي يستنسخ الصوت واستخدامه المسيء يثير القلق

أعلنت شركة “إيلفن لابز” الناشئة، التي طرحت أداة استنساخ للصوت مستخدمة برمجيات الذكاء الاصطناعي، أنها رصدت “تزايدا في الاستخدام المسيء”.

وأطلقت الشركة التي تتخذ من لندن مقرا لها، في الآونة الأخيرة، نسخة تجريبية من منصتها لإنشاء “أدوات تنتج كلمات بأصوات قريبة جدا من الواقع” بعدما تمكنت من جمع مليوني دولار، وفق ما ذكرت “فرانس برس”، الثلاثاء.

وتشارك مستخدمون من صفحة “4 شان” المجهولة رسائل جرى إنشاؤها باستخدام البرنامج وفيها أصوات مُزيّفة لعدد من المشاهير بينهم الممثلة البريطانية إيما واتسون، والإعلامي الأميركي جو روغان، بهدف جعلهم ينطقون جملا تنطوي على عنصرية وتمييز جنسي ورهاب المثلية.

وفي إحدى هذه الرسائل، يُسمع صوت مماثل لصوت إيما واتسون وهو يقرأ مقطعا من كتاب “كفاحي” للزعيم النازي أدولف هتلر، فيما يُسمَع في رسالة أخرى صوت مشابه لصوت المحلل الأميركي بن شابيرو يهدد باغتصاب النائبة ألكساندريا أوكاسيو كورتيز.

وأُسيء أيضا استخدام صوتَي المخرجين كوينتن تارانتينو وجورج لوكاس.

وغرّدت “إيلفن لابز”: “نرغب في حل هذه المشكلة من خلال اعتماد إجراءات حماية إضافية”.

ومن بين اقتراحات الشركة الناشئة، تعزيز عملية تحديد هوية المستخدم، والتحقق بشكل أفضل من حقوق الملكية الفكرية للنماذج، واعتماد إجراءات تحقق يدوية.

و”إيلفن لابز” هي واحدة من شركات عدّة تتولى تطوير برامج تستند إلى برمجيات الذكاء الاصطناعي ويمكن لأي كان استخدامها.

وحظيت هذه الأدوات باهتمام كبير منذ أن أطلقت شركة “أوبن أيه اي” في نهاية العام الفائت، روبوت المحادثة “تشات جي بي تي” القادر على الإجابة على مجموعة متنوعة من الأسئلة وكتابة نصوص.

لكن هذه البرامج مصحوبة بمخاوف مرتبطة بتقنية “ديب فايك” (التزييف العميق) التي تقوم على إجراء تلاعبات رقمية بصور أو أصوات إلى حد التطابق مع الواقع.