اللجنة الفيدرالية للتجارة تطلق تحديًا لمكافحة مخاطر تقنية استنساخ الصوت بواسطة الذكاء الاصطناعي

نسخ الصوت: المخاطر والاستجابة التنظيمية

أصبح نسخ الصوت، الذي يتيح إعادة إنتاج صوت شخص ما بشكل يبدو واقعيًا للغاية، شائعًا بشكل متزايد هذا العام. وقد ظهرت مجموعة من الشركات الناشئة والتقنيات في مجال الذكاء الاصطناعي، بما في ذلك أغنية انتشرت بشكل واسع تضم نسخ أصوات أيقونات الموسيقى مثل دريك وذا ويكند.

ومع ذلك، فإن هذا الابتكار يثير مخاوف كبيرة بشأن سلامة المستهلك، خاصة فيما يتعلق بالاحتيال. تعتبر لجنة التجارة الفيدرالية (FTC)، المسؤولة عن منع الأذى الذي يتعرض له المستهلكون وتعزيز المنافسة العادلة في السوق، أن نسخ الصوت يمثل خطرًا كبيرًا. تخيل أنك تتلقى مكالمة من شخص يبدو أنه والدتك يطلب تحويل 5000 دولار بشكل عاجل، أو شخص يستخدم صوتك للوصول إلى حساباتك المصرفية عبر خدمة العملاء.

استجابةً لذلك، تخطط اللجنة لإعلان تحدي نسخ الصوت الاستكشافي في اجتماعها القادم في 16 نوفمبر. يهدف هذا الإجراء إلى تحفيز التقنيين والجمهور على تطوير حلول متعددة التخصصات لمكافحة الأضرار المحتملة الناتجة عن نسخ الصوت المدعوم بالذكاء الاصطناعي، بما في ذلك الاحتيال وسوء استخدام البيانات البيومترية.

تقدم سريع لتكنولوجيا نسخ الصوت

تتقدم تكنولوجيا نسخ الصوت بسرعة وتجذب استثمارًا كبيرًا. على سبيل المثال، أنتج أحد صناع الأفلام مؤخرًا فيديو مزيفًا يتضمن السيدة الأولى جيل بايدن، والذي انتقد سياسة الولايات المتحدة تجاه فلسطين. تم إنشاء الفيديو في غضون أسبوع واحد باستخدام ElevenLabs، إحدى الشركات الرائدة في هذا المجال، مما يبرز إمكانية الذكاء الاصطناعي في تصنيع روايات مقنعة.

تأسست ElevenLabs على يد موظفين سابقين في شركة استخبارات عسكرية وتجارية مثيرة للجدل، وقد نالت اهتمامًا كبيرًا من المستثمرين، حيث تسعى لجمع مليار دولار في جولة التمويل الثالثة هذا العام، وفقًا لتقارير Business Insider. يسلط هذا النمو السريع الضوء على الإمكانيات المربحة لنسخ الصوت، بالتزامن مع زيادة توفر الحلول مفتوحة المصدر.

ومع ذلك، فإن هذا التقدم السريع يأتي مع خطر سوء الاستخدام، ويعمل المنظمون على البقاء في المقدمة من خلال مبادرات استباقية مثل تحدي لجنة التجارة الفيدرالية.

معالجة مخاطر نسخ الصوت

تشكل قدرة نسخ الصوت على توليد خطاب يبدو أصليًا من بضع دقائق فقط من الصوت مصدر قلق رئيسي. تفتح هذه القدرة الأبواب لإنشاء محتوى صوتي ومرئي مضلل يمكن أن يضلل الجمهور. يحذر الخبراء من احتمال حدوث احتيال، واستخدام النسخ المزيفة لإحراج الأفراد، والدعاية الاصطناعية التي قد تعطل العمليات السياسية.

تعتمد جهود التخفيف الحالية في الأساس على ممارسات الصناعة الطوعية، لكنها قد لا تكون كافية. يمثل تحدي اللجنة بمثابة نهج منسق، يشجع على التعاون بين الأطراف المعنية لتطوير حلول تقنية وقانونية وسياسية لتعزيز المساءلة وحماية المستهلكين.

قد تشمل الاقتراحات تحسين أساليب الكشف عن النسخ المزيفة وتحديد معايير لأصالة الوسائط الاصطناعية. تهدف هذه الحلول إلى تعزيز الابتكار مع ضمان السلامة والمسؤولية.

التزام اللجنة بحماية المستهلك

أعربت لجنة التجارة الفيدرالية عن شكوكها بشأن مخاطر الذكاء الاصطناعي المنتِج من خلال تعليقات قدمت إلى مكتب حقوق النشر الأمريكي. وقد أثارت الوكالة مخاوف بشأن تدريب الذكاء الاصطناعي على "محتوى مسروق دون موافقة"، مما يرتبط بنقاشات حول ما إذا كانت أدوات نسخ الصوت تؤمن إذنًا كافيًا لاستخدام عينات صوت الأفراد. يسعى تحدي نسخ الصوت إلى وضع أفضل الممارسات لجمع البيانات الشخصية وإدارتها بشكل مسؤول.

بالإضافة إلى ذلك، سلطت اللجنة الضوء على مخاطر خداع المستهلكين من خلال انتحال الشخصية باستخدام الذكاء الاصطناعي. يهدف التحدي إلى تشجيع تطوير تقنيات تُنسب بشكل دقيق الخطاب الاصطناعي وتقليل حدوث النسخ المزيفة المضللة.

من خلال إطلاق هذه المبادرة، تسعى اللجنة للتأثير بشكل استباقي على توجه نسخ الصوت والتقنيات التوليدية الأخرى، موجهة إياها نحو حلول تعالج بفعالية مخاوف المستهلكين والمنافسة التي تم التعبير عنها في ملف حقوق النشر الخاص بها.