رصد بحث تكنولوجي جديد وجود طفرة مثيرة للقلق في إنتاج ما يطلق عليه مقاطع فيديو بتقنية “التزييف العميق Deepfake”، وتضاعف عدد هذه المقاطع على الإنترنت خلال الأشهر التسعة الماضية تقريبا، وهناك ما يشير أيضا إلى أن إنتاج مقاطع الفيديو هذه أصبح عملا مربحا.
وعلى الرغم من تركيز حالة القلق على استخدام هذه المقاطع لأغراض سياسية، إلا أن الأدلة تشير إلى أن المواد الإباحية تمثل الغالبية العظمى من استخدام مثل هذه المقاطع.
أجرى البحث مؤسسة “ديب تريس” للأمن الإلكتروني، ورصد الباحثون إنتاج 14698 مقطع فيديو على الإنترنت، مقارنة بـ 7964 مقطعا في ديسمبر/كانون الأول 2018.
وقال الباحثون إن 96 في المئة من المواد كانت إباحية في طبيعتها، وغالبا ما يكون الوجه لشخصية شهيرة يستبدل بها وجه الممثل الأصلي المصور في مشهد يمارس نشاطا جنسيا.
وعلى الرغم من أن العديد من الموضوعات المعروضة كانت لممثلات أمريكيات وبريطانيات، إلا أن الباحثين وجدوا أن مغنيين بوب من كوريا الجنوبية قد استُخدموا أيضا بكثرة في إنتاج مقاطع فيديو مزيفة، مما يؤكد أنها ظاهرة عالمية.
ويسلط التقرير الضوء على إمكانية استخدام تقنية “التزييف العميق” في الحملات السياسية، وعلى الرغم من ذلك من الواضح أن الخطر الحقيقي في الوقت الراهن يكمن في استخدام التكنولوجيا في أغراض الانتقام الإباحي والتنمر عبر الإنترنت.
ويقول هنري أجدر، رئيس تحليل الأبحاث في مؤسسة “ديب تريس” ، إن الكثير من المناقشات التي تثار بشأن تقنية التزييف العميق تخطيء الهدف.
وأضاف : “يدور النقاش حول السياسة أو الاحتيال والتهديد على المدى القريب، لكن الكثير من الناس ينسون أن المواد الإباحية المثيرة للقلق تعد ظاهرة حقيقية للغاية، وتؤذي الكثير من النساء”.
صور مزيفة، وأموال حقيقية
ويعد وجود مؤسسة “ديب تريس” في حد ذاته دليلا على سرعة انتشار ظاهرة “التزييف العميق” على نحو أصبح مصدر قلق للشركات والحكومات.
وتصف المؤسسة مهمتها بأنها تهدف إلى “حماية الأفراد والمنظمات من الآثار الضارة الناجمة عن الوسائط التي تستعين بتقنيات الذكاء الاصطناعي”.
واستخدم مصطلح “التزييف العميق” لأول مرة في تقرير نشره موقع “ريديت” في عام 2017، وأوضح هذا التقرير أنه في غضون عامين فقط، سيستفيد قطاع التكنولوجيا بأكمله من هذه الظاهرة.
واكتشفت مؤسسة “ديب تريس” أن مواقع الإنترنت الإباحية الأربعة الرائدة التي تستخدم تقنية “التزييف العميق، وتدعمها الإعلانات، جذبت 134 مليون مشاهدة لمقاطع الفيديو الخاصة بها منذ فبراير/شباط 2018.
وتنتشر حاليا التطبيقات التي تجعل من الممكن إنتاج مثل هذه المواد.
أحد هذه التطبيقات يسمح للمستخدمين بخلع ملابس موضوعة بطريقة مصطنعة على صور ثابتة لنساء، ويصل سعر التطبيق إلى 50 دولارا، مقابل إزالة العلامة المائية من على كل منتج نهائي لمادة.
وسجلت زيارات موقع التطبيق زيادة بعد كتابة مقال نقدي بشأن هذا الموضوع.
لكن البرنامج لا يزال موجودا، حيث تم إعادة إصداره من جانب منتجين آخرين يسعون إلى الاستفادة منه.
وأكد خبير مستقل أن البرامج الأخرى سهلت إنتاج مقاطع فيديو مزيفة مقارنة بما سبق.
وقالت كاتيا بيجو، الباحثة الرئيسية في مؤسسة”نيستا” للابتكار: “أصبح من الممكن الآن إنتاج مادة باستخدام التزييف العميق عن طريق الاستعانة بكم صغير فقط من مواد الإدخال، إذ تحتاج الخوارزميات إلى كم أقل من مقاطع الفيديو أو الصور لمعالجتها”.
وأضافت: “بما أن التكنولوجيا تتقدم بسرعة كبيرة، فمن المهم بالنسبة لصانعي السياسة أن يفكروا الآن في الاستجابات المحتملة. ويعني ذلك النظر في تطوير أدوات الاكتشاف ورفع الوعي العام، والنظر أيضا في الديناميات الاجتماعية والسياسية الأساسية التي تجعل التزييف العميق المحتمل يتسم بالخطورة الشديدة.”
كما يتحدث محررو تقرير مؤسسة “ديب تريس” عن بوابات الخدمة، أي الأعمال التجارية عبر الإنترنت التي تنشئ وتبيع مقاطع فيديو من خلال تطبيقات “التزييف العميق”.
وتحتاج احدى هذه البوابات 250 صورة للموضوع المستهدف ويومين من المعالجة لإنشاء الفيديو.
وتقول المؤسسة إن الأسعار التي يتم تحصيلها تتفاوت، لكن يمكن أن تكون أقل من 3 دولارات لكل مقطع فيديو.
وكانت مؤسسة “ويتنس ميديا لاب” قد أصدرت تقريرا في وقت سابق بالتعاون مع منظمة لحقوق الإنسان وشركة غوغل، وخلص التقرير إلى أن إنتاج مقاطع فيديو بتقنية “التزييف العميق” لا يزال يتطلب بعض المهارة، لكن ذلك يتغير بسرعة.
ويقول التقرير الآن إن محاكاة الوجوه الفعلية بشكل واقعي تماما لا يزال يحتاج إلى فريق كبير من الأشخاص ذوي المهارة والتكنولوجيا المتخصصة.
بيد أن المعالجة الطويلة تحدث تلقائيا، على نحو يسمح للأشخاص الذين ليس لديهم معرفة متخصصة بإنتاج مقاطع فيديو قد تكون أقل تطورا، ولكن يمكن إنتاجها بطريقة أسرع.
وبالنظر إلى مقاطع الفيديو، التي وضع عليها وسم “تزييف عميق” على يوتيوب، يمكن رصد بعض الأمثلة المثيرة للإعجاب عن كيفية استخدام فرق مهنية للتكنولوجيا.
ويحذر مبتكر مجهول على قناته: “لا تصدق كل ما تراه على الإنترنت، حسنا؟”
ويهدف الفنان الذي يطلق علي نفسه “Ctrl Shift Face” إلى الترفيه بدلا من الخداع، لكن من الواضح أن هناك مخاوف من أن مثل هذه الأشياء المزيفة يمكن أن تستخدم للتأثير على حملة انتخابية أو إثارة الكراهية ضد فئة معينة.
وعلى الرغم من ذلك يبدو أن هناك حالات قليلة، إن وجدت حتى الآن، لحالات تزييف عميق نجحت في خداع الناس لأغراض ضارة.
وقد يكون من مصلحة “مؤسسة ديب تريس” الآن، ككيان تجاري أُنشيء لحماية المنظمات من هذه الظاهرة، زيادة تهديدات هذه المقاطع.
وتسأل بيجو عما إذا كانت تقنية اكتشاف التزييف العميق طريقة صحيحة.
وأضافت: “يمكن أن يصل مقطع الفيديو بسرعة هائلة إلى جمهور بالملايين، ويتصدر العناوين الرئيسية للصحف في غضون ساعات”.
وقالت: “يخبرنا وسيط تكنولوجي بأن الفيديو خضع لمعالجة في وقت متأخر جدا”.
ويبدو، على أي حال، أن الضحايا الحقيقيين للمستخدمين الخبثاء الذين ينتجون مقاطع فيديو بتقنية “التزييف العميق” لن يكونوا على المدى القصير حكومات وشركات، بل الأفراد، ومعظمهم من النساء.
وليس من المحتمل أن تكون لديهم القدرة على تحمل تكاليف الاستعانة بخبراء لمكافحة سوء الاستخدام.
