هوش مصنوعی در شناسایی دیپ فیک چه نقشی دارد؟

هوش مصنوعی در شناسایی دیپ فیک یا جعل عمیق چه نقشی دارد؟ اگرچه در بسیاری از موارد دیپ‌فیک‌ها (Deepfakes) به‌عنوان میم‌های (Meme) بی‌ضرر یا کمپین‌های بازاریابی هوشمندانه ظاهر می‌شوند، فناوری‌های دیپ‌فیک یک ریسک روبه‌رشد فرهنگی، سیاسی، اقتصادی، اجتماعی و تجاری با قدرت ایجاد آسیب جدی یا غیرجدی هستند. در این مطلب به این پرسش اساسی پرداخته‌ایم که هوش مصنوعی در شناسی دیپ فیک چه نقشی می‌تواند ایفا کند؟

دیپ‌فیک چیست؟

پیامدهای دیپ‌فیک یا جعل عمیق نگران‌کننده است، از انتشار اطلاعات نادرست و آسیب‌رساندن به شهرت شخصیت‌های سیاسی و عمومی، تا جاسوسی شرکت‌ها و حملات سایبری. در حال حاضر انجمن‌ها و سایت‌های دیپ‌فیک اختصاصی در حال گسترش هستند که حتی مصرف‌کنندگان را قادر می‌کند تا دیپ‌فیک‌های سفارشی را سفارش دهند.

دیپ‌فیک‌ها تصاویر، ویدئوها و صداهایی هستند که به‌طور قانع‌کننده‌ای واقعی هستند، اما درواقع ساختگی و دست‌کاری‌شده با هوش مصنوعی (Artificial Intelligence) هستند. فناوری‌های یادگیری عمیق  (Deep Learning)، یادگیری ماشین (Machine Learning) و هوش مصنوعی (AI) برای ایجاد دیپ فیک محتوای جعلی، مانند قراردادن چهره افراد مشهور روی بدن افراد دیگر، استفاده می‌شوند تا آن‌ها با هدف فریب بینندگان چیزهای تخیلی را بیان کنند.

فناوری‌های دیپ‌فیک به‌طور فزاینده‌ای در حال پیچیده‌ترشدن هستند و مجرمان را قادر می‌کنند تا محتوای روایتی را که گفته می‌شود تغییر دهند. این موضوع می‌تواند از صحت اطلاعاتی بکاهد که به‌صورت آنلاین ارائه می‌شود؛ بنابراین با رشد چشمگیر دیپ‌فیک، این سؤال حیاتی‌تر می‌شود که چگونه دیپ‌فیک‌ها را شناسایی کنیم.

دیپ فیک چگونه ایجاد می‌شود؟

ویدئوهای دیپ‌فیک اغلب با استفاده از یک رمزگذار خودکار یا همان اتوانکدرمتغیر (VAE) و یک الگوریتم تشخیص چهره ساخته می‌شوند.

برای واضح‌ترشدن موضوع، به این مثال فرضی توجه کنید:

شخصی می‌خواهد یک ویدئوی دیپ‌فیک از یک شخص معروف برای تبلیغ محصولی بسازد. ابتدا هزاران عکس از شخص معروف و شخصی که در ویدئو است تهیه می‌کند؛ سپس یک انکدر می‌سازد تا این عکس‌ها را رمزگشایی یا انکد کند؛ سپس از یک دیکدر استفاده می‌کند تا تصاویر را بازسازی کند.

درواقع در اینجا انکدر مانند شخصی است که یک مجرم را می‌بیند و فیچرها یا ویژگی‌های آن را در ذهن دارد و دیکدر مانند فردی است که از روی توضیحات شاهد شروع به کشیدن یک نقاشی از چهره‌ی فرد می‌کند. انکدر فیچرهای هر دو عکس را استخراج می‌کند و این فیچرها به دیکدرهای مربوط برای هر عکس منتقل می‌شود؛ سپس این اتوانکدر (Auto-encoder)، یعنی همان انکدر و دیکدر آموزش داده می‌شوند تا خروجی تا حد زیادی مشابه ورودی شود.

پس از آموزش از یک الگوریتم تشخیص چهره استفاده می‌شود تا صورت شخص معروف استخراج و وارد انکدر شود و این بار فیچرهای استخراج‌شده از آن به دیکدر شخص داخل ویدئو وارد می‌شود تا عکس بازسازی شود. درواقع این بار ما صورت شخص اصلی در ویدئو را با فیچرهای شخص معروف بازسازی می‌کنیم. حال چهره‌ی جدید ساخته‌شده را با عکس اصلی ترکیب می‌کنیم.

پیشرفت صنعت هوش مصنوعی در شناسایی دیپ فیک یا جعل عمیق

تشخیص رسانه‌های دست‌کاری‌شده یک چالش فنی است که به همکاری میان صنایع مختلف نیاز دارد. در سال‌های اخیر پژوهش‌های مختلفی در جریان بوده است که هدف آن‌ها شناسایی خودکار مظاهر مختلف دیپ‌فیک است که اغلب برای انسان تشخیص آن‌ها بسیار سخت است.

چالش تشخیص دیپ‌فیک یا DFDC رقابتی است که AWS، مایکروسافت، فیس‌بوک، افراد فعال در حوزه‌ی هوش مصنوعی و دانشگاهیان ایجاد کرده‌اند. این رقابت در وبسایت Kaggle اجرا شد و یک جایزه یک‌میلیون‌دلاری را به محققان جهانی که بتوانند فناوری‌های نوآورانه‌ای را برای کمک به شناسایی دیپ‌فیک‌ها یا جعل‌های عمیق توسعه دهند در نظر گرفت. این رقابت بیش از ۲۰۰۰ شرکت‌کننده را جمع آوری کرد و بیش از ۳۵۰۰۰ مدل تشخیص دیپ‌فیک تولید کرد.

MIT و کار روی هوش مصنوعی در شناسایی دیپ فیک

Detect Fakes یک ابتکار تحقیقاتی محققان دانشگاه MIT است که می‌کوشد روش‌هایی را برای مقابله با اطلاعات نادرست تولیدشده با هوش‌مصنوعی مشخص کند و ویدئوهایی را ارائه می‌کند که شرکت‌کنندگان را تشویق می‌کند تا تلاش کنند دیپ‌فیک‌ها را از ویدئوهای واقعی شناسایی کنند.

برکلی و کار روی هوش مصنوعی در شناسایی دیپ فیک

محققان دانشگاه کالیفرنیا برکلی (UC Berkeley) و استنفورد یک رویکرد مبتنی بر هوش مصنوعی برای تشخیص فناوری همگام‌سازی لب ایجاد کردند که قادر است ۸۰ درصد تقلبی‌ها را با درک ناهماهنگی میان شکل دهان افراد و صداهایی شناسایی کند که هنگام صحبت‌کردن ایجاد می‌کنند.

مایکروسافت و کار روی هوش مصنوعی در شناسایی دیپ فیک

مایکروسافت نیز یک ابزار تجاری تشخیص دیپ‌فیک منتشر کرده است که فریم‌های ویدئو را تجزیه‌وتحلیل می‌کند و یک امتیاز اطمینان نرم‌افزار ایجاد می‌کند که نشان می‌دهد آیا فریم واقعی است یا با هوش مصنوعی تولید شده است. قابل‌ذکر است که این ابزار برای شرکت‌های مختلفی که بر انتخابات ۲۰۲۰ ایالات متحده نظارت داشتند در دسترس قرار گرفت.

اینتل و کار روی هوش مصنوعی در شناسایی دیپ فیک

تیم‌های تحقیقاتی اینتل و آزمایشگاه گرافیک و محاسبات تصویر در دانشگاه بینگهمتون (Binghamton University ) ابزاری را توسعه دادند که از سیگنال‌ها و داده‌های بیولوژیکی برای شناسایی و طبقه‌بندی دیپ‌فیک‌ها با دقت ۹۶ درصد استفاده می‌کند. این ابزار مبتنی بر این ایده است که درحالی‌که فیلم‌های چهره را می‌توان سنتز کرد، سیگنال‌های فیزیولوژیکی ظریف، مانند نوسانات ضربان قلب و جریان خون که با تغییر رنگ پیکسل نشان داده می‌شوند، به‌راحتی قابل‌بازتولید نیستند.

البته باید گفت که اگرچه نوآوری‌هایی برای شناسایی بالقوه دیپ‌فیک‌ها در حال ظهور هستند، اما بیشتر آن‌ها در مراحل تحقیق یا توسعه باقی می‌مانند و برخی از مقامات حتی هشدار می‌دهند که ممکن است راه‌حلی طولانی‌مدت و فنی برای دیپ‌فیک وجود نداشته باشد.

حرف آخر درباره نقش هوش مصنوعی در شناسایی دیپ فیک

هوش مصنوعی، علاوه بر اینکه برای ایجاد دیپ فیک استفاده می‌شود، ابزاری بالقوه برای شناسایی آن و مبارزه با اثرات منفی و غیراخلاقی فناوری‌های مخرب دیپ‌فیک نیز محسوب می‌شود. از آنجا که دیپ‌فیک‌ها به‌طور فزاینده‌ای در حال رشد هستند، این امر در کاهش خطرات ناشی از داده‌های دست‌کاری‌شده کلیدی خواهد بود.

اگر به حوزه هوش مصنوعی، علم داده، یادگیری ماشین و یادگیری عمیق علاقه دارید، کلاس‌های آنلاین علم داده کافه‌تدریس می‌تواند نقطه شروع خوبی برای ورود به این حوزه باشد.

برای آشنایی با دوره جامع علم داده کافه‌تدریس و مشاوره‌ی رایگان برای شروع یادگیری روی این لینک کلیک کنید:

کلاس‌های آنلاین علم داده کافه‌تدریس