جدید “Markpainting” Tech Fights حذف واترمارک و Deepfakes

گروهی از محققان با هدف جلوگیری از گسترش اطلاعات غلط ، ابتکار جدیدی را با یک کد منبع باز در دسترس برای کمک به کشف بهتر جعل های عمیق ویرایش شده برای حذف علامت های آبی تهیه کرده اند.

Inpainting – همچنین برای کاربران فتوشاپ به عنوان “پر کردن آگاهی از محتوا” نیز شناخته می شود – روشی است که از مدل های یادگیری ماشین برای بازسازی قطعات از دست رفته یک تصویر یا حذف اشیا unw ناخواسته استفاده می کند. اگرچه به طور کلی به عنوان ابزاری در بین خلاقیت ها برای “پاک کردن” تصویر برای نتیجه دقیق تر مورد استفاده قرار می گیرد ، این فناوری همچنین می تواند برای نیت های سو ، مانند حذف علامت های آبی ، بازسازی واقعیت با حذف افراد یا اشیا خاص در عکس ، افزودن اطلاعات نادرست و موارد دیگر.

این نوع فناوری در سالهای اخیر بسیار پیشرفت کرده است ، با نمونه ای قابل توجه از NVIDIA با هوش مصنوعی “Content-Aware Fill” که یک گام فراتر از ابزارهای پیشرفته Photoshop است. دستکاری تصاویر با قصد سوicious نه تنها می تواند با از بین بردن علامت های آبی یا سایر عوامل شناسایی کپی رایت بصری باعث از دست دادن سود سرقت تصویر شود ، بلکه می تواند منجر به گسترش اطلاعات نادرست در صورت توانایی آن برای حذف فرد از عکس صحنه جرم ، کلاهبرداری شود افراد یا مشاغل ، حتی در پرونده ای که قبلاً گزارش شده بود ، سیاست را بی ثبات می کنند PetaPixel.

برای دشوارتر کردن سو abuseاستفاده از نقاشی ، گروهی از محققان – دیوید خاچاتوروف ، ایلیا شومیلوف ، ییرن ژائو ، نیکولاس پاپرنوت و راس اندرسون – ابتکاری را به نام “Markpainting” تهیه کرده اند که توسط دستمال کاغذی آبی روشن. این یک ابزار جدید است که می تواند به عنوان “هشدار دستکاری که در صورت رنگ آمیزی قابل مشاهده است” استفاده شود.

این ابزار ، که به طور مفصل توسط مقاله این تیم شرح داده شده است ، از “تکنیک های یادگیری ماشین خصمانه برای فریب دادن انسان به منظور آشکار کردن ویرایش های خود با چشم غیر مسلح” استفاده می کند ، که به موجب آن “صاحب تصویر می تواند تصویر خود را به روشهای ظریف تغییر دهد که قابل مشاهده است ، اما هرگونه تلاش برای رنگ آمیزی آن را با افزودن اطلاعات مرئی که از قبل توسط markpainter تعیین شده است ، خراب خواهد کرد. “

ML دستکاری تصاویر را آسان می کند. در یک پیچ و تاب در مورد ML ، DavidobotGames iliaishacked از برنامه های مخرب “inpainting” (پر کردن قسمت از دست رفته یک تصویر) با اضافه کردن یک مثال خصمانه اغتشاش به تصویر جلوگیری کنید. pic.twitter.com/09O6SAn3nB

– Nicolas Papernot (NicolasPapernot) 9 ژوئن 2021

کدام یک از تصاویر نقاشی شده است؟ مدرن ML دستکاری در رسانه ها را آسان می کند و به تبلیغات نادرست کمک می کند. چگونه می توان جلوی آن را گرفت؟ ما Markpainting را برای سخت کردن آن توسعه دادیم. https://t.co/fKj8HQFGKf # ICML2021 w / rossjanderson NicolasPapernot pic.twitter.com/78gFUJJ9cI

– ایلیا شومایلوف (iliaishacked) 7 ژوئن 2021

این تحقیق که توسط CIFAR (از طریق صندلی AI CIFAR AI کانادا) ، EPSRC ، اپل ، بنیاد تحقیقاتی بوش ، NSERC و مایکروسافت پشتیبانی می شود ، روش های جدیدی را برای سازندگان ، شرکت ها و آژانس ها برای محافظت بهتر از دارایی های دیجیتالی خود در آینده به ارمغان می آورد. کمتر قابل جابجایی علامت های آبی ، امنیت و محافظت از سود بیشتری را به همراه دارد ، در حالی که می توان تصاویر دیگر را تحت درمان قرار داد تا هرگونه دستکاری در آینده ، مانند برداشتن اشیا ، شناسایی آن آسان تر شود.

ایده شناسایی دستکاری شده تصویر و فیلم جدید نیست. تحقیق و توسعه در این زمینه در حال انجام است ، با این حال ، هنوز مشخص نشده است که چگونه و چه زمانی این فناوری می تواند تلاش های دستکاری را با موفقیت متوقف کند.

مقاله کامل تحقیق و آزمایشات انجام شده با استفاده از این روش “Markpainting” را می توان در مقاله تحقیقاتی تیم “Markpainting: Adversarial Machine Learning Inpainting” یافت.