پیدایش و توسعه سریع هوش مصنوعی و ابزار‌های آن نگرانی کارشناسان را به‌دلیل احتمال بالای نقض حقوق بشر برانگیخته است و آنها بر تنظیم مقررات موثر تاکید می‌کنند.
دیپ‌فیک (به معنی جعل عمیق) به‌عنوان رسانه‌های مصنوعی ایجاد شده از طریق الگوریتم‌های هوش مصنوعی برای تطبیق یکپارچه تصویر یک شخص با شخص دیگر تعریف می‌شود.
دیپ‌فیک (Deepfake) ابزاری جدید است که به بازیگران اجازه می‌دهد اطلاعات را منتقل کنند یا بر عملیات‌هایی که برای شکل‌دهی به افکار عمومی طراحی شده‌اند، تاثیر بگذارند.
یک ژورنال امنیت سایبری وابسته به دانشگاه آکسفورد نوشت: عملیات اطلاعاتی چیز جدیدی نیست و دهه‌هاست که بازیگران آن را به‌کار گرفته‌اند. با این حال، پیدایش اینترنت به‌طور تصاعدی مقیاس، دامنه و سرعت کارزار‌های اطلاعاتی را افزایش داده و رسانه‌های اجتماعی به‌عنوان کانال اصلی چنین فعالیت‌هایی عمل می‌کنند. علاوه بر این، تکنیک‌های هوش مصنوعی پتانسیل افزایش قابل توجه تاثیر این کارزار‌های اطلاعاتی را ارائه می‌دهند.
دیپ‌فیک به‌عنوان یک فن‌آوری نسبتا جدید نه به‌شدت تحت نظارت است و نه درک کلی از نقش، طبقه‌بندی و تاثیر آن بر گروه‌های هدف وجود دارد.
بیشتر تحقیقات درمورد دیپ‌فیک از علوم کامپیوتر ناشی می‌شود یا بر زمینه‌های اجتماعی-سیاسی متمرکز است؛ تحقیقات حقوقی در این زمینه کمتر مورد توجه قرار گرفته است.
دیپ‌فیک‌ها تصاویر مصنوعی هستند که با استفاده از الگوریتم‌های هوش مصنوعی تولید می‌شوند. دیپ‌فیک با هدف تولید تصاویر افراد از طریق چندین روش انجام می‌شود: تعویض هویت، هویت هدف را با هویت منبع جایگزین می‌کند؛ ویرایش ویژگی‌ها، حالت‌های چهره، مدل مو یا سایر ویژگی‌ها را تغییر می‌دهد و در عین حال هویت اصلی را حفظ می‌کند. دیپ‌فیک همچنین ترکیب چهره، تصاویر چهره افراد موجود یا غیر موجود را با استفاده از هوش مصنوعی یا دستکاری شباهت افراد واقعی تولید می‌کند تا اعمال یا اظهاراتی را که هرگز انجام نداده‌اند، به تصویر بکشد.
دیپ‌فیک‌ها می‌توانند به صورت ویدیو، عکس، متن یا ضبط صدا ایجاد شوند، اما ویژگی مشترک دیپ‌فیک‌ها پتانسیل فریب دادن است و مردم را فریب می‌دهند تا باور کنند که توسط انسان ساخته شده‌اند.
دیپ‌فیک‌ها در سال‌های اخیر به سرعت توسعه یافته‌اند تا جایی که حتی کسانی که بینایی خوبی دارند نیز نمی‌توانند بین موارد جعلی و واقعی تمایز قائل شوند. دلیل این موضوع آن است که دیپ‌فیک‌ها برای افزایش سطح واقع‌گرایی محتوای بصری به قدرت شبکه‌های عصبی عمیق متکی هستند؛ تولید ویدیو‌های جعلی برای تضمین سازگاری بین فریم‌های ویدیویی به ویژگی‌های دقیق‌تر و ظریف‌تری نسبت به جعل تصویر نیاز دارد.
پیچیدگی دیپ‌فیک‌ها امکان درج غیرمجاز تصاویر صوتی و تصویری را در سکو‌های رسانه‌های اجتماعی فراهم می‌کند و تمایز بین اطلاعات واقعی و جعلی را بیش از هر زمان دیگری چالش‌برانگیز می‌کند.
دیپ‌فیک و بحران حقوق بشر
پایگاه انجمن تحقیقاتی حقوق بین‌الملل گزارش کرد که استفاده مضر از دیپ‌فیک فراتر از ایجاد محتوای جعلی برای تحقق تخیلات است؛ از دیپ‌فیک‌ها می‌توان برای انجام اعمال غیرانسانی مانند آزار و اذیت، ارعاب و سرکوب کردن افراد استفاده کرد.
این موضوع محیطی را ایجاد می‌کند که در آن ترس و بی‌ثباتی رواج می‌یابد. چنین اقدام‌هایی می‌تواند به‌طور قابل توجهی مانع آزادی بیان و مشارکت در گفتمان عمومی، به ویژه در میان گروه‌ها و افراد آسیب‌پذیر، شود. این اثر دلسردکننده، اهمیت پرداختن به سوءاستفاده از دیپ‌فیک را برای محافظت از حقوق همه افراد برای بیان آزادانه عقاید خود و مشارکت در زندگی عمومی بدون ترس از دستکاری یا انتقام مخرب، برجسته می‌کند.
یکی از این ابزارها، محتوای مستهجن انتقام‌جویانه است که با هدف انتقام یا تلافی‌جویی از یک فرد منتشر می‌شود.
دیپ‌فیک‌ها به‌دلیل استفاده در ساخت تصاویر، ویدیو‌ها و صدا‌هایی که افراد را درحال انجام فعالیت‌های مضر یا غیرمنصفانه به تصویر می‌کشند، تهدیدی جدی برای حق حریم خصوصی محسوب می‌شوند. این فعالیت‌ها می‌توانند شامل دستکاری اخبار، کلاهبرداری یا حتی سرقت هویت باشند که به آسیب شدید به اعتبار افراد منجر می‌شود.
این سوءاستفاده نه تنها حق حریم خصوصی و کرامت انسانی را نقض می‌کند، بلکه پیامد‌های عمیقی برای قربانیان در زندگی شخصی و حرفه‌ای آنها دارد.
جای تعجب نیست که ویدیو‌های مستهجن دیپ‌فیک ۹۸ درصد از کل ویدیو‌های ساخته‌شده با این ابزار را تشکیل می‌دهند.
ضرورت تنظیم مقررات در مورد دیپ‌فیک‌ها
درحال حاضر هیچ ابزار قانونی برای مبارزه موثر با پیامد‌های غیراخلاقی و مضر دیپ‌فیک وجود ندارد.
تنها چند کشور به‌طور فعال درحال کار بر روی تنظیم قوانین مربوط به دیپ‌فیک در حوزه عمومی هستند. اما تاکنون تلاش‌های متعددی برای رسیدگی به نگرانی‌ها و چالش‌های خاص انجام نشده است.
قانون خدمات دیجیتال اتحادیه اروپا (DSA)، اگرچه به صراحت به دیپ‌فیک نمی‌پردازد، اما هدف آن جلوگیری از انتشار اطلاعات نادرست از طریق سکو‌های دیجیتال است.
این قانون، تعهد‌هایی را بر سکو‌های بزرگ آنلاین و موتور‌های جست‌و‌جو تحمیل می‌کند تا از سوءاستفاده از سیستم جلوگیری کرده و خطر‌هایی مانند اطلاعات نادرست، دستکاری در انتخابات، خشونت سایبری علیه زنان و آسیب به خردسالان را در فضای آنلاین کاهش دهند.
با این حال، تاثیر آن بر مبارزه با دیپ‌فیک در سراسر کشور‌های عضو اتحادیه اروپا همچنان نامشخص است.
آمریکا و چین نیز اقدام‌هایی را درمورد تنظیم قوانین انجام داده‌اند، اما کارشناسان می‌گویند که این اقدام‌ها تاثیر بسزایی نخواهد داشت و باید به فکر قاونین قوی بود.
انتهای پیام/
Tuesday, 1 July , 2025