در حالی که سلاحهای خودمختار، خطر کاهش آستانه جنگ را به دنبال داشتهاند، موضوع ممنوعیت رباتهای قاتل آنچنان که باید مورد توجه قرار نگرفته است.
در طول تاریخ جنگ، ماشینآلات کشتار همیشه جایی برای مداخله انسان باقی گذاشته است؛ یک سرباز میتوانست فرد مقابل خود را ببیند و به جای کشتن، ناقص کردن را انتخاب کند؛ یک خلبان میتوانست هدف را شناسایی کند، اطلاعات را زیر سوال ببرد و تصمیم به حمله نگیرد.
فناوری بهطور پیوسته در حال تغییر این وضعیت بوده است؛ سیستمهای تسلیحاتی خودمختار اکنون تهدیدی برای از بین بردن هرگونه کنترل معنادار انسانی بر استفاده از زور در درگیریها هستند.
به گزارش میدلایست آی، هدفگیری با کمک هوش مصنوعی ابتدا توسط رژیم صهیونیستی در جنگ نسلکشی خود علیه غزه و سپس در ایران بهکار گرفته شد و حملهها با سرعت بیسابقهای رخ داد: بیش از هزار حمله در ۲۴ ساعت نخست جنگ آمریکا و رژیم صهیونیستی نشاندهنده استفاده از سیستمهای خودکار است.
بیش از ۱۳ سال است که ائتلاف جهانی «رباتهای قاتل را متوقف کنید» برای جلوگیری از این آینده مبارزه میکند و دولتها را به سمت ممنوعیت ماشینهایی که قادر به انتخاب و درگیری بدون نظارت هستند، سوق میدهد.
نیکول ون روجن، مدیر اجرایی «رباتهای قاتل را متوقف کنید»، گفت: این سیستمها برای کشتن طراحی شدهاند، بنابراین دیگر هیچ کنترل و توازنی وجود ندارد؛ اگر سیستمی برای کشتن طراحی شده باشد، خواهد کشت، درست است؟ و این به خودی خود مشکلساز است، زیرا بسیار وابسته به نوع اطلاعاتی است که به دستگاه داده میشود.
ون روجن بهعنوان مثال به حمله هوایی آمریکا به دبستان شجره طیبه در شهر میناب ایران در ۲۸ فوریه (۹ اسفند ۱۴۰۴) اشاره کرد که در آن ۱۵۶ نفر، از جمله ۱۲۰ کودک، شهید شدند.
این حمله تا به امروز مرگبارترین حمله در طول تجاوز نظامی آمریکا و رژیم صهیونیستی به ایران است.
عدم دقتی که باعث مرگ میشود
ون روجن گفت: اطلاعات اولیه این است که این حمله توسط آمریکا انجام شده است، اما همچنین ادعا میشود که این حمله به دلیل اطلاعات قدیمی وارد شده به دستگاه است؛ اگر اطلاعات کاملا دقیق نباشد یا قدیمی باشد، پیامدهای مخربی در میدان نبرد، به احتمال زیاد برای غیرنظامیان بیگناه، خواهد داشت.
وی گفت: این امر بهویژه در یک محیط بیثبات صادق است، زمانی که شما در حال انجام عملیات جنگی هستید، اما نیروی زمینی ندارید تا تایید کنید که دستگاه میخواهد چه چیزی را هدف قرار دهد.
یکی دیگر از مسائل مهم، دقت است؛ ون روجن توضیح داد که متخصصانی که روی هوش مصنوعی و ادغام آن در زنجیره کشتار نظامی کار میکنند، قابلیت اطمینان را بین ۲۵ تا ۵۰ درصد تخمین زدهاند؛ وی اظهار کرد: و این بهترین سناریو است؛ این قیاس، بمباران گسترده است.
ائتلاف جهانی «رباتهای قاتل را متوقف کنید» همچنین این زنگ خطر را به صدا درآوردهاند که سیستمهای تسلیحاتی خودمختار بهشدت آستانه ورود به جنگ را کاهش میدهند، زیرا نیازی به اعزام نیروی نظامی ندارند.
ون روجن گفت: هیچکس نمیخواهد مرگ سربازانش را در سرزمینهای خارجی ببیند، بنابراین این امر مستلزم خویشتنداری است؛ شما در مورد اعزام افراد خود ۲ بار فکر میکنید؛ اگر همه چیز خودکار باشد، میتوانید ماشینها را بفرستید؛ اسرائیل و آمریکا دهههاست که ایران را تهدید میکنند، اما هرگز واقعا آن را عملی نکردهاند و من فکر نمیکنم این یک تصادف باشد؛ این حس کاذب را به شما میدهد که میتوانید این کار را به سرعت انجام دهید و برنده برگردید، اما این وعدههای دروغین برای دقیقتر و درستتر بودن است، نتایج بدتر دارد، نه برای نظامیان آنها، بلکه برای غیرنظامیان؛ آنها بیشترین هزینه را متحمل میشوند.
بدون حفاظت
در حال حاضر، هیچ تعریف مشترک و مورد توافقی از اینکه یک سیستم خودمختار چیست، وجود ندارد.
ون روجن در این رابطه گفت که هیچ معاهدهای وجود ندارد که نحوه توسعه، آزمایش، فروش یا استقرار آنها را تنظیم کند و شرایط را برای یک مسابقه تسلیحاتی «آزاد برای همه» برای غولهای فناوری فراهم کند تا «از بدبختی مردم» ثروت کسب کنند.
وی بهویژه عدم وجود حمایتها را برای تطبیق دشوار میداند و گفت: اگر یک هواپیمای جدید یا یک ماشین جدید را آزمایش کنید، محافظهای بیشتری نسبت به ادغام هوش مصنوعی در زنجیره کشتار وجود دارد.
با نگاهی به تاریخ، میتوان سابقهای از توقف یک سلاح را پیش از آنکه دولتها دیگر نتوانند جنگ بدون آن را تصور کنند، مشاهده کرد.
در میان کسانی که برای معاهدهای در مورد سیستمهای سلاحهای خودکار مبارزه میکنند، بانی دوچرتی، مشاور ارشد تسلیحات در دیدهبان حقوق بشر (HRW)، نقش محوری در مذاکراتی داشت که در نهایت منجر به کنوانسیون مهمات خوشهای ۲۰۰۸ شد و استفاده از آنها را ممنوع کرد.
وی گفت که مبارزه بر سر سیستمهای سلاح خودکار از همان اصول خلع سلاح بشردوستانه پیروی میکند و تلاش میکند از رنجهای انسانی ناشی از سلاح جلوگیری کند.
برای دوچرتی، تقلیل افراد به اعداد و «واگذاری تصمیمها مرگ و زندگی» به ماشینها، نگرانی بزرگی است؛ وی توضیح داد: یک سیستم تسلیحاتی خودمختار یک ماشین است و یک ماشین نمیتواند واقعا ارزش زندگی یک انسان را درک کند؛ دادن قدرت کشتن به آن ماشین از نظر اخلاقی نامناسب است؛ هر کسی که جان کسی را میگیرد باید بتواند اهمیت آن را درک کند.
- بیشتر بخوانید:
- رباتهای مرگ؛ آوارگی در میان تردد رباتهای انفجاری رژیم صهیونیستی
- جنگهای مدرن و توهم سیستمهای هوش مصنوعی اخلاقمدار
دژاوو
شواهد جمعآوریشده توسط دیدهبان حقوق بشر علاوه بر این نشان میدهد که سیستمها میتوانند سوگیریهای الگوریتم را بازتولید یا تقویت کنند که میتواند کشنده باشد؛ دوچرتی گفت: ما به جنبههای تبعیض و بهویژه نژاد، جنسیت و معلولیت نگاه کردیم؛ برای مثال، در جبهه معلولیت، هوش مصنوعی ممکن است در تشخیص عصا از اسلحه مشکل داشته باشد.
یا وجود این، بازیگرانی مانند آمریکا و رژیم صهیونیستی تمایلی به تسلیم سلاحهایی که میتوانند به آنها مزیت بدهند، ندارند، استدلالی کلیشهای که دوچرتی به خوبی از آن آگاه است؛ در پشت آنها، یک صنعت فناوری نیز وجود دارد که مشوقهای تجاری خود را تبلیغ میکند.
وی پیشتر این را در مذاکرات مربوط به معاهده مهمات خوشهای شنیده است؛ دولتها حریص بودند که فناوریهایی را که در حال توسعه بودند، حفظ کنند و استدلال میکردند که قوانین بشردوستانه بینالمللی موجود کافی است؛ همانطور که دوچرتی گفت، آنچه در آن زمان سختی موضوع را کمتر کرد، پراکنده بودن مهمات خوشهای رژیم صهیونیستی در جنوب لبنان در سال ۲۰۰۶ بود؛ بسیاری از مهمات کوچک تا به امروز در سراسر قلمرو پراکنده شدهاند و منجر به صدها شهید و مجروح شدهاند.
دوچرتی گفت: احساس میکنم دارم یک آشناپنداری میکنم؛ بسیاری از این استدلالها، شما میتوانید همین سیستم تسلیحاتی را به برق وصل کنید.
هفته گذشته، آنتونیو گوترش، دبیرکل سازمان ملل و رئیس کمیته بینالمللی صلیب سرخ (ICRC) درخواست خود را برای معاهدهای در مورد سیستمهای تسلیحاتی خودمختار تجدید کردند.
آنها ۳ سال قبل، از کشورها خواسته بودند که تا سال ۲۰۲۶ قوانینی را وضع کنند؛ اکنون که این مهلت «غیرقابل دفاع» شده است، آنها هشدار دادند که جهان به سرعت به یک «خط قرمز اخلاقی» نزدیک میشود.
این درخواست تجدید نظر همچنین در حالی مطرح میشود که کمیته بینالمللی صلیب سرخ گمان میکند که اشکال پیچیدهتر خودمختاری در سیستمهای تسلیحاتی در طیف وسیعی از درگیریها، نهتنها در عملیات دفاعی، بلکه در عملیات تهاجمی، از جمله در مناطق پرجمعیت، ادغام میشوند.
جورجیا هیندز، مشاور حقوقی کمیته بینالمللی صلیب سرخ، گفت: در حالی که تایید این موضوع برای ما بسیار دشوار است؛ ما شاهد این ادغام فزاینده خودمختاری در سلاحها در بسیاری از درگیریها، از قابلیتهای نظامی پیشرفته گرفته تا سیستمهای تجاری آمادهتر که در حال تطبیق هستند، هستیم.
یک خطر بزرگ
آنچه این سازمان بر آن اصرار دارد این است که هنوز امیدی به شکل یک مسیر دیپلماتیک برای مذاکره در مورد قوانین مربوط به این سیستمها وجود دارد.
در ماه نوامبر، کشورها برای هفتمین کنفرانس بررسی کنوانسیون سلاحهای متعارف خاص (CCW) که هر ۵ سال یکبار برگزار میشود، در ژنو گرد هم میآیند؛ این میتواند یک لحظه سرنوشتساز برای این کارزار باشد، زیرا گروه کارشناسان دولتی در مورد سیستمهای سلاحهای خودمختار کشنده، انجمن اصلی بین دولتی سازمان ملل که به فناوریهای نوظهور مربوط به سلاحهای خودمختار میپردازد، در حال تهیه پیشنویس متنی است که شامل ممنوعیتهایی برای برخی سیستمها و محدودیتهایی برای برخی دیگر است.
جلسه نهایی این گروه این هفته برگزار میشود و کار آن سپس به کنفرانس آینده منتهی خواهد شد؛ فعالان کارزار امیدوارند که این متن بالاخره به مذاکرات رسمی برای یک معاهده الزامآور قانونی تبدیل شود.
هیندز گفت: واقعا تبدیل این متن به یک سند الزامآور، اکنون زمان زیادی نمیبرد؛ در ماه نوامبر، باید تصمیمی برای انتقال به مذاکرات رسمی گرفته شود؛ کنار گذاشتن بحثهایی که اکنون نزدیک به ۱۳ سال است در گروه کارشناسان دولتی ادامه دارد، قابل قبول نیست؛ واقعا فقط یک گزینه در ماه نوامبر برای ما وجود دارد.
اگر کشورها موافقت کنند، ممکن است تنها چند ماه تا رسیدن به یک معاهده فاصله باشد؛ مسیر ترجیحی و کوتاهترین مسیر این است که استادانه در مورد یک پروتکل الحاقی تحت CCW مذاکره شود.
با وجود این، کارشناسانی مانند هیندز در مورد اینکه این چقدر واقعبینانه است، تردید دارند؛ وی گفت که این کنفرانس یک پایان ساده بله یا خیر ارائه نمیدهد و راههای مختلفی برای پیشرفت در این کارزار وجود دارد؛ هدف کلی این است که از فناوری پیشی بگیریم.
هیندز هشدار داد: با گسترش سلاحهای خودمختار، آسانتر میشود که فناوری تجاری ارزان را به سلاحهای خودمختار مرگبار تبدیل کنند؛ هرچه فرصت بیشتری برای تکثیر این سیستمها وجود داشته باشد، تطبیق یک سیستم تجاری موجود آسانتر میشود.
انتهای پیام/
