هوش مصنوعی در خدمت جنگ/ چرا همه باید نگران باشند؟

هوش مصنوعی به سرعت در حال تغییر بسیاری از صنایع است، اما شاید هیچ صنعتی به اندازه نظامی با چالش‌های اخلاقی و ژئوپلیتیکی روبرو نباشد. در حالی که سلاح‌های خودمختار مانند موشک‌های گرمایاب و اژدرها برای دهه‌ها وجود داشته‌اند، این سیستم‌ها بر اساس مکانیزم‌های بازخوردی ساده عمل می‌کردند. اکنون، با ورود هوش مصنوعی، سلاح‌ها به سطحی بی‌سابقه از خودمختاری دست یافته‌اند که نگرانی‌های بسیاری را برانگیخته است.

طبق گفته کاناکا راجان، استاد نوروبیولوژی در دانشکده پزشکی هاروارد، سلاح‌های خودمختار مبتنی بر هوش مصنوعی تهدیدی جدی برای ثبات جهانی و پیشرفت علمی محسوب می‌شوند. وی به همراه همکارانش در مقاله‌ای که در کنفرانس بین‌المللی یادگیری ماشینی 2024 ارائه شد، این خطرات را بررسی کرده و راه‌حل‌هایی برای کاهش آن‌ها پیشنهاد کرده است.

بخش دوم این گزارش به بررسی وضعیت عمومی و چهره کلی آن خواهد پرداخت و پیشگامان استفاده از هوش مصنوعی را در بین کشورهای جهان بررسی می‌کنیم و با این پرسش روبه‌رو می‌شویم که جایگاه ایران در توسعه فناوری‌های مرتبط با هوش مصنوعی در جهان چند است.

چرا همه باید نگران باشند؟

سلاح‌های مبتنی بر هوش مصنوعی اغلب شامل پهپادها یا ربات‌هایی هستند که از الگوریتم‌های پیشرفته یادگیری ماشینی استفاده می‌کنند. کاناکا راجان هشدار می‌دهد که این سیستم‌ها نه تنها در حال توسعه، بلکه در حال حاضر نیز در میدان‌های جنگ مورد استفاده قرار گرفته‌اند. وی پیش‌بینی می‌کند که این سلاح‌ها روز به روز پیشرفته‌تر، قابل‌دسترس‌تر و گسترده‌تر خواهند شد. توسعه یا گسترش خطرات معددی درپی خواهد داشت برخی از آن‌ها به شرح زیر است:

کاهش آستانه آغاز جنگ

یکی از بازدارنده‌های اصلی جنگ، هزینه انسانی آن است، یعنی جان سربازان. سلاح‌های مبتنی بر هوش مصنوعی که بدون نیاز به حضور انسان در میدان جنگ عمل می‌کنند، این بازدارندگی را از بین می‌برند. راجان توضیح می‌دهد: «وقتی تعداد کمتری از سربازان در جنگ کشته می‌شوند، ارتباط بین جنگ و هزینه انسانی تضعیف می‌شود.»

این موضوع تصمیم‌گیری برای آغاز جنگ را برای دولت‌ها آسان‌تر کرده و در نتیجه ممکن است منجر به افزایش درگیری‌ها و تخریب گسترده‌تر شود.

سانسور و سواستفاده از پژوهش‌ها

تاریخ نشان داده است که چگونه حوزه‌های علمی مانند فیزیک هسته‌ای و فناوری موشکی در دوران جنگ سرد به شدت محدود شدند. پژوهشگران با ممنوعیت سفر، سانسور انتشارات و نیاز به مجوزهای امنیتی برای انجام تحقیقات اولیه روبرو شدند. 

مثلا با تبدیل شدن هوش مصنوعی به بخشی اساسی از برنامه‌ریزی دفاع ملی، پژوهش‌های غیرنظامی ممکن است با محدودیت‌های مشابهی روبرو شوند و نوآوری در حوزه‌های سلامت، آموزش و سایر کاربردهای مدنی را متوقف کنند.

تضعیف مسئولیت انسانی

سیستم‌های هوش مصنوعی در جنگ‌ها اغلب به‌عنوان «جعبه سیاه» عمل می‌کنند، به این معنا که فرآیند تصمیم‌گیری آن‌ها برای کاربرانشان شفاف نیست. در حالی که ارتش‌ها ممکن است ادعا کنند که انسان‌ها در فرآیند تصمیم‌گیری دخیل هستند، این دخالت ممکن است به تأیید صرف تصمیم‌گیری‌های ماشین محدود شود، بدون اینکه کاربران بتوانند این فرآیند را درک یا بررسی کنند.

این عدم شفافیت می‌تواند به اشتباهات فاجعه‌باری منجر شود که هیچ‌کس مسئولیت آن را نمی‌پذیرد.

عدم شفاف‌سازی ارتش‌ها و سازمان‌های نظامی می‌تواند در آینده چالش‌های جدی به‌وجود بیاورد!

راجان توضیح می‌دهد که سلاح‌های مبتنی بر هوش مصنوعی پدیده‌ای نسبتا جدید و در حال تغییر هستند. از سال 2023، چندین کشور به‌طور علنی استفاده از هوش مصنوعی در کاربردهای نظامی را پذیرفته‌اند. با این حال، از آنجا که سیستم‌های جداگانه ممکن است به‌تنهایی تهدیدآمیز به نظر نرسند، پیامدهای گسترده‌تر اغلب نادیده گرفته می‌شوند.

یکی دیگر از عوامل پیچیده‌کننده، شفاف نبودن پروژه‌های نظامی مرتبط با هوش مصنوعی است. شرکت‌های فناوری معمولا میزان خودمختاری سیستم‌های خود را آشکار نمی‌کنند و این امر باعث می‌شود که محققان و سیاست‌گذاران نتوانند پیامدهای اخلاقی آن را به‌طور کامل ارزیابی کنند.

ما به نهادهای نظارتی و متمرکز بین‌المللی نیاز داریم

تیم راجان تأکید می‌کند که سلاح‌های هوش مصنوعی یک پدیده یکپارچه نیستند و باید بر اساس قابلیت‌هایشان بررسی شوند. او می‌گوید: «ما به نهادهای نظارتی متمرکز و همکاری بین‌المللی برای تعیین مرزهای واضح نیاز داریم.»

با وجود چالش‌ها، امید به آینده‌ای وجود دارد که در آن تحقیقات هوش مصنوعی در کنار کاهش سواستفاده‌ها پیشرفت کند. از طریق ایجاد گفت‌وگو بین دانشمندان، سیاست‌گذاران و عموم مردم، می‌توانیم این لحظه حساس در تاریخ فناوری را به‌طور مسئولانه مدیریت کنیم. 

استفاده از هوش مصنوعی در تمامی صنایع حالا ضرورت دارد. با عبور از این بحث، مرور کوتاهی بر وضعیت عمومی کشورهای جهان در این حوزه خواهیم داشت. 

ایالات متحده آمریکا و چین/ دو قطبی جدید!

ایالات متحده در توسعه و کاربرد هوش مصنوعی نظامی در صدر جهان قرار دارد. وزارت دفاع آمریکا (پنتاگون) و سازمان‌های وابسته، برنامه‌های گسترده‌ای برای ادغام فناوری هوش مصنوعی در تمام جنبه‌های دفاعی و نظامی اجرا می‌کنند. به نظر می‌رسد با بازگشت دونالد ترامپ به کاخ سفید و ارتباط نزدیک او با ایلان ماسک، دولت آمریکا حرکت دوباره‌ای برای برنامه‌ریزی و جهت‌دهی به فعالیت‌های تحقیقاتی و غیره آغاز کند. فارغ از موضع‌گیری‌ سیاسی، عمده دغدغه ترامپ مهار چین است. 

چین سرمایه‌گذاری عظیمی در هوش مصنوعی نظامی انجام داده و استراتژی «جنگ هوشمند» را برای ادغام فناوری‌های جدید با تاکتیک‌های نظامی خود دنبال می‌کند. این کشور تلاش دارد تا تا سال 2030 به قدرت برتر در زمینه هوش مصنوعی تبدیل شود. تقابل آمریکا و چین شاید در سال‌های آینده پیچیده‌تر از آنچه که امروزه آن را مشاهده می‌کنیم و نبرد سیاسی و اقتصادی، به جنگی تمام عیار تبدیل شود. وزارت دفاع آمریکا در 2021 نشان می‌دهد که چین در حال تشکیل ساختار و تعریف جنگ هوشمند است. جنگی که با استفاده از هوش مصنوعی هدایت و کنترل می‌شود و با جنگ امروزی تفاوت‌های ویژه دارد. 

هوش مصنوعی در ارتش چین برای تحلیل داده‌های ماهواره‌ای، شناسایی اهداف و پیش‌بینی تهدیدات استفاده می‌شود. این فناوری‌ها به‌خصوص در دریای جنوبی چین برای نظارت بر فعالیت‌های نظامی دیگر کشورها به‌کار گرفته شده‌اند. چینی‌ها ظاهرا به دنبال تجهیز مکانیکی تجهیزات خود با هوش مصنوعی هستند. چین با آمریکا در تمام سطوح رقابت می‌کند و این رقابت را حتی به فضا هم کشانده است. 

روسیه

روسیه یکی از رقبای اصلی آمریکا و چین در توسعه هوش مصنوعی نظامی است. این کشور روی سامانه‌های تسلیحاتی مستقل و ارتقا فناوری‌های دفاعی تمرکز کرد و تانک‌های خودران و سامانه‌های موشکی پیشرفته مجهز به هوش مصنوعی توسعه داده است.

هوش مصنوعی در ارتش روسیه برای پردازش سریع داده‌های میدانی و تصمیم‌گیری تاکتیکی به‌کار می‌رود.

البته اینطور نیست که فقط روسیه چنین استفاده و استخراجی از هوش مصنوعی و ابزارآلات مرتبط با آن داشته باشد. 

رژیم صهیونیستی

گفته می‌شود در تکنولوژی گنبد آهنین و سامانه‌های دفاع موشکی استفاده‌هایی از هوش مصنوعی شده است. علی‌رغم نبود شفاف‌سازی، یکی از ابتدایی‌ترین موضوعات استقاده از هوش مصنوعی که بیشتر کاربرد غیرنظامی دارد، در مسائل محاسباتی است. البته نزدیکی سیاسی این رژیم با ایالات متحده آمریکا هم می‌تواند نقش اساسی در انتقال دانش داشته باشد.  

ایران

ایران از نظر تحقیقاتی جزو کشورهای برتر جهان به حساب می‌آید. آنچه که کشور در آن ضعف دارد، قسمت پرخرج ماجراست. جدا از بحثی که در مورد توسعه هوش مصنوعی در جنگ‌افزارها داریم، سیاست‌گذاری در مورد توسعه هوش مصنوعی و سرمایه‌گذاری در این حوزه بین نهادهای مختلفی پخش شده. عملکرد سازمان ملی هوش مصنوعی بدون ضعف نیست. میزان سرمایه‌‌گذاری دولتی در این مورد بسیار پایین‌تر از کشورهای حاشیه خلیج فارس است. 

به هر حال، ایران در صنعت نظامی جایگاه ویژه‌ای دارد. پهپادهای ایرانی به جهانیان شناخته شده و این موضوع محل بحث نیست. ایران با بهره‌گیری از الگوریتم‌های یادگیری ماشین، پهپادهایی با قابلیت‌های پیشرفته شناسایی و نظارت توسعه داده است که می‌توانند در عملیات‌های مختلف مورد استفاده قرار گیرند.

همچنین، هوش مصنوعی در بهبود سیستم‌های دفاع سایبری ایران نقش مهمی ایفا می‌کند. به‌طور کلی هوش مصنوعی ابزاری است که در حوزه‌های مختلفی کاربرد دارد. لازم به ذکر است که بسیاری از کشورها اطلاعات دقیقی درباره پیشرفت‌های خود در این حوزه منتشر نمی‌کنند. با این حال، کشورهای فوق بر اساس منابع معتبر، از جمله پیشگامان در به‌کارگیری هوش مصنوعی در صنایع نظامی محسوب می‌شوند.

این مقاله بر ضرورت پرداختن به چالش‌های اخلاقی، عملی و ژئوپلیتیکی ناشی از سلاح‌های خودمختار مبتنی بر هوش مصنوعی تأکید می‌کند. همان‌طور که راجان و همکارانش اشاره می‌کنند، تصمیماتی که امروز می‌گیریم نه تنها آینده جنگ‌ها، بلکه مسیر پیشرفت علمی را نیز شکل خواهند داد.