عصر قم - هشدار کارشناسان درباره خطرهای هوش مصنوعی، موج تازهای از نگرانی بینالمللی را درباره تهدید فناوریهای الگوریتمی علیه حریم خصوصی، امنیت شغلی و سلاحهای خودمختار رقم زده است.
به گزارش گروه حقوق خبرگزاری رسا، گسترش شتابان فناوری هوش مصنوعی و نفوذ آن به زیرساختهای حیاتی، سامانههای تسلیحاتی و ساختارهای اجتماعی، به یکی از مهمترین چالشهای نظام بینالملل تبدیل شده است.
در شرایطی که شرکتهای بزرگ فناوری با سرعتی بیسابقه در حال ارتقای مدلهای هوشمند هستند، نهادها و کارشناسان حقوق بشر نسبت به پیامدهای جبرانناپذیر غفلت از حکمرانی قانونی این فناوری هشدار میدهند.
افتتاحیهی شصتوسومین نشست شورای حقوق بشر سازمان ملل در ژنو، بستر یکی از صریحترین هشدارهای بینالمللی در این زمینه شد؛ جایی که کمیسر عالی حقوق بشر خواستار اقدام فوری جهانی برای کنترل این عرصه شد.
هشدار کمیسر عالی؛ هوش مصنوعی و خطر وجودی برای بشریت
وولکر تورک، کمیسر عالی حقوق بشر سازمان ملل در سخنرانی افتتاحیه خود در شصتوسومین نشست شورای حقوق بشر، پیشرفت بدون نظارت هوش مصنوعی پیشرفته را یک خطر وجودی برای بشریت خواند.
تورک با ابراز نگرانی عمیق از روند توسعه الگوریتمها تاکید کرد که اگر فناوری هوش مصنوعی از محیطهای آزمایشی خارج شده و کنترل آن از دست توسعهدهندگان خارج شود، مهار آن دیگر ممکن نخواهد بود.
او اعلام کرد که طی نامهای رسمی به مدیران ارشد شرکتهای بزرگ توسعهدهنده هوش مصنوعی، خواستار اتخاذ تدابیر فوری برای کاهش خطرها شده و از دولتها خواسته است تا خطوط قرمز آهنین و بینالمللی برای تضمین امنیت این فناوری تعریف کنند.
انحصار قدرت و تهدید بنیانهای دموکراسی
یکی از محورهای اصلی نقد کمیسر عالی سازمان ملل و اندیشکدههای حقوق بشری، تمرکز بیسابقه قدرت فناوری در دست شمار محدودی از افراد است.
به گفته تورک، «مشتی از افراد» اکنون کنترلی تقریبا بیمحدودیت بر زیرساختهای هوش مصنوعی و حجم عظیمی از دادههای کاربران جهانی دارند.
پژوهشهای نهادهای تحلیلی مانند موسسه بروکینگز و بنیاد کارنگی نیز پیشتر نشان دادهاند که جمعآوری انبوه دادهها و پردازش الگوریتمی، خطر فرسایش حریم خصوصی، تشدید تبعیضهای ساختاری و اعمال سانسور هوشمند را بههمراه دارد.
علاوه بر این، انتشار محتواهای سفارشی و احبار جعلی ساختهشده توسط هوش مصنوعی مولد، فرآیندهای دموکراتیک و انتخابات را در سراسر جهان دستخوش سوءاستفاده کرده و صحت اطلاعات را مخدوش میسازد.
نگرانی شدید از تسلیحات خودمختار و هوش مصنوعی در درگیریها
یکی از نگرانکنندهترین ابعاد به بکارگیری هوش مصنوعی در حوزه نظامی و جنگهای مدرن مربوط میشود.
کمیسر عالی حقوق بشر در اظهارات خود به صراحت نسبت به استفاده از سلاحهای کاملا خودمختار (تسلیحات کشنده بدون دخالت انسان) ابراز وحشت کرد و خواستار ممنوعیت بینالمللی فوری برای سیستمهایی شد که امکان گرفتن جان انسانها را بدون تصمیمگیری مستقیم انسانی فراهم میکنند.
براساس گزارشهای سازمانهای حقوق بشری، ورود هوش مصنوعی به حوزه هدایت پهپادها و سامانههای هدفگیری خودکار در درگیریهای نظامی، خطرهای خطای الگوریتمی و کشتار غیرنظامیان را افزایش داده و مسئولیتپذیری حقوقی را براساس حقوق بینالملل بشردوستانه بهطور کامل زیر سوال میبرد.
تبعیضهای شغلی و بار زیستمحیطی پردازشهای سنگین
آسیبهای هوش مصنوعی تنها به ابعاد نظامی و سیاسی محدود نمیشود؛ اندیشکده محیط زیست و امنیت بینالملل و سازمانهای کار وابسته به سازمان ملل بارها تاکید کردهاند که موج اتوماسیون ناشی از هوش مصنوعی، ساختار بازار کار را برهم زده و خطر بیکاری گسترده و کاهش امنیت شغلی را تشدید میکند.
از سوی دیگر، مراکز داده عظیم که برای آموزش و پشتیبانی مدلهای هوش مصنوعی به کار میروند، مصرف برق و آب بیسابقهای دارند.
تورک در این زمینه یادآور شد که ارزیابی اثرهای زیستمحیطی پنهان هوش مصنوعی و تاثیر آن بر اقلیم باید جزئی جداییناپذیر از ارزیابیهای حقوق بشری باشد.
ضرورت ارزیابی مستقل و تدوین مقررات الزامآور
در مواجهه با این خطرها، نهادهای حقوق بشری و ارزیابان مستقل بینالمللی معتقدند که خودتنظیمی توسط شرکتهای فناوری کافی نیست.
تورک در نشست ژنو خواستار ایجاد سیستمهای راستیآزمایی مستقل و همکاری بینالمللی میان کشورهای میزبان تکنولوژی و زنجیرههای تامین شد.
از دیدگاه کارشناسان حقوق بینالملل، تنها راه پیشگیری از سناریوهای بحرانی، منوط کردن توسعه مدلهای قدرتمند هوش مصنوعی به ارزیابیهای شفاف حقوق بشری و انطباق کامل آنها با استانداردهای جهانی است تا پیشرفت تکنولوژی در خدمت انسانیت باقی بماند نه برعکس.