هشدار کمیسر عالی حقوق بشر ملل متحد: زمان برای قانونگذاری هوش مصنوعی رو به اتمام است

گروه ترجمه فصل سوم:

آقای تورک روز دوشنبه در بریتانیا و در نشست هوش مصنوعی و حقوق بشر در آکسفورد گفت که این فناوری می‌تواند پیشرفت‌های خیره‌کننده‌ای در علم، سلامت، آموزش و حتی کار حقوق بشری به ارمغان بیاورد.

اما ابزارهای آن به دست شمار اندکی ساخته و کنترل می‌شود، بدون نظارت عمومی، و هم‌اکنون کارهایی انجام می‌دهد که سازندگانش نمی‌توانند به طور کامل پیش‌بینی یا مدیریت کنند.

حرکت خزنده پادآرمانشهر

او هشدار داد که هوش مصنوعی می‌تواند برابری، آزادی، حریم خصوصی و بحث عمومی را به شکل‌های ظریفی تضعیف کند و «بگذارد پادآرماشنهر بی‌سروصدا نفوذ کند». کل جمعیت‌ها می‌توانند «با فشار یک دکمه» از ارتباطات، آب پاک، گرمایش و خدمات مالی جدا شوند.

او خواستار اقدام فوری برای ممنوع کردن تصمیم‌گیری ماشین‌ها درباره اینکه چه کسی زنده بماند و چه کسی بمیرد شد و اشاره کرد که هوش مصنوعی هم‌اکنون چهره جنگ را تغییر داده است.

او همچنین به پژوهش‌هایی اشاره کرد که نشان می‌دهد دانش‌آموزانی که به هوش مصنوعی تکیه می‌کنند کمتر مطالب را در ذهن نگه می‌دارند و کمتر مستقل فکر می‌کنند، و پرسید آیا جهان به آینده‌ای می‌رود که در آن هیچ‌کس نتواند این فناوری را درک کند، زیر سؤال ببرد یا حتی هدایت نماید.

همزمان با سخنرانی کمیسر عالی حقوق بشر سازمان ملل در این نشست در بریتانیا، شورای شهر نیویورک – که قلب مالی اقتصاد آمریکا در آن قرار دارد – نیز یک نشست نادر «کمیته کل» برای بررسی خطرات هوش مصنوعی برای شهروندان نیویورک برگزار کرد.

این شورا ۱۰ لایحه را برای تنظیم مقررات هوش مصنوعی در بزرگ‌ترین شهر آمریکا بررسی می‌کند و از شرکت‌های آنتروپیک، اوپن‌ای‌آی، گوگل و متا شهادت گرفته است.

اقدامات حفاظتی اجباری

آقای تورک خواستار تضمین‌های اجباری حقوق بشری و دقت لازم در نحوه توسعه و استفاده از هوش مصنوعی شد؛ تضمین‌هایی که همراه با تحول این فناوری به‌روز شوند. او گفت کشورهایی که میزبان شرکت‌های هوش مصنوعی هستند، یا بر زنجیره تأمین آنها نفوذ دارند، باید آنها را ملزم کنند مسئولانه عمل کنند و وقتی مسئولانه عمل نکردند، پاسخگو باشند.

او افزود که همه پاسخ‌ها در قوانین موجود نیست و برخی حوزه‌ها به رویکردهای حقوقی جدید نیاز دارند. اما به‌روزرسانی قواعد مربوط به مسئولیت، امنیت سایبری و حفاظت از داده می‌تواند در این فاصله زمانی محافظت ایجاد کند.

او همچنین خواستار همکاری قوی‌تر در زمینه امنیت و پایش مستقل درون صنعت شد – «نه در حرف، بلکه در عمل» – و سهم بیشتر جامعه مدنی و افرادی که حقوقشان تحت تأثیر قرار گرفته است.

او گفت: «ما دیگر نمی‌توانیم منتظر بمانیم یا به حسن نیت تکیه کنیم.»

بخشی از حرکت

آقای تورک از ایجاد «گفت‌وگوی جهانی درباره حاکمیت هوش مصنوعی» و «پانل علمی بین‌المللی مستقل درباره هوش مصنوعی» – هر دو از ابتکارات سازمان ملل – و همچنین فراخوان مشترک برای کنترل شدیدتر مدل‌های هوش مصنوعی پیشرو که ۲۹ کشور و اتحادیه اروپا از آن حمایت کرده‌اند، استقبال کرد.

او همچنین گفت رهبران صنعت هوش مصنوعی هفته گذشته گام‌های تازه‌ای در زمینه حفاظت، خودتنظیمی و ارزیابی ریسک برداشته‌اند – ظاهراً اشاره‌ای به توافقی داوطلبانه که روز ۲۹ سپتامبر در کاخ سفید توسط دونالد ترامپ و مدیران شش شرکت هوش مصنوعی امضا شد.

این توافق برای شرکت‌هایی که آن را نادیده بگیرند مجازاتی ندارد و ترامپ آن را «الزام‌آور از نظر اخلاقی» توصیف کرده است.

«به حرف خود عمل کردن»

کمیسر حقوق بشر گفت: «تعداد بسیار کمی به حرف خود عمل می‌کنند.» او سه هفته پیش به دولت‌ها و شرکت‌های هوش مصنوعی پیشرو نامه نوشت و از آنها خواست همین حالا برای کاهش خطرها اقدام کنند.

او گفت: «اگر نتوانیم سریع حرکت کنیم، با پیامدهای پیش‌بینی‌ناپذیری روبرو می‌شویم – برای خودمان و نسل‌های آینده.»

منبع: وبسایت ملل متحد