«ادله جعلی»؛ هشدار شرکت‌های فناوری به دستگاه قضایی آمریکا درباره هوش مصنوعی
همه‌گیر شدن هوش مصنوعی اگرچه مزایای مختلفی در حوزه‌های گوناگون دارد اما در حرفه وکالت، قضاوت و به صورت کلی زیر مجموعه‌های علم حقوق مشکلاتی را ایجاد کرده که این چالش‌ها به دلیل پیچیدگی این علم و خروجی‌های آنی و ادواری آن در حال عیان شدن است.
فصل سوم؛ در این راستا، کارشناسان شرکت‌های اوپن ای.آی (Open AI) و متا پلتفرمز (META) اخیراً به یک هیئت قضایی فدرال هشدار دادند که دیپ‌فیک‌های (ادله جعلی) تولیدشده با هوش مصنوعی چنان پیشرفته شده‌اند که تشخیص اصالت شواهد صوتی و تصویری ارائه‌شده در دادگاه‌ها، به‌تدریج دشوارتر خواهد شد.
نمایندگان این شرکت‌ها و دیگر کارشناسان، دیدگاه‌های خود را درباره فناوری در حال تحول هوش مصنوعی در نشست کمیته مشورتی قواعد ادله کنفرانس قضایی ایالات متحده در بوستون مطرح کردند. این کمیته طی سه سال گذشته با این مسئله دست‌وپنجه نرم کرده است که چگونه باید خطرات ناشی از شواهد و ادله جعلی تولیدشده با هوش مصنوعی را در دادگاه‌ها کنترل کرد.
نرم‌افزار هم جعل عمیق را تشخیص نمی‌دهد
به گفته کارشناسان حاضر در نشست، پیشرفت‌های سریع هوش مصنوعی مولد در همین مدت به نقطه‌ای رسیده است که تشخیص ویدئوهای جعلی، هم برای انسان‌ها و هم برای نرم‌افزارها دشوار شده است.
شیرا اندرسون، مشاور سیاست‌گذاری در شرکت OpenAI، به این کمیته اعلام کرده که «تصاویر تولیدشده با هوش مصنوعی فقط روزبه‌روز بهتر می‌شوند و فکر نمی‌کنم از این پس روشی علمی برای تشخیص آن‌ها وجود داشته باشد».
این هیئت از سال ۲۰۲۳ تاکنون در تلاش بوده است راهکاری برای رسیدگی به مسائل مربوط به احراز اصالت دیپ‌فیک‌ها پیدا کند و اطمینان حاصل کند که شواهدی که منشأ هوش مصنوعی آن‌ها مشخص شده است، همان معیارهای قابلیت اعتماد را رعایت می‌کنند که برای شواهد ارائه‌شده از سوی شاهدان متخصص انسانی در نظر گرفته می‌شود.
آماده‌باش قضایی علیه هوش مصنوعی؟
دستگاه قضایی آمریکا، با وجود نبود شواهدی دال بر فراگیر بودن این مشکل، تلاش کرده است پیش از گسترش آن برای مقابله با این مسئله آماده شود. مرکز قضایی فدرال که در حقیقت نهاد پژوهشی دستگاه قضایی ایالات متحده محسوب می‌شود، در ماه مارس اعلام کرد که از میان ۹۳۱ قاضی شرکت‌کننده در یک نظرسنجی، تنها ۱۵ نفر با پرونده‌ای مواجه شده‌اند که در آن یکی از طرفین دعوا به دلیل دیپ‌فیک بودن شواهد، نسبت به پذیرش آن‌ها در دادگاه اعتراض کرده است.
جسی فورمن، قاضی دادگاه منطقه‌ای ایالات متحده در منهتن که ریاست این هیئت را بر عهده دارد، می‌گوید: «اظهارنظرهای دانشگاهی و دیدگاه‌های دیگری زیادی وجود دارد که پیش‌بینی می‌کنند دادگاه‌ها با دیپ‌فیک‌ها مواجه خواهند شد، اما تاکنون در عمل با موارد زیادی از این دست روبه‌رو نشده‌ایم». او همچنین اخیراً کمیته فرعی را مأمور کرد تا این موضوع را با جزئیات بیشتری بررسی کند.
کارشناسان بخش صنعت، دانشگاه‌ها و دولت هشدار دادند که این مسئله صرفاً فرضی نیست و قابلیت دادگاه‌ها برای ایفای نقش به‌عنوان نهاد ناظر بر پذیرش شواهد و جلوگیری از ورود مدارک جعلی تولیدشده با هوش مصنوعی، روزبه‌روز با چالش‌های بیشتری روبه‌رو خواهد شد.
دِوین نوردر، مدیر مدیریت محصول در شرکت متا، گفت: «رسانه‌های تولیدشده با مدل‌های پیشرفته هوش مصنوعی، دست‌کم در نسل‌های اخیر این مدل‌ها، از نظر انسان‌ها از رسانه‌های اصیل یا رسانه‌های تولیدشده با هوش مصنوعی قابل تشخیص نیستند. افزون بر این، هزینه و زمان لازم برای تولید چنین محتوایی در حال حاضر واقعاً ناچیز است».
شرکت‌های بزرگی از جمله OpenAI و متا تلاش کرده‌اند ابزارها و خدماتی را برای راستی‌آزمایی محتوای بصری به کار گیرند. همچنین، قوانین جدیدی در ایالت کالیفرنیا و اتحادیه اروپا، استفاده از سازوکارهای «واترمارک‌گذاری» را با هدف شناسایی دیپ‌فیک‌ها الزامی کرده‌اند.
بااین‌حال، اندرسون هشدار داد که از آنجا که هر شرکت از سامانه خاص خود استفاده می‌کند، هیچ روش فراگیری برای شناسایی قابل‌اعتماد همه واترمارک‌ها یا تأیید اصالت محتوای بصری وجود ندارد.
او می‌گوید «به گمان من، این فناوری قطعاً به پیشرفت خود ادامه خواهد داد؛ اما فکر نمی‌کنم هیچ‌وقت بتوان به روشی کاملاً بی‌نقص و مصون از خطا دست یافت».
با وجود این نگرانی‌ها، والری کاپرونی، قاضی دادگاه منطقه‌ای ایالات متحده در منهتن و یکی از اعضای کمیته، درباره شتاب‌زدگی دستگاه قضایی برای تدوین مقرراتی ویژه هوش مصنوعی به‌منظور رسیدگی به این مسئله ابراز احتیاط کرد؛ به‌ویژه آنکه داده‌های موجود نشان نمی‌دهند چنین مشکلی به معضلی فراگیر در دادگاه‌ها تبدیل شده باشد!
او گفت حتی اگر دادگاه‌ها به‌طور منظم با دیپ‌فیک‌ها مواجه شوند، قوانین و مقررات فعلی از هم‌اکنون ارائه ادله و شواهد جعلی را غیرقانونی می‌دانند و به قضات اجازه می‌دهند درباره جعلی بودن شواهد تصمیم‌گیری کنند.
کاپرونی گفت: «از زمان قابیل و هابیل تاکنون با افرادی بدخواه مواجه بوده‌ایم که شواهد جعلی ارائه می‌کنند و اساساً این مشکلی دیرینه است اما اشکال فعلی آن می‌تواند تبعات و چالش‌های گسترده به همراه داشته باشد».
