وکیل، ماشین و حقیقت؛ تأملی در مسئولیت حرفهای در عصر هوش مصنوعی با نگاهی به آرای دادگاههای آمریکا و کانادا
علیرضا بابایی*
مقدمه
حقوق را غالباً مجموعهای از قواعد الزامآور میدانند؛ حال آنکه در پس این قواعد، اندیشهای ساده اما بنیادین نهفته است: هر کس که در روابط اجتماعی صاحب اختیار است، باید پاسخگوی آثار اعمال خویش نیز باشد. مسئولیت، روی دیگر اختیار است و این دو را نمیتوان از یکدیگر جدا ساخت. اگر اختیار باقی بماند و مسئولیت زایل شود، عدالت به امتیازی بیهزینه تبدیل خواهد شد و اگر مسئولیت برقرار باشد بیآنکه اختیاری وجود داشته باشد، حقوق به ابزاری برای تحمیل بیدلیل تکلیف بدل میشود.
ظهور هوش مصنوعی، این پرسش دیرینه را با صورتی تازه در برابر حقوقدانان قرار داده است. هنگامی که یک سامانه هوشمند متن مینویسد، استدلال میکند، رأی قضایی پیشنهاد میدهد و حتی لایحه تنظیم میکند، مسئولیت خطای احتمالی آن بر عهده کیست؟ آیا میتوان به بهانه آنکه منبع خطا یک الگوریتم بوده است، از مسئولیت حرفهای گریخت؟ آیا فناوریهای نوین قواعد سنتی مسئولیت را دگرگون کردهاند یا آنکه تنها مصادیق تازهای از همان قواعد دیرپا را پدید آوردهاند؟
این پرسشها دیگر صرفاً فرضیههای دانشگاهی نیستند. طی دو سال گذشته، دادگاههای آمریکایی و کانادایی ناگزیر شدهاند در مقام داوری به آنها پاسخ دهند. وجه مشترک همه این پروندهها نیز پدیدهای است که متخصصان علوم رایانه از آن با عنوان «توهم هوش مصنوعی» یاد میکنند؛ وضعیتی که در آن سامانه، اطلاعاتی منسجم و ظاهراً معتبر تولید میکند که در واقع وجود خارجی ندارند.
اما آنچه برای حقوقدان اهمیت دارد، سازوکار فنی این خطاها نیست. مسئله اصلی آن است که آیا خطای ماشین میتواند مسئولیت انسان را زایل کند؟
از ماتا تا میسیسیپی
نخستین زنگ خطر جدی در پرونده مشهور Mata v. Avianca به صدا درآمد. در آن پرونده، وکلای خواهان برای تقویت استدلالهای خود به آرایی استناد کردند که بعداً معلوم شد اساساً وجود خارجی ندارند. این آرا محصول سامانه ChatGPT بودند. هنگامی که دادگاه حقیقت را کشف کرد، واکنش آن معطوف به فناوری نبود، بلکه متوجه وکلایی شد که بدون راستیآزمایی مستقل، خروجی سامانه را به دادگاه ارائه کرده بودند.
در نگاه نخست، ممکن است چنین به نظر برسد که اهمیت این پرونده در نوظهور بودن فناوری مورد استفاده است. اما با اندکی تأمل روشن میشود که دادگاه در حقیقت از اصلی بسیار قدیمی دفاع میکرد؛ اصلی که بر اساس آن، ارائه هر سند و استدلال به دادگاه مستلزم پذیرش مسئولیت صحت آن است.
یک سال بعد، دادگاه عالی بریتیش کلمبیا در پرونده Zhang v. Chen با مسئلهای مشابه مواجه شد. در آن پرونده نیز استنادهایی که توسط هوش مصنوعی پیشنهاد شده بودند، فاقد وجود واقعی از آب درآمدند. تفاوت مهم این پرونده در آن بود که دادگاه هیچ نشانهای از سوءنیت یا قصد فریب در رفتار وکیل نیافت. با این حال، مسئولیت را منتفی ندانست. قاضی تصریح کرد که اعتماد صرف به خروجی هوش مصنوعی، جایگزین وظیفه راستیآزمایی مستقل نمیشود و وکیل همچنان مکلف است پیش از استناد به یک منبع، از وجود و اعتبار آن اطمینان حاصل کند.
بدین ترتیب، دادگاه کانادایی میان تقلب و قصور حرفهای تمایز نهاد. وکیل ممکن است قصد فریب نداشته باشد، اما اگر معیار متعارف مراقبت حرفهای را رعایت نکند، همچنان مسئول خواهد بود.
این روند سرانجام در رأی مشهور دادگاه فدرال میسیسیپی به مرحلهای تازه رسید. در آن پرونده، قاضی شارین ایکاک با وضعیتی کمسابقه روبهرو شد؛ وکلای هر دو سوی دعوا به استنادهایی متوسل شده بودند که بخشی از آنها محصول هوش مصنوعی و فاقد اعتبار واقعی بود. دادگاه با استناد به Rule 11 آیین دادرسی مدنی فدرال آمریکا، نه تنها جریمههای مالی اعمال کرد، بلکه برخی وکلا را از ادامه حضور در پرونده و حتی از حضور در آن دادگاه محروم ساخت.
در ظاهر، این سه پرونده به سه کشور و سه دادگاه متفاوت تعلق دارند؛ اما در ژرفای خود حامل یک پیام واحدند: مسئولیت حرفهای را نمیتوان به ماشین واگذار کرد.
امضا؛ حلقه اتصال اختیار و مسئولیت
شاید مهمترین آموزه این پروندهها در یک پرسش نهفته باشد: دادگاه از چه کسی توضیح میخواهد؟
دادگاه از الگوریتم بازخواست نمیکند. از نرمافزار توضیح نمیخواهد. برای مدل زبانی اخطاریه صادر نمیکند. مخاطب دادگاه همواره انسانی است که سند را امضا کرده و مسئولیت آن را پذیرفته است.
در حقوق آمریکا، این اندیشه در Rule 11 آیین دادرسی مدنی فدرال تجسم یافته است. بر اساس این قاعده، امضای وکیل صرفاً یک تشریفات اداری نیست؛ بلکه اعلامی رسمی است مبنی بر اینکه وی پس از تحقیق متعارف، از وجود مبنای واقعی و حقوقی ادعاهای خود اطمینان یافته است.
به بیان دیگر، مسئولیت نه از آن رو ایجاد میشود که وکیل شخصاً تمام سطور متن را نوشته است،
بلکه از آن جهت که او تصمیم گرفته است آن متن را به نام خود به دادگاه ارائه کند.
از این منظر، تفاوتی میان خطای کارآموز، اشتباه پژوهشگر، نقص بانک اطلاعاتی حقوقی یا توهم هوش مصنوعی وجود ندارد. آنچه اهمیت دارد این است که آیا صاحب امضا وظیفه حرفهای خویش را در راستیآزمایی و کنترل محتوا انجام داده است یا خیر.
مسئولیت حرفهای وکیل در حقوق ایران؛ آیا به Rule 11 نیاز داریم؟
در نگاه نخست، ممکن است چنین تصور شود که اهمیت آرای مورد بحث، به وجود مقررات خاصی در نظام حقوقی آمریکا وابسته است و از آنجا که حقوق ایران نهادی همانند Rule 11 آیین دادرسی مدنی فدرال را نمیشناسد، نتایج این پروندهها نیز قابلیت انتقال به نظام حقوقی ما را ندارند. اما این برداشت، بیش از آنکه ناشی از تفاوت در مبانی حقوقی باشد، نتیجه تفاوت در شیوه بیان قواعد است.
در بسیاری از نظامهای حقوقی، آنچه در یک ماده قانونی به صراحت بیان میشود، در نظامی دیگر از مجموعهای از اصول، قواعد و عرفهای حرفهای استنباط میشود. حقوق ایران نیز از این قاعده مستثنا نیست.
هرچند قانونگذار ایرانی قاعدهای با عنوان «مسئولیت ناشی از امضای لایحه» وضع نکرده است، اما روح حاکم بر مقررات وکالت و دادرسی، بر همان اندیشهای استوار است که Rule 11 از آن حمایت میکند: وکیل در برابر آنچه به دادگاه عرضه میکند، مسئول است.
نخستین مبنای این مسئولیت را باید در ماهیت حرفه وکالت جستوجو کرد. وکیل، صرفاً سخنگوی موکل نیست. او عضوی از نظام عدالت است و نقش وی تنها دفاع از منافع خصوصی نیست، بلکه مشارکت در تحقق دادرسی منصفانه نیز هست. به همین دلیل، حقوق همواره از وکیل انتظاری فراتر از یک نماینده عادی داشته است. آنچه از یک تاجر، یک کارمند یا حتی یک شهروند عادی انتظار میرود، با آنچه از یک وکیل انتظار میرود یکسان نیست. وکالت، حرفهای مبتنی بر اعتماد عمومی است و هرجا اعتماد عمومی در میان باشد، سطح مسئولیت نیز افزایش مییابد.
از همین روست که سوگند وکالت در اغلب نظامهای حقوقی جایگاهی نمادین اما عمیق دارد. سوگند، صرفاً یک تشریفات آغاز اشتغال نیست؛ یادآور این حقیقت است که وکیل در برابر قانون، دادگاه، موکل و جامعه تعهداتی بر عهده گرفته است که نمیتواند آنها را به دیگری منتقل کند. هنگامی که وکیل لایحهای را امضا میکند، در واقع اعتبار حرفهای خویش را پشتوانه آن قرار میدهد. این اعتبار قابل تفویض به کارآموز، منشی، پژوهشگر یا سامانه هوش مصنوعی نیست.
از تقلب تا بیمبالاتی؛ تحول مفهوم مسئولیت
یکی از مهمترین آموزههای پرونده Zhang v. Chen آن بود که دادگاه میان سوءنیت و مسئولیت حرفهای تفکیک قائل شد. قاضی نپذیرفت که چون وکیل قصد فریب نداشته است، از هرگونه مسئولیت مبرا باشد. این تحلیل، در واقع بازتاب تحولی است که حقوق مسئولیت در دو قرن اخیر تجربه کرده است.
در حقوق سنتی، توجه عمدتاً معطوف به رفتارهای عمدی و متقلبانه بود. اما با پیچیدهتر شدن روابط اجتماعی، روشن شد که بخش عمده زیانها نه از سوءنیت، بلکه از بیاحتیاطی، بیمبالاتی و سهلانگاری ناشی میشود. از این رو، مفهوم تقصیر گسترش یافت و رفتارهایی را دربر گرفت که هرچند فاقد قصد زیانرسانی بودند، با معیار متعارف مراقبت سازگار نبودند.
امروز کمتر کسی تردید دارد که پزشکی که بدون بررسی پرونده بیمار اقدام به جراحی کند، یا مهندسی که بدون مطالعه کافی نقشه ساختمانی را تأیید نماید، مسئول نتایج عمل خویش خواهد بود؛ هرچند قصد ورود زیان نداشته باشد. در حرفه وکالت نیز وضعیت تفاوتی ندارد. اگر وکیل بدون راستیآزمایی کافی، رأیی ساختگی را به دادگاه ارائه کند، مسئولیت او از آن جهت نیست که خواسته دادگاه را فریب دهد، بلکه از آن روست که معیار متعارف دقت حرفهای را رعایت نکرده است.
هوش مصنوعی این قاعده را تغییر نداده است؛ تنها شکل تازهای از همان خطر قدیمی را پدید آورده است. پیشتر ممکن بود خطا از کتابی نادرست، یادداشتی ناقص یا پژوهشگری کمدقت ناشی شود؛ امروز ممکن است از خروجی یک مدل زبانی سرچشمه گیرد. اما منشأ خطا هرچه باشد، معیار ارزیابی رفتار وکیل تغییر نمیکند.
توهم هوش مصنوعی و خطای اعتماد
شاید بزرگترین خطر سامانههای هوش مصنوعی نه در میزان خطای آنها، بلکه در شیوه ظهور این خطاها باشد. انسان معمولاً نسبت به اطلاعات ناقص یا مبهم با احتیاط برخورد میکند. اما هنگامی که اطلاعاتی با زبانی روان، منظم و قاطع ارائه میشوند، تمایل بیشتری به پذیرش آنها پیدا میکند.
از همین رو، برخی پژوهشگران پدیده «توهم هوش مصنوعی» را صرفاً یک نقص فنی نمیدانند، بلکه آن را نوعی خطر معرفتی توصیف میکنند. مشکل آن نیست که سامانه پاسخ اشتباه میدهد؛ مشکل آن است که پاسخ اشتباه را با ظاهری کاملاً معتبر عرضه میکند.
در حرفه حقوق، این خطر دوچندان است. زیرا حقوق دانشی است که بر اعتبار منابع استوار است. ارزش یک استدلال حقوقی نه فقط به منطق درونی آن، بلکه به اعتبار مستندات آن وابسته است. رأیی که وجود ندارد، هرچند از نظر نگارشی بینقص باشد، هیچ ارزش حقوقی ندارد. از این منظر، خطر اصلی هوش مصنوعی برای حرفه وکالت، جایگزین شدن تدریجی «اعتماد» به جای «تحقیق» است.
پروندههای ماتا، ژانگ و میسیسیپی، هر سه در حقیقت جلوههایی
از همین پدیده هستند. در هر سه مورد، خطا از آنجا آغاز شد که وکیل به جای آنکه هوش مصنوعی را ابزار پژوهش بداند، آن را مرجع پژوهش تلقی کرد.
آیا میتوان مسئولیت را به ماشین منتقل کرد؟
در سالهای اخیر، برخی نویسندگان از امکان اعطای شخصیت حقوقی محدود به سامانههای هوشمند سخن گفتهاند. استدلال آنان این است که اگر ماشینها در تصمیمگیریها نقشی روزافزون ایفا میکنند، شاید باید بخشی از مسئولیت را نیز بر عهده آنها نهاد.
این دیدگاه، هرچند از نظر نظری جذاب است، اما دستکم در وضعیت کنونی با دشواریهای جدی مواجه است. مسئولیت حقوقی صرفاً یک سازوکار جبران خسارت نیست؛ نوعی پاسخگویی نیز هست. مسئول کسی است که بتوان از او توضیح خواست، او را مورد سرزنش قرار داد و آثار تصمیم او را به خودش نسبت داد.
هوش مصنوعی، هر اندازه پیشرفته باشد، هنوز فاقد چنین ظرفیتی است. الگوریتم نمیتواند معنای اخلاقی رفتار خود را درک کند. احساس تعهد ندارد. نمیتواند از تصمیم خود دفاع کند یا نسبت به پیامدهای آن احساس مسئولیت کند. به همین دلیل، حقوق همچنان ناگزیر است به انسان بازگردد؛ به برنامهنویس، بهرهبردار، مدیر سامانه یا شخصی که خروجی را پذیرفته و مورد استفاده قرار داده است.
به تعبیر دیگر، فناوری ممکن است در زنجیره تصمیمگیری نقش داشته باشد، اما هنوز جایگاه «فاعل مسئول» را اشغال نکرده است.
نتیجهگیری؛ بقای اصول در دگرگونی ابزارها
حقوق در طول تاریخ بارها با فناوریهای نوین مواجه شده است. چاپ، تلگراف، تلفن، رایانه و اینترنت، هر یک در زمان خود انقلابی در شیوه ارتباطات انسانی پدید آوردند. با این حال، هیچیک نتوانستند اصول بنیادین مسئولیت را از میان ببرند. آنچه تغییر کرد ابزارها بودند، نه مبانی.
هوش مصنوعی نیز به احتمال زیاد از همین قاعده پیروی خواهد کرد. این فناوری بیتردید شیوه تحقیق حقوقی، تنظیم قراردادها، نگارش لوایح و حتی تحلیل آرای قضایی را دگرگون خواهد ساخت. اما از دل این تحولات، اصل تازهای درباره مسئولیت زاده نشده است.
پیام مشترک آرای Mata، Zhang و رأی دادگاه فدرال میسیسیپی را میتوان در یک جمله خلاصه کرد: مسئولیت همچنان از آنِ صاحب امضاست.
دادگاهها نه با فناوری دشمنی دارند و نه استفاده از هوش مصنوعی را منع میکنند. آنچه آنان بر آن اصرار میورزند، حفظ پیوند میان اختیار و پاسخگویی است. هرکس از ابزارهای نوین بهره میگیرد، باید مسئولیت نتایج آن را نیز بپذیرد.
شاید مهمترین درس حقوقی عصر هوش مصنوعی همین باشد: ماشین میتواند بنویسد، پیشنهاد دهد و تحلیل کند؛ اما هنوز نمیتواند پاسخگو باشد. از این رو، در جهانی که الگوریتمها هر روز هوشمندتر میشوند، مسئولیت همچنان بر دوش انسان باقی میماند؛ انسانی که تصمیم میگیرد، اعتماد میکند و در نهایت، پای نوشته خویش را امضا میکند.
* وکیل پایه یک دادگستری
