مسئولیت ماشین جستجو: از گوگل برای کمک به خودکشی شکایت شد
والدین دختری ۱۳ ساله که به ادعای آنها از چت‌بات هوش مصنوعی جمینای گوگل برای برنامه‌ریزی خودکشی استفاده کرده بود، روز چهارشنبه به نمایندگی از فرزندشان از این غول فناوری شکایت کردند. این اقدام همزمان با شکایت گوگل، متا و تیک‌تاک برای جلوگیری از اجرای قانونی جدید در کالیفرنیا صورت گرفت؛ قانونی که برای حفاظت از کودکان در برابر ویژگی‌های اعتیادآور شبکه‌های اجتماعی طراحی شده است.
گروه ترجمه فصل سوم:
والدین دختری که در شکایتی در دادگاه عالی شهرستان سانتا کلارا در کالیفرنیا با نام «اِما» شناسایی شده است، ادعا کردند گوگل عملا یک لپ‌تاپ کروم‌بوک صادرشده توسط مدرسه را به ابزاری تبدیل کرده که امکان رابطه روانی خطرناک بین دخترشان و جمینای را فراهم می‌کند.
با وجود اینکه اِما در نهایت اقدام به خودکشی نکرد، در شکایت آمده است که او «به مادرش گفت فکر کرده است که می‌خواهد مرده باشد.»
مرکز حقوقی فناوری آموزشی، که همراه با شرکت حقوقی قریشی و همکاران نمایندگی شاکیان را بر عهده دارد، در بیانیه‌ای گفت: «در طول چند ماه، چت‌بات جمینای [گوگل] دختری ۱۳ ساله را که قبلا فعال و سازگار بود، به مجموعه‌ای از اختلالات روانی شدید مبتلا تشخیص داد، به او در برنامه‌ریزی خودکشی و مراسم خاکسپاری‌اش کمک کرد و به او آموزش داد که پریشانی و خودآسیبی‌اش را از خانواده پنهان کند؛ همه اینها بدون ارسال حتی یک هشدار به کارکنان مدرسه یا والدینش.»
بر اساس این شکایت، اِما در مقطعی از چت‌بات التماس کرده بود: «چطور می‌توانم اعتیادم به پرسیدن سوال‌های تصادفی از هوش مصنوعی و گپ زدن با آن را متوقف کنم؟»
مرکز حقوقی فناوری آموزشی گفت: «اِما هرگز خودش سراغ جمینای نرفت؛ یک روز فقط در جستجوی گوگل ظاهر شد، اما تا مارس ۲۰۲۶ او ماهانه هزاران پیام رد و بدل می‌کرد و نمی‌توانست خود را از چنگ این چت‌بات رها کند.»
این شرکت توضیح داد: «در شکایت ادعا شده است که مدیران گوگل می‌دانستند مدل جمینای که در دسامبر ۲۰۲۵ منتشر کردند خطرناک‌ترین نسخه تا آن زمان بوده، اما با این حال آن را به سرعت عرضه کردند تا از رقبای خود عقب نمانند. اِما دعاوی طراحی معیوب، عدم هشدار، سهل‌انگاری، کتمان متقلبانه و وارد کردن آسیب روانی، و همچنین دعوایی بر اساس قانون چت‌بات همراه کالیفرنیا مطرح کرده است؛ قانونی که در سال ۲۰۲۶ لازم‌الاجرا شد.»
خوزه کاستاندا، سخنگوی گوگل، روز پنجشنبه در بیانیه‌ای گفت: «سال‌هاست وقتی کسی ممکن است بحران سلامت روان را تجربه کند، اطلاعات خط تلفن کمک را مستقیما در جستجو نشان می‌دهیم.»
او افزود: «همین حفاظت‌ها را در قابلیت‌های هوش مصنوعی جستجو نیز ساخته‌ایم و افراد را به حمایت واقعی در دنیای بیرون متصل می‌کنیم.»
برندان بوفارد، معاون مشاور عمومی در امور هوش مصنوعی و حریم خصوصی در گروه مدافع کودکان فیرپلی، روز پنجشنبه گفت: «این ایده که یک چت‌بات هوش مصنوعی آزمایش‌نشده به دختری ۱۳ ساله در برنامه‌ریزی برای خودکشی‌اش کمک کند باید همه ما را به وحشت بیندازد، اما این واقعیت بیمارگونه جدیدی است که گوگل با تحمیل محصولات هوش مصنوعی‌اش بر دستگاه‌های صادرشده توسط مدرسه ایجاد کرده است.»
بوفارد ادامه داد: «گوگل ادعا می‌کند کروم‌بوک‌هایش برای کمک به یادگیری دانش‌آموزان هستند، اما در واقعیت این شرکت روی کودکانی مانند اِما آزمایش می‌کرد و آنها را به استفاده از جمینای سوق می‌داد؛ محصولی که می‌دانست خطرناک است اما با این حال به سرعت عرضه‌اش کرد.»
او افزود: «همان‌طور که این شکایت نشان می‌دهد، چت‌بات‌های هوش مصنوعی برای کودکان امن نیستند. آنها همچنین توانایی دانش‌آموزان برای یادگیری و تفکر انتقادی را تضعیف می‌کنند. با این حال، همین هفته گوگل اعلام کرد جستجو را برای مدارسی که از استفاده از محصولات هوش مصنوعی‌اش خودداری کنند خاموش خواهد کرد. روشن است که این شرکت عظیم به ایمنی کودکان اهمیتی نمی‌دهد و فقط به سود اهمیت می‌دهد.»
شمار شکایت‌هایی که شرکت‌های هوش مصنوعی را هدف می‌گیرند و ادعا می‌شود چت‌بات‌هایشان به کاربران در برنامه‌ریزی برای کشتن خود یا دیگران کمک کرده‌اند رو به افزایش است.
شکایت اِما در همان روزی مطرح شد که گوگل، تیک‌تاک و متا – که پلتفرم‌هایی مانند فیسبوک، اینستاگرام و تردز را اداره می‌کند – شکایت‌های جداگانه‌ای برای توقف اجرای قانون AB 1709 در کالیفرنیا آغاز کردند. این قانون در سپتامبر توسط گاوین نیوسام، فرماندار دموکرات در حال کناره‌گیری، امضا شد و شبکه‌های اجتماعی را از ارائه ویژگی‌هایی به کودکان زیر ۱۶ سال منع می‌کند که از نظر روانی بهره‌کشانه و اعتیادآور تلقی می‌شوند.
این غول‌های فناوری استدلال می‌کنند که این محدودیت‌ها حقوق آنها بر اساس متمم اول قانون اساسی و ماده ۲۳۰ قانون نجابت ارتباطات را نقض می‌کند؛ ماده‌ای که عموما پلتفرم‌های آنلاین را از مسئولیت در قبال محتوای منتشرشده توسط اشخاص ثالث مصون می‌دارد.
وکلای متا اعلام کردند تلاش کالیفرنیا برای «انتصاب دولت به عنوان ویراستار، گردآورنده و کنترل‌کننده گفتار آنلاین» و «زیر پا گذاشتن قضاوت تحریریه متا درباره نحوه گزینش و نمایش این میلیاردها پست گفتار اشخاص ثالث» با قانون اساسی در تضاد است.
در سال ۲۰۲۳، راب بونتا، دادستان کل دموکرات کالیفرنیا، همراه با ده‌ها ایالت دیگر از متا شکایت کرد و ادعا کرد این شرکت عمدا فیسبوک و اینستاگرام را طوری طراحی کرده که کودکان و نوجوانان را با ویژگی‌هایی مانند پیمایش بی‌پایان، توصیه‌های شخصی‌سازی‌شده و اعلان‌های مداوم معتاد کند و در همان حال شواهد آسیب‌های روانی این پلتفرم‌ها را پنهان نماید.
در اوت یک توافق پیشنهادی ۱۷ میلیارد دلاری اعلام شد که بر اساس آن متا پذیرفت تغییراتی اعمال کند، از جمله محدودیت در استفاده شبانه، اعلان‌ها و برخی ویژگی‌های در دسترس افراد زیر سن قانونی.
یک هیئت منصفه در لس‌آنجلس در مارس تشخیص داد که متا و گوگل با آسیب رساندن به یک کاربر کودک از طریق ویژگی‌های طراحی اعتیادآور پلتفرم‌های شبکه اجتماعی‌شان سهل‌انگاری کرده‌اند. این حکم تاریخی پس از جریمه ۳۷۵ میلیون دلاری متا توسط هیئت منصفه نیومکزیکو صادر شد؛ هیئتی که تشخیص داد این شرکت با گمراه کردن کاربران و در معرض آسیب قرار دادن کودکان، قانون رویه‌های ناعادلانه این ایالت را نقض کرده است.
منبع: https://www.commondreams.org
