منازعه جدید قاره‌سبز در حوزه مسئولیت طراحی الگوریتم‌ها
نقض تعهدات حفاظت از سلامت روان کاربران؛ دعوای حقوقی کمیسیون اروپا علیه تیک‌تاک
فصل سوم؛ کمیسیون اروپا در تصمیمی مقدماتی، پلتفرم تیک‌تاک را به کوتاهی در حفاظت از سلامت روان کاربران متهم کرده است؛ چراکه به اعتقاد نهاد ناظر اتحادیه اروپا، الگوریتم این شبکه اجتماعی با قرار دادن مستمر کاربران در معرض جریان بی‌وقفه‌ای از محتوای تکراری، به‌ویژه مطالب مرتبط با تصویر بدنی، اختلالات خوردن و انزوای اجتماعی، می‌تواند سلامت روان آنان را به خطر اندازد.
این پرونده، یکی از مهم‌ترین چالش‌های حقوقی پیش روی مدل کسب‌وکار تیک‌تاک محسوب می‌شود؛ مدلی که بر افزایش مدت حضور و تعامل کاربران در پلتفرم استوار است.
دعوا بر سر الگوریتم تیک‌تاک
کمیسیون اروپا (جمعه) در چارچوب صدور یک ارزیابی مقدماتی، اعلام کرد که الگوریتم تیک‌تاک «می‌تواند آسیب‌زا باشد» و کاربران جوان و آسیب‌پذیر را به مسیرهایی از محتوای زنجیره‌ای و تکرارشونده هدایت می‌کند که خروج از آن‌ها به‌آسانی امکان‌پذیر نیست.
بر اساس یافته‌های اولیه این نهاد، تیک‌تاک که مالکیت آن در اختیار یک شرکت چینی است و ۱۸۹ میلیون کاربر در اتحادیه اروپا دارد، در جلوگیری از نمایش مکرر محتواهایی با موضوعاتی نظیر تصویر ذهنی از بدن و انزوای اجتماعی ناکام بوده است. کارشناسان کمیسیون اروپا اعلام کردند که مواجهه مستمر با چنین محتواهایی می‌تواند موجب تشدید اضطراب، اندوه و اختلالات موجود در زمینه تغذیه و خوردن یا سایر مشکلات سلامت روان شود.
مقام‌های اروپایی تأکید کرده‌اند که تحقیقات آنان بر محتوای قانونی متمرکز بوده که ممکن است مشاهده یک ویدئوی منفرد از آن به‌خودی‌خود مسئله‌ساز نباشد، اما تماشای ده‌ها ویدئوی مشابه با یک موضوع مشترک، در مجموع، می‌تواند به سلامت روان کاربران آسیب برساند.
ناکارآمدی سازوکارهای حفاظتی و تداوم چرخه محتوای تکراری
یکی از محورهای اصلی انتقاد کمیسیون اروپا، ناکارآمدی تدابیر حفاظتی تیک‌تاک برای کاهش خطر موسوم به اثر سقوط در حفره خرگوش (Rabbit-hole Effect) است؛ اصطلاحی که به وضعیتی اشاره دارد که در آن الگوریتم، برای افزایش تعامل و حفظ حضور کاربر در پلتفرم، محتوایی محدود، مشابه و تکراری را به‌صورت پی‌درپی به او پیشنهاد می‌کند.
به گفته مقام‌های اروپایی، سازوکارهای پیش‌بینی‌شده برای مقابله با این پدیده، کارآمدی لازم را نداشته‌اند. برای نمونه، حتی اگر کاربر در مواجهه با ویدئویی درباره الگوهای تغذیه، گزینه علاقه‌ای ندارم (Not Interested) را انتخاب کند، الگوریتم همچنان ممکن است محتواهای مشابهی درباره رژیم غذایی و تصویر بدنی به او پیشنهاد دهد.
همچنین، بررسی‌های کمیسیون نشان داده است که تازه‌سازی صفحه پیشنهادها (Feed) صرفاً وقفه‌ای کوتاه در نمایش پیوسته محتواهای مرتبط با یک موضوع ایجاد می‌کند و نمی‌تواند به‌طور مؤثر کاربر را از چرخه محتوای تکراری خارج سازد.
«هنا ویرکونن»، مقام ارشد کمیسیون اروپا در حوزه سیاست‌گذاری فناوری، در این خصوص می‌گوید «هر بار که کاربر در تیک‌تاک صفحه را پیمایش می‌کند یا ویدئویی را لایک می‌کند، الگوریتم محتوای بیشتری از همان نوع به او ارائه می‌دهد و در نتیجه، کاربران را به مسیرهایی از محتوا هدایت می‌کند که خروج از آن‌ها به‌آسانی امکان‌پذیر نیست».
وی افزود: «تیک‌تاک باید تلاش‌های خود را برای حفاظت از سلامت و رفاه کاربران، از جمله افراد زیر سن قانونی، افزایش دهد».
رد اتهامات کمیسیون اروپا توسط تیک‌تاک
تیک‌تاک در واکنش به یافته‌های مقدماتی کمیسیون اروپا، این اتهامات را رد کرد.
سخنگوی این شرکت در بیانیه‌ای اعلام کرد که «کمیسیون مجموعه‌ای از اظهارات را مطرح کرده است که اساساً نادرست بوده و ساختار فنی پلتفرم ما و تعهداتمان در قبال ایمنی کاربران را تحریف می‌کند. ما سابقه‌ای قابل‌توجه در حفاظت از جامعه کاربران خود داریم و هم‌زمان، امکان کنترل مستقیم و آسان تجربه محتوایی را در اختیار آنان قرار می‌دهیم».
این شرکت همچنین استدلال کرده است که سیاست‌های محتوایی آن، انتشار مطالبی را که اختلالات تغذیه‌ای یا رفتارهای پرخطر در زمینه مدیریت وزن را ترویج می‌کنند، ممنوع کرده است.
تیک‌تاک در دفاع از عملکرد خود اعلام کرده است که بیش از ۷۹ میلیون کاربر این پلتفرم در اتحادیه اروپا، طی شش ماه نخست سال ۲۰۲۶، برای حذف یا محدودسازی محتواهای ناخواسته از قابلیت‌های «علاقه‌ای ندارم» و فیلتر کلمات کلیدی استفاده کرده‌اند.
واکنش نهادهای حامی حقوق کودکان و سلامت روان
در این راستا بنیاد مولی رز (Molly Rose Foundation) نیز از یافته‌های کمیسیون اروپا استقبال کرده است. این بنیاد به یاد مولی راسل، نوجوان ۱۴ ساله‌ای که در سال ۲۰۱۷ پس از مواجهه گسترده با جریان محتوای زیان‌بار در فضای مجازی به زندگی خود پایان داد، تأسیس شده است.
این بنیاد یافته‌های اخیر کمیسیون را اقدامی مهم و نقطه‌عطفی در مسیر پاسخ‌گو کردن تیک‌تاک دانسته و از آن به‌عنوان تلاشی برای مسئول شناختن این پلتفرم در قبال نقش الگوریتمش در سوق دادن نوجوانان به چرخه‌ای از محتوای ناامیدکننده و آسیب‌زا یاد کرده است.
بر اساس نتایج نظرسنجی انجام‌شده به سفارش این بنیاد در اوایل سال جاری میلادی، نزدیک به نیمی از دختران و یک‌سوم نوجوانان بریتانیایی طی یک هفته، در شبکه‌های اجتماعی با محتواهایی درباره خودکشی، خودآزاری و اختلالات خوردن مواجه شده‌اند.
بنیاد مولی رز همچنین از نهاد ناظر بریتانیا، موسوم به آفکام(Ofcom)، خواسته است تحقیقاتی را درباره الگوریتم این پلتفرم که آن را «به‌شدت آسیب‌زا» توصیف کرده است، آغاز کند.
تیک‌تاک و مسئولیت حقوقی طراحی الگوریتم‌ها
نکته مهم این است که اهمیت پرونده حاضر فراتر از بررسی محتوای منتشرشده در یک شبکه اجتماعی است؛ چراکه تحقیقات کمیسیون اروپا مستقیماً مدل کسب‌وکار تیک‌تاک را هدف قرار داده است.
مدل اقتصادی این پلتفرم بر حفظ توجه کاربران و ترغیب آنان به پیمایش هرچه طولانی‌تر محتواها استوار است. از این منظر، طراحی الگوریتم پیشنهاددهنده محتوا و نحوه مدیریت تعامل کاربران، صرفاً موضوعاتی فنی یا تجاری نیستند، بلکه می‌توانند واجد آثار و مسئولیت‌های حقوقی در حوزه حفاظت از کاربران باشند.
مقام‌های اتحادیه اروپا خواستار تغییر در طراحی بخش«For You» تیک‌تاک شده‌اند تا کاربران کنترل و اختیار بیشتری بر محتوایی داشته باشند که به آنان نمایش داده می‌شود.
یکی از مقام‌های کمیسیون اروپا در گفت‌وگو با خبرنگاران تصریح کرده است که موضوع تحقیقات، یک مدل کسب‌وکار است؛ مدلی که عمدتاً بر افزایش تعامل کاربران تمرکز دارد و می‌تواند، به‌ویژه برای افراد زیر سن قانونی و بزرگسالان آسیب‌پذیر، خطراتی ایجاد کند.
این رویکرد نشان‌دهنده توجه فزاینده نهادهای تنظیم‌گر اروپایی به مسئولیت پلتفرم‌های دیجیتال در قبال آثار ناشی از طراحی الگوریتم‌ها است؛ به‌ویژه در شرایطی که سازوکارهای پیشنهاد محتوا، به‌جای ارائه تجربه‌ای متنوع و متناسب با انتخاب آگاهانه کاربر، ممکن است او را در معرض محتوای محدود و تکراری قرار دهند.
چارچوب رسیدگی بر اساس قانون خدمات دیجیتال اتحادیه اروپا
تحقیقات اخیر بخشی از پرونده گسترده‌تری است که کمیسیون اروپا در فوریه ۲۰۲۴ و بر اساس «قانون خدمات دیجیتال» اتحادیه اروپا (Digital Services Act - DSA) آغاز کرد.
این قانون، شرکت‌های بزرگ فعال در حوزه خدمات اینترنتی را ملزم می‌کند برای پیشگیری از طیف گسترده‌ای از آسیب‌ها، از انتشار اطلاعات نادرست گرفته تا تهدید سلامت روان کاربران، اقدامات مقتضی انجام دهند.
کمیسیون اروپا پیش‌تر نیز اعلام کرده بود که تیک‌تاک در ارتباط با برخی قابلیت‌های طراحی اعتیادآور، از جمله پیمایش بی‌پایان (Infinite Scroll)، مقررات اتحادیه اروپا را نقض کرده است.
تیک‌تاک در واکنش به آن یافته‌ها، اعلام کرده بود که «یافته‌های مقدماتی کمیسیون، تصویری به‌کلی نادرست و کاملاً فاقد مبنای حقوقی از پلتفرم ما ارائه می‌کنند».
این شرکت همچنین اعلام کرده بود که یافته‌های مذکور را به چالش خواهد کشید.
در بخش دیگری از این پرونده، شکایتی درباره فقدان شفافیت در خصوص اشخاص و نهادهایی که هزینه تبلیغات تیک‌تاک را پرداخت می‌کنند، مطرح شده بود. این موضوع در دسامبر گذشته، پس از آنکه شرکت تعهدات الزام‌آوری برای اصلاح سیاست‌های خود پذیرفت، حل‌وفصل شد.
مراحل بعدی رسیدگی و ضمانت اجرای احتمالی
بسیاری از کارشناسان حقوقی اروپا معتقدند که در مرحله کنونی، تیک‌تاک این فرصت را دارد که به پرونده تحقیقات دسترسی پیدا کند، اسناد و مدارک موجود را بررسی کند و دفاعیات خود را ارائه دهد.
گاردین در گزارش خود نوشته است که این شرکت همچنین می‌تواند با اصلاح نظام پیشنهاددهنده محتوای خود، درصدد رفع نگرانی‌های کمیسیون اروپا برآید و از اعمال جریمه احتمالی جلوگیری کند.
بااین‌حال، چنانچه مقام‌های اتحادیه اروپا پس از بررسی دفاعیات شرکت، یافته‌های اولیه را تأیید کنند، تیک‌تاک ممکن است با جریمه‌ای تا سقف ۶ درصد از گردش مالی جهانی خود مواجه شود.
این میزان جریمه، نشان‌دهنده ظرفیت قابل‌توجه ضمانت اجراهای پیش‌بینی‌شده در چارچوب قانون خدمات دیجیتال برای مواجهه با تخلفات شرکت‌های بزرگ فناوری است.
فرجام سخن
پرونده تیک‌تاک در کمیسیون اروپا را می‌توان نمونه‌ای مهم از تحول رویکرد تنظیم‌گری فضای مجازی در اتحادیه اروپا دانست؛ رویکردی که مسئولیت پلتفرم‌های دیجیتال را صرفاً به حذف محتوای غیرقانونی یا ممنوع محدود نمی‌کند، بلکه آثار تجمعی و بالقوه زیان‌بار طراحی الگوریتم‌ها و سازوکارهای پیشنهاد محتوا را نیز مورد توجه قرار می‌دهد.
نکته محوری در استدلال کمیسیون اروپا این است که قانونی بودن یک محتوای منفرد، لزوماً به معنای بی‌ضرر بودن الگوی کلی انتشار و توصیه آن محتوا نیست. به بیان دیگر، ممکن است یک ویدئو به‌تنهایی ناقض مقررات نباشد، اما قرار گرفتن مکرر کاربر در معرض ده‌ها یا صدها محتوای مشابه، در اثر عملکرد الگوریتم، پیامدهای زیان‌باری برای سلامت روان او ایجاد کند.
اهمیت این پرونده در آن است که کمیسیون اروپا در حال بررسی مسئولیت پلتفرم از زاویه‌ای فراتر از محتوای منتشرشده و با تمرکز بر معماری فنی، طراحی الگوریتم و آثار رفتاری آن است. در چنین چارچوبی، صرف وجود ابزارهای کنترلی برای کاربران یا ممنوعیت انتشار برخی محتواهای زیان‌بار، لزوماً برای اثبات ایفای تعهدات قانونی پلتفرم کافی نخواهد بود.
بااین‌حال، باید توجه داشت که اعلام یافته‌های مقدماتی کمیسیون به معنای صدور تصمیم نهایی یا احراز قطعی تخلف نیست و تیک‌تاک همچنان از حق دسترسی به پرونده و ارائه دفاعیات برخوردار است. بنابراین، نتیجه نهایی رسیدگی و ارزیابی حقوقی دفاعیات شرکت، در تعیین مسئولیت و اعمال ضمانت اجرا اهمیت اساسی خواهد داشت.
در مجموع، این پرونده می‌تواند به شکل‌گیری معیارهای سخت‌گیرانه‌تری برای مسئولیت پلتفرم‌های آنلاین در زمینه سلامت روان، حفاظت از کودکان و نوجوانان و شفافیت در طراحی الگوریتم‌ها منجر شود؛ تحول مهمی که آثار آن احتمالاً به تیک‌تاک محدود نخواهد ماند و سایر شرکت‌های بزرگ فناوری را نیز تحت تأثیر قرار خواهد داد.
