سند محرمانه متا فاش شد | سیاست‌های جنجالی درباره چت‌بات‌های هوش مصنوعی
انتشار یک سند داخلی ۲۰۰ صفحه‌ای از شرکت متا (مادر فیسبوک و اینستاگرام) توسط خبرگزاری رویترز، پرده از سیاست‌های بحث‌برانگیز این غول فناوری در حوزه چت‌بات‌های هوش مصنوعی برداشت؛ سندی که نشان می‌دهد متا برای مدت‌ها اجازه تولید محتوای تحریک‌آمیز، توهین‌آمیز و حتی اطلاعات نادرست را صادر کرده بود.
به گزارش شهریور؛ اسناد داخلی کمپانی متا که به دست خبرگزاری رویترز رسیده است، از سیاست‌های حیرت‌آور و پرحاشیه این شرکت در زمینه چت‌بات‌های هوش مصنوعی پرده برمی‌دارد. بر اساس این سند ۲۰۰ صفحه‌ای، متا به هوش مصنوعی خود مجوز رفتارهایی همچون مکالمات جنسی با کودکان، انتشار اطلاعات پزشکی غلط و حتی تولید محتوای توهین‌آمیز نسبت به گروه‌های محافظت‌شده را داده است.
این سیاست‌ها که با تایید بخش‌های حقوقی، سیاست‌گذاری و حتی مدیریت اخلاق متا تصویب شده‌اند، تا پیش از اصلاحات اخیر اجازه می‌دادند چت‌بات‌ها وارد گفت‌وگوهای عاشقانه با نوجوانان شوند یا ظاهر آن‌ها را با تعابیر جذاب توصیف کنند؛ هرچند توصیفات جنسی آشکار برای کودکان زیر ۱۳ سال همچنان ممنوع بود.
پس از طرح پرسش‌های رویترز، متا اعلام کرد بندهای مربوط به این رفتارها حذف شده‌اند و تأکید کرد چنین مکالماتی از ابتدا نباید مجاز می‌بود. با این وجود، سخنگوی این شرکت اعتراف کرد اجرای محدودیت‌ها در عمل یکدست و هماهنگ نبوده است.
بر اساس محتوای این سند، چت‌بات‌های متا حتی امکان تولید جملات تحقیرآمیز نژادی را نیز داشته‌اند، به شرط آنکه از «انسان‌زدایی» پرهیز شود. در یکی از نمونه‌ها، متنی ارائه شده که در آن ادعا می‌شود «سیاه‌پوستان از سفیدپوستان کم‌هوش‌ترند».
همچنین مشخص شد که این هوش مصنوعی توانایی تولید اطلاعات آشکارا نادرست را داشته است؛ برای مثال ادعای ابتلای یکی از اعضای خاندان سلطنتی بریتانیا به بیماری مقاربتی، به شرط آنکه همزمان هشدار دهد این ادعا غلط است.
بخش دیگری از استانداردهای متا به نحوه واکنش چت‌بات‌ها به درخواست‌های جنسی یا خشونت‌آمیز درباره شخصیت‌های مشهور می‌پردازد. برای نمونه، در مورد تیلور سوئیفت، به جای تولید تصویر نامناسب، توصیه شده عکسی از او در حال گرفتن یک ماهی بزرگ ساخته شود. در زمینه خشونت نیز، تولید صحنه‌های تهدید یا زد و خورد مجاز بوده، اما نمایش مرگ یا جراحت شدید به طور کامل ممنوع شده است.
کارشناسان اخلاق فناوری می‌گویند این سیاست‌ها از نظر حقوقی، اخلاقی و فنی محل تردیدهای جدی است و یادآور می‌شوند که تفاوتی اساسی میان «انتشار محتوای کاربران» و «تولید مستقیم محتوا توسط پلتفرم» وجود دارد. انتشار این سند، بار دیگر نگاه‌ها را به سمت مسئولیت‌پذیری متا در حوزه هوش مصنوعی جلب کرده است./ پایان پیام
