چتبات هوش مصنوعی «گروک» متعلق به ایلان ماسک پس از موج واکنش جهانی که برانگیخته شد بهدنبال آغاز انتشار دیپفیکهای جنسیسازیشده، عمدتا درباره زنان، اکنون جلوی تولید یا ویرایش هرگونه تصویر توسط اغلب کاربران را میگیرد.
این چتبات که از طریق پلتفرم اجتماعی ماسک، ایکس، قابلدسترسی است، در چند هفته گذشته به موجی از درخواستهای کاربران که بهگفته پژوهشگران مخرباند برای دستکاری تصاویر پاسخ مثبت داده و از جمله اجازه داده زنان در بیکینی یا در وضعیتهای آشکارا جنسی قرار داده شوند.
پژوهشگران هشدار دادهاند که در چند مورد، برخی تصاویر بهنظر میرسید کودکان را نشان میدهند.
دولتها در سراسر جهان این پلتفرم را محکوم کردهاند و تحقیقات درباره آن را آغاز کردهاند.
گروک روز جمعه در پاسخ به درخواستهای تغییر تصویر این پیام را نمایش میداد: «تولید و ویرایش تصویر فعلا فقط برای مشترکان پولی محدود شده است. میتوانید اشتراک بخرید تا این قابلیتها فعال شود.»
هرچند شمار مشترکان گروک بهطور عمومی اعلام نمیشود، اما نسبت به روزهای گذشته کاهش محسوسی در تعداد دیپفیکهای صریحی که گروک اکنون تولید میکند دیده میشود.
در میان واکنشهای رسمی دولتی، اتحادیه اروپا بهشدت گروک را مورد انتقاد قرار داده است بهخاطر رفتار «غیرقانونی» و «دهشتناک»، و مقامهایی در فرانسه، هند و مالزی و یک قانونگذار برزیلی خواستار تحقیقات شدهاند.
کیر استارمر، نخستوزیر بریتانیا، پنجشنبه تهدید کرد که علیه ایکس اقداماتی را بدون ذکر جزئیات انجام خواهد داد.
استارمر در رادیوی Greatest Hits گفت: «این شرمآور است. نفرتانگیز است و قابلتحمل نیست. ایکس باید این موضوع را تحت کنترل درآورد.»
او گفت نهاد تنظیمگر رسانهای بریتانیا، آفکام، «برای اقدام از حمایت کامل ما برخوردار است» و «همه گزینهها» روی میز است.
او افزود: «این نفرتانگیز است. ایکس باید سر و سامان بدهد و این محتوا را حذف کند. در این باره اقدام خواهیم کرد چون بهسادگی قابلتحمل نیست.»
آفکام و نهاد ناظر حریم خصوصی بریتانیا هر دو گفتند این هفته برای دریافت اطلاعات درباره اقداماتی که برای رعایت مقررات بریتانیا انجام دادهاند با ایکس و شرکت هوش مصنوعی ماسک، xAI، تماس گرفتهاند.
گروک در سال ۲۰۲۳ راهاندازی شد. تابستان گذشته شرکت قابلیت تولید تصویر «Grok Imagine» را اضافه کرد که شامل حالت موسوم به «spicy mode» بود و به کاربران اجازه میداد محتوای بزرگسال تولید کنند.
این چتبات هوش مصنوعی برای کاربران ایکس رایگان است و آنها میتوانند مستقیما در این پلتفرم اجتماعی از آن سوال بپرسند. کاربران میتوانند آن را در پستهای خود یا در پاسخ به پستهای دیگران تگ کنند.
قابلیت عمومی تولید و ویرایش تصاویر فعلا فقط برای مشترکان پولی محدود شده است.
وقتی کاربران تلاش میکنند گروک را تگ کنند و تصویر تولید کنند، پیامی به آنها نمایش داده میشود که میگوید: «تولید و ویرایش تصویر فعلا فقط برای مشترکان پولی محدود شده است. میتوانید اشتراک بخرید تا این قابلیتها فعال شود.»
با این حال، تولید و ویرایش تصویر همچنان روی خود پلتفرم گروک در دسترس است.
شارلوت ویلسون، رئیس بخش سازمانی در شرکت جهانی امنیت سایبری Check Point، گفت محدود کردن ویرایش تصویر در گروک به کاربران پولی یک راهحل ایمنی نیست.
ویلسون در بیانیهای گفت: «ممکن است سوءاستفادههای سطحی را کاهش دهد اما جلوی متخلفان مصمم را نمیگیرد و برای قربانیانی که تصاویرشان پیشاپیش تولید، بهاشتراک گذاشته و ذخیره شده کاری نمیکند.»
این مشکل هم به این دلیل تشدید شده که ماسک چتبات خود را جایگزینی جسورانهتر برای رقبایی با تدابیر حفاظتی بیشتر معرفی میکند و هم به این خاطر که تصاویر گروک بهطور عمومی قابلمشاهده است و بنابراین بهسادگی میتواند در سراسر اینترنت پخش شود.
ویلسون افزود: «اگر پلتفرمها میخواهند نشان دهند این موضوع را جدی گرفتهاند باید با آن مثل یک مسئله پاسخگویی به رخداد برخورد کنند. روزنه را در سطح مدل ببندید تا درخواستها و ویرایشهای برهنهسازی مسدود شود، نه اینکه فقط منع شود.»
