دادستان کل ایالات متحده از X می خواهد که جعلیات جنسی عمیق را سرکوب کند

به نظر می رسد مشکلات حقوقی بیشتری برای X در پیش است، زیرا ایالت های مختلف ایالات متحده اقدامات قانونی را علیه برنامه متعلق به ایلان ماسک برای تولید و توزیع تصاویر جنسی انجام می دهند.

این از چت ربات X’s Grok نشات می‌گیرد، که عکس‌های همه را از بازیگران مشهور گرفته تا بچه‌های تصادفی از طریق توانایی تولید تصویر خود که به ترند اولیه X در سال جدید تبدیل شد، حذف می‌کند. در واقع، در یک مرحله داده‌ها نشان داد که Grok بیش از 6000 تصویر جنسی در روز تولید می‌کند که همه آنها به صورت عمومی در برنامه در دسترس بودند.

این باعث واکنش شدید در چندین منطقه شد و حتی Grok و X را در برخی مناطق ممنوع کرد. اگرچه X در ابتدا در مقابل انتقادها ایستادگی کرد، اما خود ماسک مدعی شد که این انتقاد در مورد X نیست، بلکه در مورد سانسور گسترده‌تر و تلاشی برای جلوگیری از افشای حقایق گسترده‌تر است.

اما واقعاً هیچ راهی برای توجیه تولید تصاویر برهنه و جنسی وجود ندارد، و بدون در نظر گرفتن هر پیام سیاسی دیگری که می‌خواهید به آن پیوست کنید، نیازی به وجود این قابلیت نیست. و در نتیجه، در میان تهدید ممنوعیت‌ها و محدودیت‌های بیشتر، X نهایتاً توانایی Grok را برای تولید تصاویر فقط به کاربرانی که پول پرداخت می‌کنند محدود کرد و در عین حال اقداماتی را برای توقف تولید این نوع تصاویر انجام داد.

اما ممکن است خیلی دیر شده باشد. دیروز، کمیسیون اروپا تحقیقاتی را در مورد پادمان های Grok و xAI در برابر سوء استفاده از ابزارهای آن اعلام کرد.

و اکنون گروهی متشکل از بیش از 37 دادستان کل ایالات متحده نیز می خواهند علیه xAI اقدام کنند.

همانطور که Wired گزارش می دهد:

“روز جمعه، یک گروه دوحزبی از دادستان های کل، نامه ای سرگشاده به xAI منتشر کرد و خواستار آن شد که «فوراً تمام اقدامات اضافی موجود را برای محافظت از مردم و کاربران پلتفرم های شما، به ویژه زنان و دخترانی که به طور گسترده هدف قرار می گیرند، انجام دهد. [non-consensual intimate images].”

در این نامه، این گروه نگرانی جدی خود را در مورد “هوش مصنوعی که تصاویر صمیمی و غیر توافقی عمیقاً نادرست (NCII) از افراد واقعی، از جمله کودکان تولید می کند، ابراز کرد.

و در حالی که X قبلاً اقدام کرده است، گروه خواستار پاسخگویی بیشتر از ماسک و تیمش است.

ما اذعان داریم که xAI اقدامات طراحی شده برای جلوگیری از ایجاد NCII توسط Grok را اجرا کرده است و از ملاقات اخیر شما با چندین تن از دادستان های کل امضاء کننده زیر برای بحث در مورد این تلاش ها قدردانی می کنیم. […] علاوه بر این، شما ادعا می کنید که اقدامات فنی را برای جلوگیری از “اجازه ویرایش تصاویر افراد واقعی در لباس های آشکار مانند بیکینی” به حساب @Grok اجرا کرده اید. اما ما نگران این هستیم که این تلاش ها به طور کامل مشکلات را حل نکرده باشد.

در واقع، وکلای کل همچنین پیشنهاد کردند که ابزارهای هوش مصنوعی X در واقع برای این منظور طراحی شده اند و ابزارهای داخلی برای تسهیل استفاده مخرب دارند.

“گروک نه تنها این آسیب را در مقیاس وسیع فعال کرد، بلکه به نظر می‌رسید که در واقع با طراحی این رفتار را تشویق می‌کرد. xAI به طور هدفمند مدل‌های متنی خود را برای مشارکت در مبادلات صریح مهندسی کرد و مدل‌های تصویری خود را طوری طراحی کرد که شامل یک “حالت تند” باشد که محتوای صریح تولید می‌کند که منجر به محتوایی می‌شود که افراد را بدون رضایت آنها جنسیت می‌دهد.”

در نتیجه، این گروه از ایلان و ایکس می‌خواهد تا اقدامات قوی‌تری برای منع چنین استفاده‌ای انجام دهند، از جمله حذف همه راه‌های تولید چنین تصاویری، حذف تمام محتوایی که قبلاً ایجاد شده‌اند، و جلوگیری از کاربرانی که از Grok برای چنین هدفی سوء استفاده می‌کنند.

دادستان کل همچنین از X می‌خواهد که به کاربران کنترل کند که آیا محتوای آنها توسط Grok قابل ویرایش است یا خیر، “از جمله این که حداقل از جمله توانایی جلوگیری از پاسخ آسان حساب @Grok به پست‌های آنها یا ویرایش تصاویر آن‌ها در صورت درخواست کاربر دیگر.”

این به معنای چالش‌های بیشتر برای X برای بهبود شفافیت، و همچنین تلاش‌های گسترده برای اعمال پادمان‌ها و محدودیت‌ها در استفاده از Grok است.

باز هم، ایلان ماسک از طرفداران آن نیست و ممکن است برای تحقق آن نیاز به یک نبرد حقوقی بزرگ‌تر باشد، که بدون شک ماسک از آن به عنوان فرصتی برای نشان دادن چهره آزادی بیان استفاده می‌کند، زیرا تنظیم‌کننده‌های دولتی به دنبال سرکوب آن هستند.

حرف اصلی ایلان در این مورد این است که سایر برنامه‌ها گزینه‌های مشابه را تسهیل می‌کنند و تنظیم‌کننده‌ها دیگر برنامه‌های برهنگی و تولید هوش مصنوعی را با همان قدرت دنبال نمی‌کنند.

اما دادستان کل کشور نیز به این موضوع می پردازند:

“در حالی که سایر شرکت‌ها نیز مسئول ایجاد NCII هستند، اندازه و سهم بازار xAI آن را به رهبر بازار در هوش مصنوعی تبدیل کرده است. منحصر به فرد در بین آزمایشگاه‌های بزرگ هوش مصنوعی، شما این ابزارها را مستقیماً به یک پلتفرم رسانه اجتماعی با صدها میلیون کاربر متصل می‌کنید. بنابراین اقدامات شما از اهمیت بالایی برخوردار است. گام‌هایی که برای پیشگیری و حذف NCII برمی‌دارید، استانداردهای آسیب‌رسان به کودکان را بدون محافظت از کودکان در برابر تصویر بزرگ‌تر تعیین می‌کند. رضایت.

جالب است که این فشار را با توجه به موضع بسیار علنی و بسیار پر سر و صدا خود ایلان در برابر مطالب CSAM در نظر بگیریم، به طوری که ماسک مدت کوتاهی پس از تسلط بر توییتر اعلام کرد که مبارزه با CSAM “اولویت شماره 1” در زمان او در برنامه بود.

ماسک از رهبری قبلی توییتر انتقاد می کند به دلیل ناتوانی در پرداختن به استثمار جنسی از کودکان در برنامه، و از آن زمان تاکنون او ادعای چندین پیشرفت بزرگ در پرداختن به X را داشته است.

با این حال، در این مورد، ماسک می‌خواهد مقابله کند، که به نظر می‌رسد با این ادعاها تناقض دارد.

منظورم این است که دیدگاه سیاسی گسترده تر پیرامون محتوای CSAM تغییر کرده است، با توجه به اینکه زمانی کانون اصلی رای دهندگان جناح راست بود که بسیاری از آنها اکنون ترجیح می دهند پرونده اپشتاین را نادیده بگیرند.

شاید این موضوع موضع خود ایلان را در این مورد تغییر داده است، اگرچه در ظاهر به نظر می رسد که این باید دغدغه اصلی این گروه باشد.

در هر صورت، X اکنون در مناطق بیشتری تحت بررسی بیشتری قرار خواهد گرفت و با تأثیرات احتمالی ناشی از پروژه‌های هوش مصنوعی xAI و ماسک، می‌تواند تأثیر زیادی بر برنامه‌های او داشته باشد.

خواهیم دید که ماسک چگونه پاسخ می دهد و آیا اقدامات بیشتری در این زمینه انجام می شود یا خیر.