برنامه ویدیویی جدید OpenAI، Sora 2، به عنوان یک جهش خلاقانه به جلو در هوش مصنوعی اعلام شده است، ابزاری که برای تبدیل پیام های متنی به ویدیوهای با جزئیات بسیار طراحی شده است. اما کمتر از دو هفته پس از عرضه، فید این اپلیکیشن به کاربران ویدئوهای یهودی ستیز و سایر محتوای آزاردهنده را نشان می دهد.
در کلیپ های بازبینی شده توسط ADWEEK، Sora 2 مجموعه ای از ویدئوهای ضد یهود را منتشر کرد، از جمله یکی از آن ها نشان می دهد مردی که کیپا پوشیده در انبوهی از پول فرو می رود. این ویدئو از یک درخواست ریمیکس از زنی گرفته شده است که در خانه ای مملو از کک ایستاده است: “خاخامی را جایگزین او کنید که کیپا پوشیده است و خانه پر از خانه است.” این ویدیو از یک ویژگی مبتنی بر هوش مصنوعی استفاده میکند که به کاربران اجازه میدهد با افزودن، حذف یا تغییر اشیا و محیطها با استفاده از دستورات، ویدیوهای موجود را ویرایش کنند. از 17 اکتبر، این ویدیو – از جمله تغییرات آن مانند نسخه South Park – بیش از 22000 لایک و بیش از 3400 ریمیکس داشت.
ویدئوی دیگری دو بازیکن فوتبال را در حالی که یک سکه به تن دارند پرتاب میکنند قبل از اینکه مرد سوم – که به عنوان یک یهودی حسیدی تصویر شده است – شیرجه بزند تا آن را بگیرد و به سرعت بپرد، که اشارهای آشکار به کلیشههای یهودستیزانه دیرینه درباره طمع است. این کلیپ تا 17 اکتبر به طور گسترده با نزدیک به 11000 لایک ریمیکس شده است.
عمران احمد، مدیر عامل مرکز مقابله با نفرت دیجیتال، گفت: «هیچ کسبوکاری تعهدی به تولید محتوای ضدیهودی در صورت تقاضا ندارد. “این فقط نمونه دیگری از سرعت و ضعف OpenAI در اطمینان از آسیب رساندن به خدمات آنها در دنیای واقعی است.”
یکی از سخنگویان OpenAI به ADWEEK گفت که Sora 2 با چندین لایه از ویژگیهای ایمنی و شفافیت برای کاهش خطرات، از جمله سوگیری در خروجیهای هوش مصنوعی مربوط به تصویر بدن و نمایش جمعیتی ساخته شده است.
این سخنگوی افزود که این پلتفرم از حلقههای بازخورد ساختاریافته، پیامهای پیشرفته و سیستمهای تشخیص فعال استفاده میکند که فریمهای ویدئو، زیرنویسها و رونوشتهای صوتی را اسکن میکند تا محتوای مشکلزا را پرچمگذاری و مسدود کند. تیمهای داخلی نیز روندها را نظارت میکنند و اقدامات حفاظتی را تنظیم میکنند تا اطمینان حاصل کنند که نتایج متعادل و فراگیر باقی میمانند.
این سخنگوی همچنین اذعان داشت که اصلاح بیش از حد – مانند حذف یا عدم نمایندگی برخی گروهها در تلاش برای جلوگیری از سوگیری – میتواند آسیبهای جدیدی مانند پاک کردن گروهها یا دیدگاههای خاص ایجاد کند.
در زمان انتشار، ویدئوها همچنان در سورا 2 در حال توزیع است.
