برنامه OpenAI Sora 2 ویدیوهای ضدیهودی هوش مصنوعی را نشان می دهد

برنامه ویدیویی جدید OpenAI، Sora 2، به عنوان یک جهش خلاقانه به جلو در هوش مصنوعی اعلام شده است، ابزاری که برای تبدیل پیام های متنی به ویدیوهای با جزئیات بسیار طراحی شده است. اما کمتر از دو هفته پس از عرضه، فید این اپلیکیشن به کاربران ویدئوهای یهودی ستیز و سایر محتوای آزاردهنده را نشان می دهد.در کلیپ های بازبینی شده توسط ADWEEK، Sora 2 مجموعه ای از ویدئوهای ضد یهود را منتشر کرد، از جمله یکی از آن ها نشان می دهد مردی که کیپا پوشیده در انبوهی از پول فرو می رود. این ویدئو از یک درخواست ریمیکس از زنی گرفته شده است که در خانه ای مملو از کک ایستاده است: "خاخامی را جایگزین او کنید که کیپا پوشیده است و خانه پر از خانه است." این ویدیو از یک ویژگی مبتنی بر هوش مصنوعی استفاده میکند که به کاربران اجازه میدهد با افزودن، حذف یا تغییر اشیا و محیطها با استفاده از دستورات، ویدیوهای موجود را ویرایش کنند. از 17 اکتبر، این ویدیو - از جمله تغییرات آن مانند نسخه South Park - بیش از 22000 لایک و بیش از 3400 ریمیکس داشت.ویدئوی دیگری دو بازیکن فوتبال را در حالی که یک سکه به تن دارند پرتاب میکنند قبل از اینکه مرد سوم - که به عنوان یک یهودی حسیدی تصویر شده است - شیرجه بزند تا آن را بگیرد و به سرعت بپرد، که اشارهای آشکار به کلیشههای یهودستیزانه دیرینه درباره طمع است. این کلیپ تا 17 اکتبر به طور گسترده با نزدیک به 11000 لایک ریمیکس شده است.عمران احمد، مدیر عامل مرکز مقابله با نفرت دیجیتال، گفت: «هیچ کسبوکاری تعهدی به تولید محتوای ضدیهودی در صورت تقاضا ندارد. "این فقط نمونه دیگری از سرعت و ضعف OpenAI در اطمینان از آسیب رساندن به خدمات آنها در دنیای واقعی است."یکی از سخنگویان OpenAI به ADWEEK گفت که Sora 2 با چندین لایه از ویژگیهای ایمنی و شفافیت برای کاهش خطرات، از جمله سوگیری در خروجیهای هوش مصنوعی مربوط به تصویر بدن و نمایش جمعیتی ساخته شده است.این سخنگوی افزود که این پلتفرم از حلقههای بازخورد ساختاریافته، پیامهای پیشرفته و سیستمهای تشخیص فعال استفاده میکند که فریمهای ویدئو، زیرنویسها و رونوشتهای صوتی را اسکن میکند تا محتوای مشکلزا را پرچمگذاری و مسدود کند. تیمهای داخلی نیز روندها را نظارت میکنند و اقدامات حفاظتی را تنظیم میکنند تا اطمینان حاصل کنند که نتایج متعادل و فراگیر باقی میمانند. این سخنگوی همچنین اذعان داشت که اصلاح بیش از حد - مانند حذف یا عدم نمایندگی برخی گروهها در تلاش برای جلوگیری از سوگیری - میتواند آسیبهای جدیدی مانند پاک کردن گروهها یا دیدگاههای خاص ایجاد کند.در زمان انتشار، ویدئوها همچنان در سورا 2 در حال توزیع است.اسکرین شاتاسکرین شاتاسکرین شاتبرخی از بینندگان از این ویدئوها استقبال کردند و نظراتی مانند "آن آهن رباها 3000 سال پیش به او وعده داده شده بود" و "تناسب یهودی ستیزی در شرف رسیدن به سطح دیگری است" گذاشتند. دیگران این ویدئوها را محکوم کردند و یکی از کاربران نوشت: "فقط گزارش دادم. کلیشه ای وحشتناک." Sora 2 در 30 سپتامبر به عنوان یک برنامه فقط دعوتنامه عرضه شد و برای عموم در دسترس نیست. به گفته بیل پیبلز، رئیس سورای OpenAI، این برنامه در پنج روز اول خود میلیون ها بارگیری داشت و از نرخ دانلود محصول پرچمدار OpenAI، ChatGPT، پیشی گرفت.گاردین پیش از این گزارش داده بود که فید Sora 2 نه تنها شامل ترانه های یهودی ستیز، بلکه شخصیت های دارای حق چاپ مانند باب اسفنجی در لباس نازی ها، تصاویر چهره های عمومی درگذشته از جمله ملکه الیزابت و پرنسس دایانا و صحنه های گرافیکی خشونت و نژادپرستی بود.این مناقشه در بحبوحه نگرانی ها و بحث های گسترده تر در مورد اینکه چگونه OpenAI به طور موثر پادمان های خود را در محصولات اعمال می کند، رخ می دهد. در 14 اکتبر، مدیرعامل سم آلتمن در یک پست X گفت که محتوای وابسته به عشق شهوانی از ماه دسامبر در ChatGPT مجاز خواهد بود، تغییری که میتواند سیستمهای تعدیل محتوای شرکت را در حالی که به سمت موارد استفاده تجاریتر حرکت میکند، آزمایش کند. در 16 اکتبر OpenAI گفت که توانایی سورا برای تولید ویدیوهایی که رهبر فقید حقوق مدنی مارتین لوتر کینگ جونیور را به تصویر میکشد، پس از اینکه برخی از کاربران سورا «تصاویر بیاحترامی» از شباهت او ایجاد کردند، متوقف کرده است.میندا اسمایلی، تحلیلگر ارشد در Emarketer، خاطرنشان کرد که ویدیوهای تولید شده توسط هوش مصنوعی به دلیل واقع گرایی خود می توانند کلیشه های مضر را قوی تر کنند. او گفت که بسیاری از کاربران نمی توانند به راحتی تشخیص دهند که چه چیزی واقعی است، و حتی کسانی که نسل هوش مصنوعی را تشخیص می دهند ممکن است همچنان محتوایی را به اشتراک بگذارند که با باورهای قبلی همسو باشد. به نظر میرسد این ویدیوها دستورالعملهای استفاده جهانی OpenAI را که محتوایی را که «تهدید، ارعاب، آزار و اذیت یا افترا» را ترویج میکند، ممنوع میکند، نقض میکند. این شرکت گفت که از «محافظت لایهای» برای ایمن نگه داشتن فید خود استفاده میکند، از جمله ابزارهای خودکاری که اعلانها و خروجیهای ویدیویی را برای نقض خطمشی بررسی میکنند.OpenAI در یک پست وبلاگی گفت: "ما نیروهای خود را برای بررسی خطرات جدید و سیاست های سخت تر در مورد تولید تصویر با توجه به واقع گرایی بیشتر Sora و اضافه شدن حرکت و صدا به هم پیوسته ایم."اسمایلی Emarketer گفت که کاربران قبلاً راههایی برای دور زدن نردههای Sora پیدا کردهاند و بدون استانداردهای کل صنعت، پلتفرمها تا حد زیادی به خودی خود رها میشوند. احمد گفت که تضمین های OpenAI توخالی بود. او گفت: «برای آنها قابل اعتماد نیست که بگویند اگر پیشبینی نمیکردند که مردم از آن برای تولید محتوای نژادپرستانه استفاده کنند، این موضوع را جمعآوری کردهاند.» شگفتآور است که باهوشترین مهندسان جهان نمیتوانند چیزی برای جلوگیری از تولید یهودستیزی از خدماتشان بیاندیشند.»این اولین باری نیست که OpenAI برای کنترلهای ایمنی خود مورد بررسی قرار میگیرد. در اوایل سال جاری، پس از گزارشهایی مبنی بر اینکه ربات چت ChatGPT اطلاعاتی در مورد روشهای آسیب رساندن به خود در اختیار یک نوجوان خودکشی قرار میدهد، این شرکت با واکنشهای شدید روبرو شد - قسمتی که نگرانیهای گستردهتری را در مورد اینکه چگونه OpenAI به طور موثر پادمانهای خود را در محصولات اجرا میکند، ایجاد کرد.اسمایلی Emarketer گفت: «در پایان روز، زمانی که پلتفرم خودش تصمیم بگیرد که چه چیزی تعدیل شود، تعدیل محتوا می تواند کاملاً ذهنی شود. Source link