Sora 2 در 30 سپتامبر به عنوان یک برنامه فقط دعوتنامه عرضه شد و برای عموم در دسترس نیست. به گفته بیل پیبلز، رئیس سورای OpenAI، این برنامه در پنج روز اول خود میلیون ها بارگیری داشت و از نرخ دانلود محصول پرچمدار OpenAI، ChatGPT، پیشی گرفت.
گاردین پیش از این گزارش داده بود که فید Sora 2 نه تنها شامل ترانه های یهودی ستیز، بلکه شخصیت های دارای حق چاپ مانند باب اسفنجی در لباس نازی ها، تصاویر چهره های عمومی درگذشته از جمله ملکه الیزابت و پرنسس دایانا و صحنه های گرافیکی خشونت و نژادپرستی بود.
این مناقشه در بحبوحه نگرانی ها و بحث های گسترده تر در مورد اینکه چگونه OpenAI به طور موثر پادمان های خود را در محصولات اعمال می کند، رخ می دهد. در 14 اکتبر، مدیرعامل سم آلتمن در یک پست X گفت که محتوای وابسته به عشق شهوانی از ماه دسامبر در ChatGPT مجاز خواهد بود، تغییری که میتواند سیستمهای تعدیل محتوای شرکت را در حالی که به سمت موارد استفاده تجاریتر حرکت میکند، آزمایش کند. در 16 اکتبر OpenAI گفت که توانایی سورا برای تولید ویدیوهایی که رهبر فقید حقوق مدنی مارتین لوتر کینگ جونیور را به تصویر میکشد، پس از اینکه برخی از کاربران سورا «تصاویر بیاحترامی» از شباهت او ایجاد کردند، متوقف کرده است.
میندا اسمایلی، تحلیلگر ارشد در Emarketer، خاطرنشان کرد که ویدیوهای تولید شده توسط هوش مصنوعی به دلیل واقع گرایی خود می توانند کلیشه های مضر را قوی تر کنند. او گفت که بسیاری از کاربران نمی توانند به راحتی تشخیص دهند که چه چیزی واقعی است، و حتی کسانی که نسل هوش مصنوعی را تشخیص می دهند ممکن است همچنان محتوایی را به اشتراک بگذارند که با باورهای قبلی همسو باشد.
به نظر میرسد این ویدیوها دستورالعملهای استفاده جهانی OpenAI را که محتوایی را که «تهدید، ارعاب، آزار و اذیت یا افترا» را ترویج میکند، ممنوع میکند، نقض میکند. این شرکت گفت که از «محافظت لایهای» برای ایمن نگه داشتن فید خود استفاده میکند، از جمله ابزارهای خودکاری که اعلانها و خروجیهای ویدیویی را برای نقض خطمشی بررسی میکنند.
OpenAI در یک پست وبلاگی گفت: “ما نیروهای خود را برای بررسی خطرات جدید و سیاست های سخت تر در مورد تولید تصویر با توجه به واقع گرایی بیشتر Sora و اضافه شدن حرکت و صدا به هم پیوسته ایم.”
اسمایلی Emarketer گفت که کاربران قبلاً راههایی برای دور زدن نردههای Sora پیدا کردهاند و بدون استانداردهای کل صنعت، پلتفرمها تا حد زیادی به خودی خود رها میشوند.
