چگونه AI دنیای آنلاین راحت تری ایجاد می کند

جایی که AI اشتباه کرد

علیرغم قول خود ، اعتدال محتوای مبتنی بر هوش مصنوعی با چالش های بسیاری روبرو است. یکی این است که این سیستم ها غالباً به اشتباه محتوای ایمن را خطرناک امضا می کنند ، که می تواند عواقب جدی داشته باشد. به عنوان مثال ، فیس بوک مقالات خبری مشروع در مورد Coronavirus را به عنوان اسپم در ابتدای همه گیر جشن گرفت. او به اشتباه صفحه فیس بوک جمهوریخواه را بیش از دو ماه ممنوع اعلام کرد. و ، او نشریات و اظهارات مربوط به Plymouth Hoe ، یک نقطه عطف عمومی در انگلیس را به عنوان توهین آمیز نشان می دهد.

با این حال ، مشکل دشوار است. محتوای پرچم ممکن است اثرات خطرناک تری داشته باشد. تیراندازان در ال پاسو و گیلروی قبل از رفتن به خطاهای خود ، اهداف خشونت آمیز خود را در 8chan و اینستاگرام منتشر کرده اند. رابرت بورز ، متهم متهم ذبح در کنیسه در پیتسبورگ ، در GAB ، یک وب سایت توییتر -که توسط The White Peaks استفاده می شد ، فعال بود. اطلاعات نادرست جنگ در اوکراین میلیون ها بازدید و لایک را در فیس بوک ، توییتر ، یوتیوب و تیکتوک دریافت کرده است.

مشکل دیگر این است که بسیاری از سیستم های اعتدال مبتنی بر هوش مصنوعی تعصب نژادی را نشان می دهند که برای ایجاد یک محیط امن و قابل استفاده برای همه باید در نظر گرفته شوند.

هوش مصنوعی را برای اعتدال بهبود بخشید

برای از بین بردن این مشکلات ، سیستم های اعتدال هوش مصنوعی به داده های آموزش با کیفیت بالاتر احتیاج دارند. امروزه ، بسیاری از شرکت ها داده ها را برای آموزش سیستم های هوش مصنوعی خود به مهارت های کم ، مراکز تماس با آموزش ضعیف در کشورهای جهان سوم اختصاص می دهند. این برچسب ها هیچ مهارت زبانی و زمینه فرهنگی برای تصمیم گیری دقیق اعتدال ندارند. به عنوان مثال ، مگر اینکه با سیاست آمریکایی آشنا باشید ، احتمالاً نمی دانید که با وجود اهمیت آنها برای تعدیل محتوا ، چه پیام “6 ژانویه” یا “رودی و یک شکارچی” را ذکر می کند. اگر سخنگوی محلی به زبان انگلیسی نیستید ، احتمالاً شاخص ها را از نظر شرور بیش از حد بیش از حد بیش از حد خواهید کرد ، حتی اگر از آنها در یک زمینه مثبت استفاده شود ، به اشتباه به نام های Plymouth یا “این خیلی بد” به عنوان توهین آمیز است.

شرکتی که این چالش را حل می کند ، Surge AI است ، یک پلتفرم برچسب داده که برای آموزش AI در ظرافت های زبان طراحی شده است. این تیم توسط تیمی از مهندسین و محققان تأسیس شده است که سیستم عامل های اعتماد و ایمنی را در فیس بوک ، یوتیوب و توییتر ساخته اند.

به عنوان مثال ، فیس بوک با جمع آوری داده های با کیفیت بالا برای آموزش سیستم های اعتدال خود به زبان های مهم با بسیاری از مشکلات روبرو است. با وجود اندازه شرکت و دامنه آن به عنوان یک بستر ارتباطی جهانی ، به سختی محتوای کافی برای آموزش و حفظ الگویی برای عربی استاندارد ، ده ها گویش بسیار کمتر داشت. فقدان این شرکت از لیست جامع شایعات سمی زبانهایی که در افغانستان صحبت می شود به این معنی بود که بسیاری از نشریات نقض کننده می توانند فاقد آن باشند. وی فاقد سخنرانی نفرت از آساما بود ، اگرچه کارمندان به دلیل افزایش خشونت علیه گروه های قومی در آنجا ، گفتار نفرت را به عنوان یک خطر عمده در ASAM یاد می کردند. اینها مشکلاتی هستند که هوش مصنوعی بیش از حد به حل تمرکز خود بر روی زبانها و همچنین سمیت و مجموعه داده های کراهت کمک می کند.

به طور خلاصه ، با مجموعه داده های بزرگتر و با کیفیت بالاتر ، سیستم عامل های رسانه های اجتماعی می توانند الگوریتم های دقیق تری را به محتوای متوسط آموزش دهند تا محتوای مضر را تشخیص دهند ، که به محافظت از آنها بدون سوءاستفاده کمک می کند. درست همانطور که مجموعه های داده های بزرگ مدلهای پیشرفته زبان امروز زبان مانند OpenAi GPT-3 را تغذیه کرده اند ، همچنین می توانند هوش مصنوعی بهتری را برای اعتدال تغذیه کنند. با داده های کافی ، مدل های یادگیری ماشین می توانند یاد بگیرند که سمیت را با دقت بیشتر و بدون انحراف در مجموعه داده های با کیفیت پایین تشخیص دهند.

اعتدال محتوای هوش مصنوعی یک راه حل ایده آل نیست ، اما این یک ابزار ارزشمند است که می تواند به شرکت ها کمک کند تا سیستم عامل های خود را ایمن و بدون آسیب نگه دارند. با استفاده فزاینده از هوش مصنوعی ، می توانیم به آینده ای امیدوار باشیم که دنیای آنلاین مکانی جذاب تر برای همه باشد.

Valerias Bangrt مشاور استراتژی و نوآوری ، بنیانگذار سه رسانه برنده و نویسنده منتشر شده است.