برای اینکه واقعاً روی گفتار نفرت تمرکز کنیم ، اعتدال باید فراتر از شهروندی باشد

مطالعه ما ، که توسط ADL (لیگ لیگ) منتشر شده است ، نشان می دهد که قله های سفید از استفاده از بدنام برای گسترش نفرت و مسلح کردن شهروندی خود در برابر گروه های حاشیه نشین (به ویژه یهودیان ، مهاجران و افراد رنگارنگ) خودداری می کنند. سیستم های اعتدال خودکار هنگام ارتباط نفرت با یک زبان مبتذل و سمی ، بیشتر گفتار عالی سفید را از دست می دهند. در عوض ، ما تجزیه و تحلیل کردیم که چگونه افراط گرایان اقلیت های نژادی ، مذهبی و جنسی را متمایز و محروم می کنند.

به عنوان مثال ، برجسته های سفید ، اغلب با افزودن “سفیدپوستان” به بسیاری از اصطلاحات (کودکان سفید پوست ، زنان سفید پوست ، نژاد سفید) ، سفیدی خود را متمرکز می کنند. جستجوی کلمات کلیدی و تشخیص خودکار این مدل های زبانی را تحمیل نمی کند. با تجزیه و تحلیل برخی از نمونه های گفتار عالی سفید به طور خاص ، ما توانستیم چنین سخنرانی هایی را پیدا کنیم که “ما باید از کودکان سفید پوست محافظت کنیم” یا دیگران را مقصر بدانیم ، به ویژه یهودیان به دلیل “ضد سفید بودن”.

افراط گرایان در بسیاری از سیستم عامل های رسانه های اجتماعی فعال هستند و پس از گرفتار شدن و ممنوعیت شبکه های خود را به سرعت بازآفرینی می کنند. جسی دانیلز ، جامعه شناس می گوید ، “برتری سفید ،” الگوریتمی تقویت شده ، شتاب و توزیع از طریق شبکه ها به سایر حرکات سفید قومیت -ملی گرایی در سراسر جهان است ، و تمام وقت صنعت فناوری را نادیده می گیرد که “نژاد را نمی بیند” در ابزارهایی که ایجاد می کند “.

تیم ما ابزارهای محاسباتی را برای تشخیص گفتار عالی سفید در سه سیستم عامل از سال 2016-2020 ایجاد کرده است. با وجود آسیب های بزرگ ، گفتار نفرت بخش کوچکی از گفتار عظیم آنلاین است. برای سیستم های یادگیری ماشین ، تشخیص گفتار نفرت بر اساس مدلهای بزرگ زبان ، سیستم هایی که در نمونه های بزرگی از گفتار آنلاین عمومی آموزش دیده اند ، دشوار است. ما به یک منبع مشهور از گفتار عالی صریح سفید تبدیل شدیم: وب سایت نهایی ، ملی گرایانه White Stormfront. ما 275،000 نشریه از StormFront جمع آوری کرده ایم و آنها را با دو نمونه دیگر مقایسه کرده ایم: توییت از کاربران در سرشماری حساب های “Alt-Right” و یک سخنرانی معمولی در رسانه های اجتماعی از R/All Reddit (مجموعه ای از بحث در مورد Reddit). ما الگوریتم هایی را برای مطالعه ساختار جملات نشریات ، شناسایی عبارات خاص و توجه به موضوعات و مباحث مکرر و مکرر آموزش داده ایم.

مکانهای سفید با تعجب در سیستم عامل ها و زمینه ها با تعجب روبرو می شوند. همراه با افزودن “سفید” به بسیاری از کلمات ، آنها اغلب به گروه های نژادی یا قومی با اسم های متعدد (سیاهپوستان ، سفید ، یهودیان ، همجنسگرایان) اشاره می کنند. آنها همچنین از طریق مدل های گفتار خود یهودیان را به صورت نژادی به هم زدند و آنها را به عنوان اهداف نژادی کم تر و مناسب خشونت و پاک کردن ایجاد کردند. مکالمات آنها در مورد نژاد و یهودیان با هم همپوشانی دارند ، اما مکالمات آنها در مورد کلیسا ، دین و یهودیان این کار را نکردند.

مکانهای سفید اغلب در مورد افول سفید ، نظریه های توطئه برای یهودیان و حکومت یهود و گزارش های طرفدار ترامپ صحبت می کردند. مباحث خاص که آنها در مورد آنها بحث کردند تغییر کرده است ، اما این شکایات گسترده تر این کار را نکرد. سیستم های تشخیص خودکار باید به دنبال این موضوعات باشند ، نه اصطلاحات خاص.

سخنرانی عالی سفید همیشه شامل حملات صریح علیه دیگران نیست. در مقابل ، قله های سفید در مطالعه ما به همان اندازه تمایل به استفاده از یک گفتار متمایز برای نشان دادن هویت خود به دیگران ، استخدام و رادیکال کردن و ایجاد در گروه همبستگی داشتند. به عنوان مثال ، نشان دادن سخنرانی شخصی به عنوان یک بالای سفید ، ممکن است لازم باشد که در این فضاهای آنلاین و جوامع افراطی گنجانده شود.

پلتفرم ها می گویند که اعتدال محتوا در مقیاس بسیار دشوار و گران است ، اما تیم ما گفتار عالی سفید را با ابزارهای مقرون به صرفه در دسترس اکثر محققان پیدا کرده است – بسیار گرانتر از موارد موجود در سیستم عامل ها. منظور از “در دسترس” منظور ما از لپ تاپ ها و منابع محاسباتی مرکزی است که توسط دانشگاه ما و یک کد پایتون منبع باز که آزادانه در دسترس است.

از آنجا که نکات برجسته سفید وارد فضاهای آنلاین می شود – مانند آفلاین – آنها ایمنی گروه های از قبل حاشیه نشین و توانایی شرکت در زندگی عمومی را تهدید می کنند. اعتدال محتوا باید بر تناسب متمرکز شود: تأثیر بر افرادی که از نظر ساختاری از نظر ساختاری محروم هستند و آسیب را پیچیده می کند. برخورد با کل زبان توهین آمیز برابر با نابرابری های موجود در صف جامعه آمریکا.

در پایان ، تحقیقات نشان می دهد که سیستم عامل های رسانه های اجتماعی کمتر به حسن نیت و بیشتر بر عدالت و عدالت توجه می کنند. تابعیت لعنتی است.

لیبی همفیل استادیار دانشکده اطلاعات دانشگاه میشیگان و انستیتوی تحقیقات اجتماعی است.