ProPublica: Секретният цензуриращ алгоритъм на Facebook води до абсурди Mind the horns!

Вътрешни документи за обучаване на модераторите във Facebook разкриват как работи алгоритъма за цензуриране на реч на омразата – твърди сайтът ProPublica.

Правилата почиват на защитени и незащитени категории и видове атаки. Защитени категории са пол, национална, религиозна, расова, етническа принадлежност, сексуална ориентация, хора с увреждания. Незащитени са социалните класи, континентален произход, външен вид, възраст, занятия, политическа идеология, религии и държави.

Като атаки се считат призивите за насилие, изключване, сегрегация, обидно обобщение, отхвърляне, ругаене или обиждане. Комбинацията от атака към защитена категория води до цензура.

Секретните правила на Facebook са обобщени в 18 слайда, за които ProPublica твърди, че пресъздават реален документ, с който журналистите са се запознали:

От правилата се вижда, че когато даден текст засяга няколко категории, алгоритъмът създава защитени и незащитени подкатегории. Ако една от категориите е незащитена, то и подкатегория става незащитена. Така например не можете да обиждате ирландските жени, защото двете категории “национален произход” (ирландци) и “сексуална принадлежност” (жени) са защитени. Можете обаче да леете омраза срещу ирландските тийнейджъри, защото “подрастващи” е възрастова категория и съответно подкатегорията “ирландски подрастващи” става незащитена.

Този подход води до абсурдния резултат, че можете да изливате омраза срещу “черни деца” и “жени зад волана” без да ви цензурират, но подобна реч срещу “белите мъже” ще доведе до премахване на публикацията.

Дадени са и конкретни примери с реални публикации. Когато американски конгресмен Клей Хигинс призовава да бъдат ловени и убивани радикализирани мюсюлмани неговият пост е счетен за коректен, тъй като подкатегорията “радикализиран” не е защитена. Но когато поетът от Бостън Диди Делгадо пише, че “Всички бели мъже са расисти” – постът е премахнат.

В коментар за сайта ProPublica професорът по право и експерт по защита на личните данни Даниел Ситрон от Университетът в Мериленд казва, че този подход “защитава хора, които най-малко се нуждаят от това и маха защитата от тези, които наистина се нуждаят от нея”.

Още по-спорен е подходът на социалната мрежа към предизвикателствата на политическите изразни средства. Така например постовете на Доналд Тръмп за кампанията му срещу мюсюлманската емиграция са нарушили формално правилата на Facebook срещу призиви за остракиране на защитена група (по критерий “религия”). Но както разкрива Wall Street Journal по нареждане на самия Марк Цукърбърг за тези постове е било направено изключение от правилата.

Към този момент във Facebook работят 7500 цензора и обемът на тяхната работа може да се счита за най-голямата операция по цензуриране в историята до този момент. Тази операция обаче е и най-секретната, защото Facebook не публикува правилата, които използва, за да определи кое съдържание да разреши и кое да изтрие.

Хората, които са цензурирани обикновено не получават информация кое точно правило са нарушили и не могат да оспорят решението на Facebook. Възможност за апелация има единствено за профили, групи или страници, които са премахнати.

И карикатуристът Комарницки под ударите на Facebook цензурата

Мултиплицирането на правилата за цензура е довело до бюрократична експлозия, в която иронията и сатирата също стават обект на цензура, припомня ProPublica. Така например когато Русия окупира Крим през март 2014 г., много украински потребители се жалват от баннати постове и суспендирани профили. Тогавашният директор за региона Томас Кристенсен признава, че малък брой акаунти са били премахнати неправилно, защото съдържали “реч на омразата използвана по ироничен начин”.

Темата е особено актуална в българския сегмент на социалната мрежа след като известният карикатурист Христо Комарницки се оплака, че е изтрита негова карикатура от 2014 г. На нея и изобразен шефът на патриотите Валери Симеонов, който пише със спрей на стената на Реформаторския блок: “Циганите са примати, Москов – президент”, докато Влади Горанов уринира пред вратата му.

В случая изобщо не е ясно коя точно е защитената категория или подкатегория, довела до изтриване на произведението на Комарницки. След като той посочва в друг пост, че карикатурата е публикувана във вестник “Сега” на 18 декември 2014 и дава линк към публикацията, Facebook го наказва с 24 часово изгнание. Завръщайки се, Комарницки публикува отново карикатурата и манифест, в който дава предисторията и хронологията на случая, и се възмущава от липсата на обратна връзка с администрацията на Facebook. Публикуваме текста на неговото изявление без редакционна намеса:

Komarnitski vs Facebook

На 17.12.2014 г. депутатът Валери Симеонов от трибуната на Народното събрание нарече българските роми „човекоподобни“.
http://www.dnevnik.bg/…/2440355_ne_mojem_da_mulchim_kogato…/
(Същият човек в момента е вицепремиер по икономическата и демографската политика в правителството на Бойко Борисов, и председател на Националния съвет за сътрудничество по етническите и интеграционните въпроси към Министерския съвет. В страна, която след няколко месеца ще председателства Европейския съюз!!!)

На 18.12.2014 г. публикувах в брой 5169 (294) на вестник „Сега“, както и на страницата си във Фейсбук, карикатура, с която критикувах расистката и ксенофобска реч на омраза, произнесена от депутата Валери Симеонов.
Карикатурата може да бъде намерена и видяна в архива на сайта на вестник „Сега“:
http://www.segabg.com/article.php?id=730881

На 26.06.2017 г. получих съобщение, с което Фейсбук ме уведоми, че е премахнал въпросната карикатура от страницата ми, защото нарушавала Facebook policies.
Публикувах статус, в който описах случката. За да стане ясно на читателите, добавих ЛИНК към проблемната карикатура на сайта на вестник „Сега“.
http://www.segabg.com/pic/11673/730752-l.jpg

На 27.06.2017 г. бях поканен да говоря за този инцидент в сутрешния блок на телевизия Bulgaria ON AIR http://www.bgonair.bg/. Там показах в ефир оригинала на скандалната карикатура.

На 28.06.2017 г. в 12 часа на обяд Фейсбук премахна статуса ми по темата, и блокира профила ми за 24 часа.

Моята политика спрямо Фейсбук

Досега бях коректен и се стремях да съм лоялен партньор на г-н Mark Zuckerberg в това начинание.
Но сега не виждам смисъл, и нямам никакво намерение да водя каквато и да е по-нататъшна кореспонденция с тези напълно анонимни, и, според мен, некомпетентни хора, или ботове. Готов съм да дискутирам казуса с реални, неанонимни личности.

Ще огранича участието си в социалната мрежа до споделяне на връзки към бъдещия нов сайт на ПРАС ПРЕС.

***

Ако намирате, че статията е интересна и полезна, можете да ни подкрепите, за да продължим да правим независима разследваща журналистика. If you find the article interesting and useful, you can support us to continue to do independent investigative journalism.

Включете се с Данъкъ Биволъ! Support Bivol

При възможност, станете наш редовен спомоществовател с опцията Месечен Данъкъ. Това ни помага да предвиждаме бъдещи разходи и да планираме дейността си за месеци напред.