Якоб Туровски, Meta: Българското съдържание във Facebook се модерира от локални специалисти

От друга страна е вредното съдържание, което е легално, но позволяваме да присъства на платформата ни, като език на омразата, обиди и др. Тогава се основаваме на нашите стандарти (Community standards), с които предпазваме потребителите ни. Te са достъпни за всички и посочват какво е позволено и какво не е в платформата ни. Ако някои потребител забележи съдържание, което смята, че не трябва да бъде в платформата, го докладва, след което се преглежда и анализира. Когато говорим за управление на съдържание, то винаги е комбинация от служителите ни, AI и машинно обучени инструменти.

Третият вид съдържание е подвеждащата информация - въпросът дали дадена информация е вярна или не е вярна. Изхождаме от твърдението, че не е работа на Meta да решава дали нещо е вярно или не. Затова работим в партньорство с локални специалисти по проверка на факти. Тяхната отговорност е да определят дали дадено съдържание е фалшива новина или не. Те дават оценка и след това, ако съдържанието е оценено като фалшива новина, се обозначава в потока от новини и по-важно - показва се до 80% по-рядко на потребителите. Целта ни е те да имат много по-малък достъп до съдържание, което е определено като фалшиви новини.

Дезинформацията се отнася по-малко до съдържанието и повече до поведението на хора, които използват различни инструменти, за да заблудят нашите потребители. За това имаме екипи, които следят за такива хора и за поведението им. Това е състезание, защото похватите им се менят и се появяват нови лоши практики. Целта ни е платформата ни да бъде, на първо място, сигурна и, на второ място, потребителите ни да са добре информирани.

След ковид, войната в Украйна се оказа нов източник на дезинформация и пропаганда. Как подобрихте инструментите си и какво променихте в методите ви?

Много неща се промениха от началото на войната. Към началото на миналата година имахме 16 специалисти по проверка на факти в региона, а сега са над 20. Увеличаваме капацитета на специалистите в региона, особено на руски и украински, за да могат да проверяват повече информация. Усилията ни покрай нахлуването на Русия в Украйна, са приоритет за нас и имаме вътрешни екипи, които следят какво се случва в платформата и правят възможно най-ефективния мониторинг.

Лансирахме нова функция в Украйна и Русия, която позволява на хората да заключват профилите си във Facebook, както и допълнителни инструменти в Messenger за защита на поверителността и сигурността на тяхната информация.

В Instagram сигнализираме хората за това как да защитят профила си и направихме криптирани чатове, достъпни за всички възрастни в Украйна и Русия. Скриваме информацията за последователите на хората в тези две държави.

Относно борбата с разпространението на руска пропаганда, маркираме и показваме по-рядко съдържание, публикувано от контролирани от руската държава медийни акаунти във Facebook и Instagram и ги правим по-трудни за намиране. Забраняваме реклами от такива медии и демонетизираме техните акаунти. Разширихме капацитета си за проверка на факти от трети страни на руски и украински език и предоставяме повече контекст и прозрачност около съдържанието, споделяно от контролираните от руската държава медии. Ограничихме и достъпа до Russia Today и Sputnik в Украйна, Обединеното кралство и ЕС.

Откъде идват най-много фалшиви новини и дезинформация?

Що се отнася до дезинформацията, важно за нас е да бъдем максимално прозрачни. Имаме регулярни доклади за всички мрежи, групи и фактори за дезинформация, които следим и срещу които предприемаме действия. Представяме открито информация за това откъде идват, какви са и др.

След като знаете кои са източниците, какви стъпки предприемате? Защо просто не ги блокирате?

Целта ни е да имаме платформа, която е сигурна за потребителите и те да са добре информирани. Веднага, когато разберем за дадена мрежа за дезинформация или, че има кооординирани действия в тази посока, я премахваме. Често това са фалшиви профили, като целта е да ги премахнем и да не позволяваме потребителите ни да виждат такова съдържание.

Регионът, за който отговарятеq има исторически връзки с Русия, откъдето идва голяма част от пропагандата и може да има въздействие на национално ниво. Предприемате ли по-специални мерки що се отнася до проследяването на информацията, която идва от тези източници, насочена към държавите от региона?

Важно е да не смесваме нещата, за които говорим. Има заблуждаваща информация от една страна, като вече споменах какви мерки предприемаме със специалистите по проверка на факти. От другата страна е дезинформацията и ако видите докладите ни ще забележите, че има тактики, които често идват от една конкретна държава. Това са двата метода, които използваме, за да правим платформата ни възможно най-сигурна. Също така е моя отговорност да дойда в България или в други държави от региона и да говоря с представители на НПО, академици и други важни професионалисти и след това на база притесненията им, ако е необходимо, да правим промени и да предприемаме мерки.

От началото на годината до момента колко предупредителни маркери на публикации са сложени, колко статии са проверени, колко профили са блокирани или премахнати?

За тази информация имаме доклади, които може да видите. Що се отнася до фалшивите новини, един от важните показатели е нарастващият брой на специалистите по проверка на фактите в региона. Ако говорим за сигурност и доверие в платформата, имаме над 40 хил. души в Meta, които работят за сигурността, което е четири пъти повече отколкото през 2016 г. Само за миналата година глобално инвестирахме 5 млрд. долара за сигурността на платформата и за да бъдат потребителите ни добре информирани.

Локално нямаме данни, които да споделим, но глобално имаме доклади на тримесечна база. За второто тримесечие на 2022 г. сме обозначили с предупредителни маркери над 200 млн. отделни части съдържание във Facebook (включително пресподелено такова) на базата на над 130 хил. статии, оборващи дадена информация, написани от нашите партньори за проверка на фактите.

За България партньорът ни за проверка на факти е AFP. Може да видите секцията за проверка на факти в сайта им и статиите, които са написали. Може да видите броя на публикациите във Facebook, които са проверили. Това е публична информация.

Една от големите критики към Facebook е, че платформата не е достатъчно прозрачна за това как работят алгоритмите й. Публикации са изтривани без причина, профили се блокирани за определено време. Как минимизирате тези грешки?

Едно от основните погрешни схващания, които искаме да изясним, е съществуването на "алгоритъмът". Нямаме един алгоритъм, който да контролира какво се случва на платформата. Използваме различни алгоритми, класификатори и процеси, всеки със собствена цел. Можете да прочетете за това в нашия Help Center.

Относно минимизирането на грешките при модерирането на съдържанието. Нашите AI и машинно обучени инструменти подобряват постоянно ефективността си. Много сме стриктни за това как тренираме модераторите ни на съдържание. Когато нов модератор се присъедини, разбира се е обучаван, но след това има отново регулярни обучения, за да сме сигурни, че разбира нашите политики по начина, по който трябва да бъдат разбрани и няма място за интерпретации или пристрастия. Не тренираме само модераторите ни, имаме постоянни седмични одити и оценки за това дали екипът върши коректно работата си. Много важно за нас е да поддържаме постоянно високо ниво на качеството на модериране. Не сме перфектни и се случват грешки. Затова имаме канали за обжалване, за да могат потребителите ни да обжалват решенията ни за дадено съдържание, и те ще стават все по-важни с новите европейски регулации за модериране на съдържание.

Facebook има офис в София, който се занимава с модериране на съдържание.

Нямаме офис в София, имаме външен контрактор - TELUS International. За нас е много важно да сме сигурни, че нашите контрактори и партньори доставят качеството на работа, което очакваме. Затова много регулярно правим проверки и одити.

Какво съдържание и за кои пазари модерира екипът тук?

Не може да кажем конкретни пазари. Важно е да се знае, че българското съдържание се следи от български специалисти, които познават локалния контекст и знаят езика. Имаме 15 хил. модeратори на съдържание по света, които оперират на много езици, включително български. Целта ни е съдържанието да се проверява от хора, които имат културни познания и бекграунд, за да могат да вземат правилните решения.

Екипът тук разширява ли се?

Нямам такава информация. Не можем да споделим подобна информация за нито един пазар.

Каква е стратегията на Facebook за подсигуряването на честни избори в по-малки държави като България?

Няма значение дали дадена държава е малка или голяма. Да подсигурим честни избори е наша цел за всяка държава, в която оперираме. Когато се провеждат избори в дадена държава, имаме екип, който ги проследява, като целта е да няма вмешателство чрез използването на нашите платформи. Друг важен инструмент за прозрачност е възможността да се видят политическите и обществени реклами. Когато някои реши да публикува такива в България, трябва да е ситуиран в България, за да се избегне чуждо вмешателство и да мине през процес, в който да посочи кой плаща за рекламата. Имаме и библиотека с реклами, която позволява на всички потребители да видят информация за всяка страница, която публикува политическа или обществена реклама, какви реклами има, какви суми инвестира, какъв е таргетът й.

Какво прави екипът, който се занимава с изборите в България?

Екипът е комбинация от много различни специалисти - по заблуждаващо съдържание, дезинформация, юристи и много други. Всички те работят заедно, за да оценят потенциалния риск. Те не просто правят мониторинг, а са в контакт и с локални партньори, които анализират какво се случва в страната, за да може след това по-добре ние да анализираме ситуацията.

Регулират ли се страници, които не са официално свързани с партии, но са партийно финансирани?

Разбира се. Системата за политическа или обществена реклама не се фокусира само върху страници на политически партии или кандидати, а върху вида съдържание, което се публикува. Ако оценим дадено съдържание като политическо или обществено, то трябва да мине през целия процес и да се обозначи като политическа реклама.

Интервюто взе Сирма Пенкова