КАК ФЭЙСБУК БОРЕТСЯ С НАРУШИТЕЛЯМИ

Борис Немировский

Самая популярная в мире социальная сеть Facebook опубликовала свой первый в этом году квартальный «модерационный отчет» (Moderation Report), в котором рассказала миру, сколько и каких фальшивых аккаунтов и запрещенных постов было удалено. После громких скандалов с российскими «ботофермами», влиявшими через эту сеть на выборы в Америке и европейских странах, после показательной «порки», которую пришлось выдержать Марку Цукербергу в стенах Капитолия, Facebook остро нуждается в демонстрации «антиспамовой» активности.

По его данным, лишь за первые три месяца 2018 года были приняты меры против 1,5 миллиардов текстов и аккаунтов по подозрению в нарушении правил пользования Facebook. Из отчета следует, что большая часть запретов и удалений была направлена против спам-рассылок и фальшивых аккаунтов (Fake-Accounts).

«ЭЛЕКТРОННЫЙ ЦЕНЗОР» В ДЕЙСТВИИ

Каков же результат этой бурной деятельности? По данным FB, которые приводит, в частности, британское издание «The Guardian», было удалено лишь спам-текстов целых 837 миллионов. Также были уничтожены 583 млн. фейковых аккаунтов. Кроме того, удалению подверглись: 2,5 млн. текстов, якобы направленных на так называемую «пропаганду ненависти», 1,9 млн. текстов, расцененных, как «террористическая пропаганда», 3,4 млн. текстов, распространявших призывы к насилию и 21 млн. текстов, содержащих порнографию или недозволенные сексуальные действия.

При этом было отмечено, что некоторые категории нарушений – такие, как распространение детской порнографии, реальные угрозы насильственных правонарушений, тексты о самоубийствах, моббинг и тому подобное – не были учтены, так как их было слишком мало, чтобы повлиять на общую статистику. Кроме того, FB сообщил, что большая часть модерации осуществляется при помощи искусственного интеллекта – то есть, автоматически. Алгоритмы, по его данным, помогли выявить 98,5% фейковых аккаунтов и почти 100% спама.

Победа на всех фронтах, не так ли? А за полгода все выглядит еще победнее: по данным Facebook, за последние полгода было удалено почти 1,3 млрд. фейковых аккаунтов (это при том, что общее количество аккаунтов а Фейсбуке составляет около 2,2 млрд.), причем 98% из них были перехвачены еще до того, как другие пользователи смогли их увидеть. За шесть месяцев были удалены почти 3 миллиона текстов, содержащих пропаганду терроризма. Ну, и по другим категориям – миллионы и миллионы…

Просто какой-то триумф искусственного «цензора». Боты, тролли и террористы убегают из сети, поджавши хвосты, и все становится прекрасно, спокойно и общечеловечно… На самом же деле, следует хотя бы понять, как именно трактует Фейсбук понятие «содержания». Например, если запись содержит текст и, скажем четыре фотографии под ним, то она расценивается, как пять «содержаний». Но, если удалена будет вся запись, она обозначается в статистике, как лишь одно «содержание».

Именно таким образом и получилось, что за прошлый квартал было удалено 2,5 млн. «содержаний», причем 38% из них Facebook заметил сам, с помощью так называемых «автоматических банхаммеров» – то есть, программ, просматривающих «содержания», в которые заложены ключевые «запрещенные» слова. Для сравнения: за последний квартал 2017 года таких «содержаний» нашлось 1,6 млн., из них 23,6% были замечены и удалены автоматически. То есть выходит – искусственный цензор развивается и учится, но Facebook подчеркивает, что в случае с «пропагандой ненависти» его все равно постоянно контролируют люди, чтобы иметь возможность избежать ошибок, исходя из контекста написанного.

ЭФФЕКТ МОСКАЛЯ

Нижайше прошу прощения за страшное журналистское преступление, которое только что совершил: а именно – никогда не писать статьи от первого лица, никогда не говорить «я» в материале. Мне пришлось это сделать, так как мое личное мнение: вся эта красивая статистика не стоит и выеденного яйца. Во-первых, потому что настоящие фейковые аккаунты в Фейсбуке, причиняющие вред – это активные аккаунты, они уже есть, их «кукловоды» что-то в них пишут, кого-то обливают грязью, продвигают какие-то политические лозунги – работа у них такая. Поэтому, если автомат удаляет пустой «законсервированный» аккаунт – это, конечно, тоже полезно, но это второстепенно и никак не влияет на вредоносную деятельность «ботоферм».

Во-вторых же, этот самый «человеческий контроль» за автоматическими системами как оборачивался, так и оборачивается против среднестатистических пользователей. Не знаю, как в других странах, но, скажем, украинцы об этом могут хоть песни петь – традиционные, народные, те самые, которые начинаются сплошь на «Ой!» Потому что «следящие специалисты» из ирландского офиса ФБ, скорее всего – не только русскоговорящие (то есть, те, кто считают, что «русский и украинский – это одно и то же»), а еще и, так сказать, «русскоштампные». Поэтому считают, например, нормальное украинское словечко «москаль» едва ли не матом, и, в любом случае – оскорблением по национальному признаку. Тот факт, что слово это означает российского солдата примерно так же, как «джи-ай» означает солдата американского, а «томми» – британского, им не известно, поэтому за упоминание, скажем, главы украинской Закарпатской областной госадминистрации Геннадия Москаля уже многих украинцев отправили прямиком в бан. Так же, как и за цитирование речи Петра Порошенко, в которой он сослался на стихи Владимира Маяковского: «Товарищ москаль! На Украину зубы не скаль!» Если, например, вынести слово «москаль» в заголовок этой статьи, то, пожалуй, ссылку на нее нельзя будет разместить в Фейсбуке, независимо от того, каково ее содержание. С легкой руки этих «знатоков» несчастный москаль попал в автоматический фейсбучный банхаммер и начал виртуально колошматить ни в чем не повинных людей не хуже, чем москали-настамнеты на Донбассе.

Таких примеров можно привести великое множество и, судя по тому, как неэффективно и даже вредоносно работает этот «искусственный интеллект» в украинском сегменте Фейсбука – можно экстраполировать эту неэффективность на сегменты других стран и других языков. Этой системе, как минимум, нужно еще долго усовершенствоваться и доходить до ума, прежде, чем кто-то выпустит ее на живых людей – но выпустили уже сейчас.

И в-третьих, сама мысль о том, что кто-то доводит до ума и усовершенствует систему, которую спокойно можно назвать «электронным цензором», заставляет серьезно переживать. Еще Альберт Эйнштейн призывал ученых «быть ответственными за свои открытия», а разработка подобной автоматической цензуры – вещь крайне опасная.