«На наших площадках нет места контенту, продвигающему терроризм. Надеемся, что наше сотрудничество повысит эффективность проведения наших политик», — гласит совместное заявление интернет-компаний. Любой материал, который указанные сети удаляют как террористический, будет помечен таким образом, чтобы автоматическая система могла считать его характеристики и сравнивать их с другими материалами. Компании планируют обмениваться этими данными и создать их единую «карту».

Подобные идентификаторы уже используются в социальных сетях и поисковиках для определения и удаления детской порнографии, в частности, уFacebook. Поиск такого контента полностью автоматизирован, так же блокируются и все попытки размещения подобного материала в соцсетях. Однако эта программа, PhotoDNA, контролируется властями, а не компаниями — именно первые решают, какой контент попадает под определение детской порнографии, а какой — нет. Хани Фарид, один из создателей PhotoDNA, еще в январе предлагал разработать аналогичную для поиска экстремистского контента, и вот теперь к нему прислушались.

Во многом на решение компаний повлияли правительства стран, требовавшие от них побыстрее разобраться с проблемой контента наподобие пропагандистских видеороликов запрещенного в России «Исламского государства» (ИГ). Особенно это давление усилилось в последний год, после серии терактов в Европе (в Париже, Брюсселе, Ницце).

К соглашению интернет-компании пришли после многочисленных встреч с чиновниками Евросоюза на так назвываемом Интренет-форуме ЕС, организованном с целью определения стратегий противодействия террористической пропаганде через соцсети. В определенный момент евробюрократия даже предъявила интернет-компаниям своего рода ультиматум: «Сделайте что-нибудь для ограничения распространения подобного контента, или мы примем новые законы, которые обяжут вас это сделать».

Сам обмен «идентификаторами» между компаниями стартует в начале следующего года, сейчас компании прорабатывают все технические детали процесса.дали понять, что контент, идентифицированный как террористический на одной платформе, не будет автоматически удаляться на всех четырех. Сперва каждая компания проверит, нарушает ли отмеченный материал их политику пользовательской безопасности. Впрочем, интернет-гиганты нацелены на полное вычищение самого жестокого контента. Также компании объявили о «политике открытых дверей»: к их соглашению могут присоединиться все желающие.

До сих порэксплуатировали активность пользователей, самостоятельно помечавших оскорбительный для них контент, нарушающий правила соцсети. Каждый такой запрос проверялс и удалялся вручную людьми из специальных отделов по борьбе с злоупотреблениями (abuse teams). Так, в период с августа по февраль 2016235 тысяч аккаунтов, которые пользователи посчитали экстремистскими.

Данный подход не всегда работал как следует, например, в июне начался процесс надGoogle по иску Рейнальдо Гонсалеса, отца убитой в парижских атаках ноября 2015 года девушки, который подал в суд на три компании за то, что они «сознательно позволили террористическим группам использовать соцсети в качестве инструмента для распространения экстремистской пропаганды, спонсирования и привлечения новых рекрутов».