В ту июньскую пятницу этот подход претерпел изменения. Неделей ранее трое исламистских экстремистов убили восемь человек на Лондонском мосту. Вскоре появились сообщения о том, что одного из убийц вдохновил американский священнослужитель[208], которого он смотрел на YouTube. Руководство компании, ошеломленное этой новостью, решило, что «Доверие и безопасность» нуждается в капитальном ремонте. Бардан пригласили на встречу «Желтый код», потому что она была в числе трех сотрудников YouTube, которые занимались анализом насильственного экстремизма и говорили по-арабски. Она слушала план: YouTube выгонит радикальных священнослужителей и выделит больше инженеров для создания строгих систем искусственного интеллекта, чтобы искоренить как можно больше исламистского экстремизма. В те выходные команда Бардан немедленно приступила к просмотру видеороликов, в то время как коллеги продолжили веселиться. Одного коллегу разбудили в 2:00 ночи, чтобы он разобрался с особенно неприятным видео на арабском языке; модератор смотрел клип и отвечал на звонки в ванной, чтобы не разбудить соседа по комнате. Менеджер Бардан наградил ее кексами за работу в выходные. На той неделе в штаб-квартире команда разработчиков политики YouTube сократила список провокаторов до четырнадцати: все это были мужчины-мусульмане, которым запрещалось публиковать что бы то ни было. До этого YouTube использовал тест на абсурдистское мышление, демонстрируя свой подход «руки прочь»: «Если бы у Усамы бен Ладена был кулинарный канал, это было бы прекрасно». Теперь это не к месту. Все, что связано с бен Ладеном, удалялось. Некоторые видеозаписи проповедей — например, выступления Ахмада Мусы Джибриля, который, по слухам, вдохновил нападавшего на людей на Лондонском мосту, — попадали на «скамью штрафников» YouTube. Это было грубое решение. Новые машинные цензоры тоже работали грубо: сотрудник, знавший арабский язык, вспомнил, как однажды просматривал код системы и обнаружил, что условия ее фильтрации изначально включали арабское слово, обозначающее Аллаха.

Позже руководители YouTube вспоминали встречу «Желтый код» как критический поворотный момент, когда YouTube решил применить свой сверхчеловеческий интеллект для модерации, а не только для рекомендаций. Бардан по-другому запомнит те выходные. Для нее и нескольких коллег это были дни, когда они начали задаваться вопросом: правда ли, что их система тратит все свои ресурсы на слежку за мусульманами в Интернете и при этом не прикасается к экстремистам из других конфессий или слоев общества?