В декабре 2022 года Foxglove в составе группы из семи правозащитных организаций поддержала первую для себя серию дел, в которых заявлялось, что алгоритмы могут стимулировать распространение вредоносного контента и напрямую способствовать кровопролитию и гибели людей в реальном мире. Первым истцом стал Абрахам Меарег – эфиопский исследователь из Amnesty International. Его семья принадлежит к народу тиграи – этническому меньшинству, которое проживает в амхарском регионе, где идет кровавая гражданская война между тиграи и амхара. В ноябре 2021 года отца Абрахама, профессора химии Меарега Амаре, прямо возле дома застрелила банда, для которой он стал мишенью из-за своей этнической принадлежности.

За месяц до этого он подвергся нападкам в серии фейковых сообщений в фейсбуке о том, что он якобы обокрал собственный университет. Беспокоясь за отца, Абрахам потребовал от Facebook удалить вирусные посты, но ответа не получил. Через месяц, уже после гибели отца, Абрахаму пришло уведомление о том, что один из постов, который увидело до 50 тысяч человек, был наконец удален. Абрахам запросил политическое убежище в США и позже сказал, что винит Facebook в этнически мотивированном убийстве своего отца, поскольку алгоритмы соцсети способствовали распространению риторики ненависти и ложной информации о нем, а компания не спешила удалять со своей платформы вредоносные посты.

Вторым истцом в этом деле выступил бывший исследователь Amnesty International Фиссеха Текле, собравший другие примеры размещенных в фейсбуке публикаций, которые могут быть непосредственно связаны с этнически мотивированными убийствами. Вдобавок Текле заявил, что он сам и его родственники подвергались нападкам из-за его работы с контентом в соцсети. В результате он переехал в Кению, заявив, что не может вернуться в Эфиопию, поскольку опасается за свою жизнь{153}.

Хотя здесь проблема заключалась во вспышках ненависти в интернете, провоцируемых алгоритмами соцсети, Крайдер полагала, что кровопролития также связаны с особенностями работы Meta в Найроби – с нездоровым и жестоким контентом, который приходилось отсматривать таким модераторам, как Дэниел, работавшим в аутсорсинговой компании Sama, где среди прочего осуществлялась и модерация эфиопской риторики ненависти. Крайдер считает, что отчасти происходящее объясняется недостаточными вложениями в модерацию контента на африканских языках и плохими условиями труда. В незападных регионах вредоносный контент остается доступным в интернете гораздо дольше, чем на англоговорящих рынках, и это развязывает руки преступным бандам в таких странах, как Индия и Мьянма{154}.

Истцы потребовали, чтобы Meta изменила свои алгоритмы и перестала рекомендовать пользователям разжигающий ненависть контент, а также создала фонд для поддержки жертв и внесла в него 1,6 млрд долларов.

«Если мы победим, это станет первым прецедентом в борьбе с рекомендательными алгоритмами и систематической дискриминацией неанглоязычных рынков», – сказала Крайдер накануне объявления о деле Абрахама, которое еще не закрыто.

Никто прежде не вступал в такую схватку: можно ли заставить компании «большой пятерки» ради общего блага переписать алгоритмы, приносящие им триллионы долларов?