Мерси работает модератором контента в аутсорсинговом центре Meta* в Найроби. Ее задача - просматривать видео и изображения, отмечать нарушения политики Facebook*: сцены насилия, шокирующие кадры, трагедии. Каждые 55 секунд - новое обращение. 10 часов подряд. Один за другим на экране появляются видеоролики: аварии, кровь, смерти.
Однажды ей попадается видео с места ДТП. Она сосредоточенно вглядывается -и приближает кадр. Тут Мерси понимает: она знает это место. Узнает улицу. Потом - машину. И, наконец, мужчину в кадре. Это ее дедушка. Он погиб в этой аварии всего за пару часов до начала смены Мерси.
Мерси в шоке. Она отшатывается от компьютера, выбегает из офиса в истерике, на улице звонит родственникам и узнает подробности. Никто еще не знал об этой трагедии. Коллеги в оцепенении - такое произошло впервые. Начальник предлагает ей закончить смену, а выходной - только завтра.
Но система уже запустила цикл. Видео, которое попалось ей в первый раз, теперь возвращается снова и снова: кадры с других ракурсов, замедленные повторы, фото погибших, съемки места трагедии. Мерси должна просматривать все - по регламенту. Она уже знает каждую деталь этой аварии наизусть. Это ее район. Ее семья. Ее дед.
В Найроби (и в Уганде), сотрудники на аутсорсе ежедневно просматривают сотни шокирующих видео и изображений, чтобы выявлять и удалять контент, нарушающий политику Meta*. За смену им нужно обработать огромное количество обращений, среди которых – аварии со смертельным исходом, пытки, сцены насилия, самоубийства.
Просмотр таких материалов приводит к тяжелым психологическим травмам. Многие модераторы страдают от посттравматических расстройств, панических атак, депрессии, некоторые кончают с собой или теряют близких. Несмотря на это, работодатели требуют высокой производительности и строго следят за соблюдением правил - порой в ущерб человеческому состоянию. Работа нестабильна, с краткосрочными контрактами (1-3 месяца) и минимальной защитой прав работников. Это "нечеловечные" условия, в которых все больше нуждается современная цифровая инфраструктура - от соцсетей до ИИ-систем, вроде ChatGPT.
Это мой пересказ небольшого отрывка из книги "Как кормят машину" Джеймса Малдуна, Марка Грэма и Каллума Канта, который меня поразил.
Из издательской аннотации: В основе книги — сотни интервью и тысячи часов полевых исследований, проведенных более чем за десять лет. В ней звучат голоса тех, кого эксплуатирует ИИ: от профессиональных писателей и художников до армий разметчиков данных, модераторов контента и складских рабочих.
*Meta признана экстремистcкой организацией в России. Facebook, продукт компании Meta, которая признана экстремистской организацией в России.
