Государство строгого режима. Внутри китайской цифровой антиутопии - Джеффри Кейн

внесла существенный вклад в развитие проектов „Безопасного города“ в Синьцзяне», – отмечали представители самой компании в пресс-релизе 2015 года.

«В 2014 году Infinova реализовала проект по эксплуатации и обслуживанию интернет-протоколов для защиты систем „Безопасного города“ на всей территории автономного района Синьцзян».

«Мы используем для распознавания лиц их программное обеспечение, но наши собственные камеры видеонаблюдения, – рассказывал BuzzFeed Фред Чжан, бывший менеджер Infinova, о проекте в Шанхае. – Мы распознаем лицо и фиксируем изображение, а SenseTime помогает нам сопоставлять изображения в базе данных».

К 2015 году, наблюдая за новым взлетом Microsoft, Megvii и SenseTime, китайское правительство решило поучаствовать в процессе, надеясь превратить эти стартапы в национальных лидеров в области технологий. Власти создали для стартапов венчурный фонд размером 6,5 млрд долларов, причем бóльшая часть финансирования поступала из частных источников. Доля частного венчурного капитала, ранее нехарактерного для плановой коммунистической экономики, достигла беспрецедентной величины. В январе 2015 года газета Financial Times доложила о стремительном расширении китайской индустрии частных капиталовложений и хедж-фондов: 3100 хедж-фондов контролировали почти 56 млрд долларов, а еще 2500 компаний по управлению частным капиталом – 172,5 млрд долларов.

Китай примерял новый образ: технологически развитое, доброжелательное государство, жаждущее продемонстрировать свою растущую мощь народу и компаниям.

[ ]

В этой новой маске Си Цзиньпин обратился к США, посулив перемирие в технологических войнах.

В сентябре 2015 года президент Барак Обама и председатель Си объявили о достижении договоренности об ограничении кибершпионажа между своими странами. Обама сказал Си, что китайские кибератаки, нацеленные на похищение коммерческих тайн, «должны прекратиться».

«Мы договорились, что ни правительство США, ни правительство Китая не будут осуществлять или осознанно поддерживать киберворовство интеллектуальной собственности, включая коммерческие тайны или другую конфиденциальную деловую информацию, с целью получения коммерческой выгоды», – объявил Обама на лужайке Белого дома.

Китайская кампания взломов, направленная на похищение американских корпоративных технологий, поутихла, хотя многие бывшие представители органов власти США рассказывали мне, что регулярные попытки хакерских атак на базы данных спецслужб не прекратились. Это было временное перемирие. Пауза.

[ ]

В октябре 2015 года, через месяц после заключения сделки с США по вопросам информационной безопасности, Ирфан находился в своем офисе рядом с центром управления системой видеонаблюдения, когда пришел засекреченный правительственный приказ, мотивированный законом о национальной безопасности. «Все сообщения в WeChat на территории Синьцзяна теперь должны были храниться на государственных серверах в течение двух лет», – рассказывал он.

До этого момента, с апреля 2013‐го по август 2015 года, офис Ирфана собирал метаданные из WeChat – имена пользователей, обменивавшихся сообщениями, время и дату этих сообщений, продолжительность телефонных разговоров. Отслеживался источник и адресат каждого сообщения, но не его содержание. Из метаданных можно было извлечь огромное количество информации о социальных контактах пользователей. Но теперь офис Ирфана получил указание сделать следующий шаг в сборе данных: влезть в сами сообщения.

«Программное обеспечение ИИ сканировало все, – говорил он. – Оно находило взаимосвязи, которых мы могли не заметить. Даже выискивало сообщения, содержащие такие слова, как „бомба“ и „оружие“. У человека не было времени, чтобы заниматься этим, а вот программное обеспечение ИИ справлялось».

Казалось, что некогда неэффективный надзорный аппарат зажил новой жизнью. Ирфан думал, что эта система научилась мыслить, видеть, воспринимать и понимать, хотя на самом деле до обретения полноценного разума было еще бесконечно далеко. Технология не могла продемонстрировать общий интеллект и умела действовать лишь в одной заранее запрограммированной области. Она умела выполнять только одну задачу: анализировать сообщения пользователей WeChat, выстраивая корреляции между использованием ключевых слов, таких как «Коран», «террорист» и прочих фраз, связанных с религией или насилием.

При поддержке искусственного интеллекта совершенствующая надзорная система начала сообщать случайную личную информацию пользователей сотрудникам службы наблюдения в диспетчерской.

Девушка слишком часто ходит в кино. У молодого отца могут быть проблемы с алкоголем. Мужчина проявил склонность к воровству, что следует из его текстовых сообщений. Другие подозревались в терроризме.

«Мы не понимали, каким образом ИИ приходил к своим выводам, – признавался Ирфан. – Многие из них были произвольными и вызывали у нас тревогу. Я понятия не имел, действительно ли люди, которых ИИ в чем-то подозревал, этого заслуживали».

«Как только мы стали свидетелями слияния больших данных и искусственного интеллекта, все сразу изменилось. Я получил указание от руководства перейти в другой отдел. Коллеги не хотели видеть меня в команде. Они были ханьцами, а я – одним из [немногих] уйгуров в офисе. Мне было не по себе. Сотрудники-ханьцы, возможно, думали, что я буду сливать информацию, чтобы помочь своим собратьям-уйгурам», – рассказывает Ирфан. К осени 2015 года, когда был принят Закон о национальной безопасности, все его попытки поприветствовать давних коллег или заговорить на общих собраниях начали демонстративно игнорироваться.

Люди избегали зрительного контакта и не хотели, чтобы их видели рядом с ним. «Потом они перестали пускать меня в особо важные помещения – предлагали подождать снаружи», – вспоминает Ирфан.

В конце концов он был снят с должности и нашел себе место скромного пропагандиста на одном из телеканалов: «На работе я занимался трансляцией роликов о счастливой жизни уйгуров по государственному телевидению. Начальство даже хотело распространить свои пропагандистские фильмы по всему миру, но этого так и не случилось».

Хотя Ирфан больше не имел доступа к секретному закулисью надзорного аппарата, у него было мало оснований полагать, что правительство остановит свой проект массового сбора данных. Но каким еще образом власти могут следить, надзирать и отделять меньшинство от большинства? Поиск новых способов, выходящих за узкие рамки социальных сетей и мессенджеров, был неизбежен.

Глава 11

Насколько вы благонадежны?

Но политика – это не детский сад, в политике исполнительность и поддержка – это одно и то же.

Ханна Арендт «Эйхман в Иерусалиме. Банальность зла»[19]

В 2015 и 2016 годах Майсем возвращалась в Турцию, чтобы продолжить учебу в магистратуре, длившуюся дольше обычных двух лет, поскольку девушка совмещала ее с подработкой. Она не особенно следила за происходящим дома, лишь изредка улавливая случайные новости в групповом чате своих друзей в WeChat.

В июне 2016 года она приехала в Кашгар на летние каникулы. Однажды утром, сидя дома с гриппом, Майсем услышала стук в дверь. За дверью стояла женщина, которую она называла госпожа Гер.

«Соседи кое-что сообщили о тебе», – объявила госпожа Гер.

Майсем знала, что, когда о тебе что-то «сообщают» – пользуясь формулировкой госпожи Гер, – это не очень хорошо.

«Соседи сказали, что сегодня в 9 утра ты не выходила на прогулку, – добавила она. – Есть какие-то причины для изменения режима?» Госпожа Гер выглядела обеспокоенной, ведь в последнее время Майсем вела себя странно: не выходила из дома в привычное время, не следовала распорядку дня, не делала то, что ей полагалось.

«У меня грипп. Я сижу дома».

«Можешь предоставить справку, что у тебя грипп?»

«У меня температура».

Майсем знала, что ей нужно взять документ у врача. С неохотой она согласилась раздобыть нужную госпоже Гер справку, в тот же день сходила к доктору и передала документ представителю полиции.

Домохозяйства в Синьцзяне были разбиты на блоки по десять домов, их жители должны были следить друг за другом, за приходящими и уходящими гостями, а также за повседневными занятиями друзей и членов семьи. Этот порядок основывался на системе баоцзя, принятой в феодальном Китае, когда ответственность за соблюдение законов и сбор налогов возлагалась на сами жилые сообщества.

Госпожу Гер – вежливую женщину, которая каждый вечер стучалась в дверь, – недавно назначили старшей по блоку из десяти домов. Она просила членов семьи Майсем отчитываться, что они делали в течение дня, а также предупреждать ее, если они заметят что-нибудь необычное в поведении соседей.

Вопросы госпожи Гер были вторжением в личную жизнь, но семья Майсем считала, что она просто делает свою работу.

Закончив свой ежедневный опрос, госпожа Гер записывала ответы и передавала их властям. Через несколько недель, в начале июля 2016 года, она стала сканировать QR-код, содержащий личную информацию о семье, который разместили