БЕРЛИН – Всего через несколько недель после регистрации первых случаев Covid-19 за пределами Китая в Южной Корее была запущена система публикации данных о людях (без имён, но с информацией об их предыдущих передвижениях), чей тест на болезнь оказался позитивным. А затем и другие страны Азии и Европы быстро разработали собственные системы отслеживания контактов больных; их успешность варьируется, равно как и озабоченность, которую вызывают сопутствующие этические проблемы.
Этот мощный порыв понятен: если уже существующие системы способны спасти тысячи жизней, почему бы тогда государствам не воспользоваться ими? Однако, стараясь как можно быстрее победить пандемию, общество уделяет мало внимания тому, что подобные схемы, как выясняется, можно ввести практически за день; и оно не задумывается над вопросом, что нас ждёт в дальнейшем.
Нет, конечно, южнокорейская система отслеживания заболевших уже спровоцировала серьёзные дебаты. Изначально это произошло потому, что эта система перешла этические границы, рассылая текстовые сообщения о передвижении лиц, у которых позднее был обнаружен Covid-19, жителям близлежащих районов. В них сообщалось, например, о посещениях заболевшими караоке-баров, гостиниц на час и гей-клубов.
Однако южнокорейская система выделяется ещё и тем, что она соединяет данные геолокации мобильных телефонов с данными о поездках и состоянии здоровья, а также с записями полицейских камер наружного наблюдения и данными десятков компаний кредитных карт. Вся эта информация затем анализируется специальными «клиринговыми домам» данных, которые изначально создавались для проекта умных городов. Эта система, освобождённая от бюрократических барьеров согласования, как сообщается, позволила сократить время отслеживания контактов с одного дня до всего лишь десяти минут.
Сторонники цифровой конфиденциальности и безопасности уже много лет предупреждают о возможности соединения различных источников данных – частных и государственных. Но пандемия впервые показала, насколько быстро можно при желании централизовать и объединить подобные потоки данных, причём не только в Южной Корее, но и во всём мире.
Неудобная правда заключается в том, что мы уже давно начали строить глобальную инфраструктуру для сбора глубоко личных данных о поведении. Шошана Зубофф относит рождение этого «шпионящего капитализма» к периоду после терактов 11 сентября 2001 года в США, когда были расширены полномочия органов госбезопасности.
Бизнес-модели, опирающиеся на обработку данных, обеспечивают работу ключевых элементов этой инфраструктуры: смартфоны, сенсоры, камеры, электронные деньги, биометрические данные, машинное обучение. Их удобство и эффективность (их обещание делать больше с меньшими затратами) покорили как индивидуальных пользователей, так и бизнес. Мы быстро и с энтузиазмом приняли цифровые технологии, однако не успели подумать (и для этого не было особого повода) о последствиях, возникающих, когда все эти точки соединяются.
СМИ часто называют технологические инициативы, связанные с пандемией, «передовыми», однако в реальности в них практически нет ничего нового, за исключением, пожалуй, того факта, что они стали намного более заметны. Отслеживание передвижений людей на индивидуальном и глобальном уровнях – это основа бизнеса многих и уже давно существующих компаний. Например, отчёты Google о мобильности людей в период Covid-19 содержат поразительное количество данных на уровне пользователей, городов и стран, показывая, кто сидит дома, а кто ходит на работу, и как эти модели поведения меняются в условиях карантина.
То же самое касается данных о том, что мы покупаем, и о том, как мы действуем, индивидуально или в группах. Отслеживание индивидуальных моделей поведения в крупных масштабах является настолько важным для автоматических процессов, что введённый из-за пандемии карантин для четырёх с лишним миллиардов человек вызвал замешательство у искусственного интеллекта и моделей машинного обучения, что привело к сбоям в работе алгоритмов, выявляющих случаи мошенничества, и ошибкам в системах управления производственными цепочками.
Такая внезапная публичность поведенческих данных могла бы помочь пробуждению общества. Точно так же откровения Эдварда Сноудена позволили людям узнать, что во имя борьбы с терроризмом ведётся слежка за их звонками в Skype и электронной почтой, а скандал с Cambridge Analytica в Великобритании показал, что персональные данные продаются и используются для политического микротаргетирования.
В частности, кризис Covid-19 мог бы продемонстрировать, что поведенческие данные рассказывают о наших действиях в течение каждой минуты, и помочь осознать, почему это важно. Однако вместо этого мы смирились с этими технологиями, полагая, что, по крайней мере в ходе нынешнего кризиса, они в целом служат делу добра (хотя мы и игнорируем вопрос об их эффективности).
Впрочем, сейчас, когда границы между здоровьем отдельных людей и общества в целом оказались навсегда размыты, мы можем иначе воспринимать компромиссы, которые нас просят принять. Мы можем стать менее терпимыми к отслеживанию поведения, если образ жизни людей и их поступки начнут постоянно мониторить во имя коллективного блага. Потенциальные технологии, которые способны помочь нам в постпандемическом будущем (от инструментов надзора на рабочих местах до постоянных цифровых паспортов здоровья), подвергнут серьёзному испытанию наши системы ценностей. Всё это может привести к сильным разногласиям, культурным и политическим, по вопросу о том, какие именно технологии должны применяться, а какие нет.
Тему этих дебатов легко свести к вопросу о слежке и конфиденциальности. Но речь идёт не только об этом важной проблеме. Масштабный сбор интимных поведенческих данных не только усиливает крупный бизнес, но и делает возможным прогнозное моделирование, работу систем раннего предупреждения, а также национальных и глобальных систем контроля и охраны правопорядка. Наше будущее, скорее всего, будет характеризоваться кризисами – от природных катастроф до голода и пандемий. Цифровые технологии, данные о поведении людей и алгоритмы, принимающие решения, будут играть всё более важную роль в прогнозировании, смягчении и преодолении этих кризисов.
Именно поэтому перед обществом возникают трудные вопросы: как справляться с различными проблемами, которые приводят к нарушению гражданских свобод, и с опасной предвзятостью, дискриминацией и неравенством, которые выявляют технологии сбора данных. Мы должны будем решить, кто именно владеет данными о поведении людей, и как их использовать в общественных интересах. И мы должны будем понять, что от ответа на вопросы, кто принимает решения на основе этих данных, какие принимаются решения, и какие политические идеи их мотивируют, зависит формирование новых форм власти, которые серьёзно повлияют на нашу жизнь.
Поскольку мы всё сильнее полагаемся на большие данные для решения крупнейших проблем, самый важный вопрос, стоящий перед нами, заключается не в том, что мы можем с ними делать, а скорее в том, что мы добровольно готовы с ними сделать. И если мы не зададимся этим вопросом, тогда ответ на него даст кто-нибудь за нас.
БЕРЛИН – Всего через несколько недель после регистрации первых случаев Covid-19 за пределами Китая в Южной Корее была запущена система публикации данных о людях (без имён, но с информацией об их предыдущих передвижениях), чей тест на болезнь оказался позитивным. А затем и другие страны Азии и Европы быстро разработали собственные системы отслеживания контактов больных; их успешность варьируется, равно как и озабоченность, которую вызывают сопутствующие этические проблемы.
Этот мощный порыв понятен: если уже существующие системы способны спасти тысячи жизней, почему бы тогда государствам не воспользоваться ими? Однако, стараясь как можно быстрее победить пандемию, общество уделяет мало внимания тому, что подобные схемы, как выясняется, можно ввести практически за день; и оно не задумывается над вопросом, что нас ждёт в дальнейшем.
Нет, конечно, южнокорейская система отслеживания заболевших уже спровоцировала серьёзные дебаты. Изначально это произошло потому, что эта система перешла этические границы, рассылая текстовые сообщения о передвижении лиц, у которых позднее был обнаружен Covid-19, жителям близлежащих районов. В них сообщалось, например, о посещениях заболевшими караоке-баров, гостиниц на час и гей-клубов.
Однако южнокорейская система выделяется ещё и тем, что она соединяет данные геолокации мобильных телефонов с данными о поездках и состоянии здоровья, а также с записями полицейских камер наружного наблюдения и данными десятков компаний кредитных карт. Вся эта информация затем анализируется специальными «клиринговыми домам» данных, которые изначально создавались для проекта умных городов. Эта система, освобождённая от бюрократических барьеров согласования, как сообщается, позволила сократить время отслеживания контактов с одного дня до всего лишь десяти минут.
Сторонники цифровой конфиденциальности и безопасности уже много лет предупреждают о возможности соединения различных источников данных – частных и государственных. Но пандемия впервые показала, насколько быстро можно при желании централизовать и объединить подобные потоки данных, причём не только в Южной Корее, но и во всём мире.
Неудобная правда заключается в том, что мы уже давно начали строить глобальную инфраструктуру для сбора глубоко личных данных о поведении. Шошана Зубофф относит рождение этого «шпионящего капитализма» к периоду после терактов 11 сентября 2001 года в США, когда были расширены полномочия органов госбезопасности.
BLACK FRIDAY SALE: Subscribe for as little as $34.99
Subscribe now to gain access to insights and analyses from the world’s leading thinkers – starting at just $34.99 for your first year.
Subscribe Now
Бизнес-модели, опирающиеся на обработку данных, обеспечивают работу ключевых элементов этой инфраструктуры: смартфоны, сенсоры, камеры, электронные деньги, биометрические данные, машинное обучение. Их удобство и эффективность (их обещание делать больше с меньшими затратами) покорили как индивидуальных пользователей, так и бизнес. Мы быстро и с энтузиазмом приняли цифровые технологии, однако не успели подумать (и для этого не было особого повода) о последствиях, возникающих, когда все эти точки соединяются.
СМИ часто называют технологические инициативы, связанные с пандемией, «передовыми», однако в реальности в них практически нет ничего нового, за исключением, пожалуй, того факта, что они стали намного более заметны. Отслеживание передвижений людей на индивидуальном и глобальном уровнях – это основа бизнеса многих и уже давно существующих компаний. Например, отчёты Google о мобильности людей в период Covid-19 содержат поразительное количество данных на уровне пользователей, городов и стран, показывая, кто сидит дома, а кто ходит на работу, и как эти модели поведения меняются в условиях карантина.
То же самое касается данных о том, что мы покупаем, и о том, как мы действуем, индивидуально или в группах. Отслеживание индивидуальных моделей поведения в крупных масштабах является настолько важным для автоматических процессов, что введённый из-за пандемии карантин для четырёх с лишним миллиардов человек вызвал замешательство у искусственного интеллекта и моделей машинного обучения, что привело к сбоям в работе алгоритмов, выявляющих случаи мошенничества, и ошибкам в системах управления производственными цепочками.
Такая внезапная публичность поведенческих данных могла бы помочь пробуждению общества. Точно так же откровения Эдварда Сноудена позволили людям узнать, что во имя борьбы с терроризмом ведётся слежка за их звонками в Skype и электронной почтой, а скандал с Cambridge Analytica в Великобритании показал, что персональные данные продаются и используются для политического микротаргетирования.
В частности, кризис Covid-19 мог бы продемонстрировать, что поведенческие данные рассказывают о наших действиях в течение каждой минуты, и помочь осознать, почему это важно. Однако вместо этого мы смирились с этими технологиями, полагая, что, по крайней мере в ходе нынешнего кризиса, они в целом служат делу добра (хотя мы и игнорируем вопрос об их эффективности).
Впрочем, сейчас, когда границы между здоровьем отдельных людей и общества в целом оказались навсегда размыты, мы можем иначе воспринимать компромиссы, которые нас просят принять. Мы можем стать менее терпимыми к отслеживанию поведения, если образ жизни людей и их поступки начнут постоянно мониторить во имя коллективного блага. Потенциальные технологии, которые способны помочь нам в постпандемическом будущем (от инструментов надзора на рабочих местах до постоянных цифровых паспортов здоровья), подвергнут серьёзному испытанию наши системы ценностей. Всё это может привести к сильным разногласиям, культурным и политическим, по вопросу о том, какие именно технологии должны применяться, а какие нет.
Тему этих дебатов легко свести к вопросу о слежке и конфиденциальности. Но речь идёт не только об этом важной проблеме. Масштабный сбор интимных поведенческих данных не только усиливает крупный бизнес, но и делает возможным прогнозное моделирование, работу систем раннего предупреждения, а также национальных и глобальных систем контроля и охраны правопорядка. Наше будущее, скорее всего, будет характеризоваться кризисами – от природных катастроф до голода и пандемий. Цифровые технологии, данные о поведении людей и алгоритмы, принимающие решения, будут играть всё более важную роль в прогнозировании, смягчении и преодолении этих кризисов.
Именно поэтому перед обществом возникают трудные вопросы: как справляться с различными проблемами, которые приводят к нарушению гражданских свобод, и с опасной предвзятостью, дискриминацией и неравенством, которые выявляют технологии сбора данных. Мы должны будем решить, кто именно владеет данными о поведении людей, и как их использовать в общественных интересах. И мы должны будем понять, что от ответа на вопросы, кто принимает решения на основе этих данных, какие принимаются решения, и какие политические идеи их мотивируют, зависит формирование новых форм власти, которые серьёзно повлияют на нашу жизнь.
Поскольку мы всё сильнее полагаемся на большие данные для решения крупнейших проблем, самый важный вопрос, стоящий перед нами, заключается не в том, что мы можем с ними делать, а скорее в том, что мы добровольно готовы с ними сделать. И если мы не зададимся этим вопросом, тогда ответ на него даст кто-нибудь за нас.