ОКСФОРД – Искусственный разум – это новый технологический рубеж, от которого потенциально зависит будущее мирового порядка. Революция искусственного разума (ИР) способна вытащить из нищеты «миллиард, живущий на дне», и преобразить плохо работающие институты, а может закрепить несправедливость и увеличить степень неравенства. Результат будет зависеть от того, как именно мы будем управлять предстоящими переменами.
К сожалению, когда речь заходит об управлении технологическими революциями, опыт человечества оказывается в целом негативным. Взять, к примеру, Интернет. Он оказал огромное влияние на общество во всём мире, изменил наши методы общения, работы и развлечений. Он привёл к радикальным переменам в целом ряде отраслей экономики, заставил менять давно существующие бизнес-модели и привёл к появлению совершенно новых видов деятельности.
Однако Интернет не вызвал той всеобщей трансформации, которую многие ожидали. И он, конечно, не решил крупных проблем, таких как ликвидация нищеты или осуществление полёта человека на Марс. Как однажды заметил один из основателей компании PayPal Питер Тиль: «Мы хотели летающих автомобилей, а вместо этого получили 140 знаков».
Более того, Интернет в какой-то степени усугубил наши проблемы. Да, он открыл новые возможности для обычных людей, но ещё больше возможностей он открыл для наиболее богатых и могущественных. Как показало недавнее исследование учёных из Лондонской школы экономики, Интернет способствовал росту неравенства: больше всего выгод в онлайне получают образованные люди с высокими доходами, а у транснациональных корпораций появились возможности для масштабного роста, уклоняясь при этом от контроля.
Тем не менее, революция ИР всё же может принести перемены, которые нам нужны. Уже сейчас искусственный разум (речь идёт о развитии когнитивных функций машин, чтобы они могли «учиться» самостоятельно) меняет нашу жизнь. Появились беспилотные автомобили (пока ещё не летающие), виртуальные личные помощники и даже автономное оружие.
Но всё это лишь поверхностные проявления потенциала ИР, который, вероятно, приведёт к таким социальным, экономическим и политическим трансформациям, которые мы пока даже не в состоянии полностью постичь. ИР не станет какой-то новой отраслью, он проникнет во все существующие отрасли экономики и навсегда их преобразит. Искусственный разум не изменит человеческую жизнь, он изменит границы и значение человеческого бытия.
At a time when democracy is under threat, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided. Subscribe now and save $50 on a new subscription.
Subscribe Now
Как и когда произойдёт эта трансформация (и как управлять её глубинными последствиями) – это вопросы, которые заставляют учёных и политиков не спать по ночам. Ожидания от грядущей эры искусственного разума варьируются от видений рая, в котором все проблемы человечества решены, до страхов наступления антиутопии, в которой наши создания превратятся в экзистенциальную угрозу для человечества.
Как известно, предсказывать научные прорывы очень трудно. 11 сентября 1933 года известный физик-ядерщик лорд Резерфорд заявил перед большой аудиторией: «Любой, кто ищет источник энергии в трансформации атомов, бредит». На следующее утро Лео Силард выдвинул идею цепной ядерной реакции под воздействием нейтронов, а вскоре после этого он запатентовал ядерный реактор.
С одной стороны, проблема в том, что, как считают некоторые, новые технологические прорывы нельзя сравнивать с теми, что совершались в прошлом. Многие учёные, эксперты и практики согласились бы с мнением исполнительного председателя компании Alphabet Эриком Шмидтом о том, что у технологических открытий есть свои особые свойства, которые люди «не понимают» и не должны «с ними разбираться».
С другой стороны, иногда совершается противоположная ошибка: слишком сильный акцент на исторические аналогии. Среди прочих, исследователь темы технологий, писатель Евгений Морозов говорит об определённом эффекте колеи, когда современная риторика формирует наше мнение о будущем технологий, тем самым, влияя на развитие технологий. Будущие технологии, в свою очередь, могут влиять на нашу риторику, создавая своего рода замкнутый круг.
Для осмысления технологических прорывов, таких как ИР, нам надо найти баланс между этими подходами. Мы должны встать на междисциплинарную точку зрения, используя согласованные термины и единые концептуальные рамки. Кроме того, нам нужны политические решения, определяющие взаимосвязи между технологиями, управлением и этикой. Новые инициативы, например, «Партнёрство по ИР», а также фонд «Этика и управление ИР», являются шагами в правильном направлении, однако им не хватает необходимого участия со стороны государства.
В этой работе необходимо ответить на несколько фундаментальных вопросов: Что именно делает человека человеком? Является ли это стремление к сверхэффективности, как считают в Силиконовой долине? Или же это иррациональность, несовершенство и сомнения – свойства, которые недоступны любому небиологическому созданию?
Только ответив на подобные вопросы, мы сможем определить, какие именно ценности мы должны защищать и оберегать в предстоящую эру искусственного разума, занимаясь переосмыслением базовых концепций и условий наших социальных контрактов, в том числе тех национальных и международных учреждений, которые сделали возможным распространение неравенства и нестабильности. В контексте глубокой трансформации, вызванной развитием ИР, у нас появится возможность изменить статус-кво, содействуя росту безопасности и справедливости.
Одним из ключей к созданию более эгалитарного будущего являются данные. Прогресс в развитии искусственного разума зависит от доступности и анализа огромных объёмов данных о человеческой деятельности (онлайн и оффлайн) с целью выявить модели поведения, которые можно затем использовать для формирования поведения и сознания машин. Для того чтобы все люди в эпоху искусственного разума получили достаточные права, необходимо, чтобы каждый человек – а не крупные компании – владел данными, которые он создаёт.
Благодаря такому правильному подходу, мы смогли бы гарантировать, что ИР станет механизмом расширения прав людей в беспрецедентных масштабах. Множество исторических свидетельств заставляют сомневаться в вероятности такого сценария, но, возможно, здесь важно именно сомнение. Как говорил покойный социолог Зигмунт Бауман, «стремление оспаривать якобы неоспоримые принципы нашей жизни, наверное, является самой остро необходимой услугой, которой мы обязаны другим людям и самим себе».
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
At the end of a year of domestic and international upheaval, Project Syndicate commentators share their favorite books from the past 12 months. Covering a wide array of genres and disciplines, this year’s picks provide fresh perspectives on the defining challenges of our time and how to confront them.
ask Project Syndicate contributors to select the books that resonated with them the most over the past year.
ОКСФОРД – Искусственный разум – это новый технологический рубеж, от которого потенциально зависит будущее мирового порядка. Революция искусственного разума (ИР) способна вытащить из нищеты «миллиард, живущий на дне», и преобразить плохо работающие институты, а может закрепить несправедливость и увеличить степень неравенства. Результат будет зависеть от того, как именно мы будем управлять предстоящими переменами.
К сожалению, когда речь заходит об управлении технологическими революциями, опыт человечества оказывается в целом негативным. Взять, к примеру, Интернет. Он оказал огромное влияние на общество во всём мире, изменил наши методы общения, работы и развлечений. Он привёл к радикальным переменам в целом ряде отраслей экономики, заставил менять давно существующие бизнес-модели и привёл к появлению совершенно новых видов деятельности.
Однако Интернет не вызвал той всеобщей трансформации, которую многие ожидали. И он, конечно, не решил крупных проблем, таких как ликвидация нищеты или осуществление полёта человека на Марс. Как однажды заметил один из основателей компании PayPal Питер Тиль: «Мы хотели летающих автомобилей, а вместо этого получили 140 знаков».
Более того, Интернет в какой-то степени усугубил наши проблемы. Да, он открыл новые возможности для обычных людей, но ещё больше возможностей он открыл для наиболее богатых и могущественных. Как показало недавнее исследование учёных из Лондонской школы экономики, Интернет способствовал росту неравенства: больше всего выгод в онлайне получают образованные люди с высокими доходами, а у транснациональных корпораций появились возможности для масштабного роста, уклоняясь при этом от контроля.
Тем не менее, революция ИР всё же может принести перемены, которые нам нужны. Уже сейчас искусственный разум (речь идёт о развитии когнитивных функций машин, чтобы они могли «учиться» самостоятельно) меняет нашу жизнь. Появились беспилотные автомобили (пока ещё не летающие), виртуальные личные помощники и даже автономное оружие.
Но всё это лишь поверхностные проявления потенциала ИР, который, вероятно, приведёт к таким социальным, экономическим и политическим трансформациям, которые мы пока даже не в состоянии полностью постичь. ИР не станет какой-то новой отраслью, он проникнет во все существующие отрасли экономики и навсегда их преобразит. Искусственный разум не изменит человеческую жизнь, он изменит границы и значение человеческого бытия.
HOLIDAY SALE: PS for less than $0.7 per week
At a time when democracy is under threat, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided. Subscribe now and save $50 on a new subscription.
Subscribe Now
Как и когда произойдёт эта трансформация (и как управлять её глубинными последствиями) – это вопросы, которые заставляют учёных и политиков не спать по ночам. Ожидания от грядущей эры искусственного разума варьируются от видений рая, в котором все проблемы человечества решены, до страхов наступления антиутопии, в которой наши создания превратятся в экзистенциальную угрозу для человечества.
Как известно, предсказывать научные прорывы очень трудно. 11 сентября 1933 года известный физик-ядерщик лорд Резерфорд заявил перед большой аудиторией: «Любой, кто ищет источник энергии в трансформации атомов, бредит». На следующее утро Лео Силард выдвинул идею цепной ядерной реакции под воздействием нейтронов, а вскоре после этого он запатентовал ядерный реактор.
С одной стороны, проблема в том, что, как считают некоторые, новые технологические прорывы нельзя сравнивать с теми, что совершались в прошлом. Многие учёные, эксперты и практики согласились бы с мнением исполнительного председателя компании Alphabet Эриком Шмидтом о том, что у технологических открытий есть свои особые свойства, которые люди «не понимают» и не должны «с ними разбираться».
С другой стороны, иногда совершается противоположная ошибка: слишком сильный акцент на исторические аналогии. Среди прочих, исследователь темы технологий, писатель Евгений Морозов говорит об определённом эффекте колеи, когда современная риторика формирует наше мнение о будущем технологий, тем самым, влияя на развитие технологий. Будущие технологии, в свою очередь, могут влиять на нашу риторику, создавая своего рода замкнутый круг.
Для осмысления технологических прорывов, таких как ИР, нам надо найти баланс между этими подходами. Мы должны встать на междисциплинарную точку зрения, используя согласованные термины и единые концептуальные рамки. Кроме того, нам нужны политические решения, определяющие взаимосвязи между технологиями, управлением и этикой. Новые инициативы, например, «Партнёрство по ИР», а также фонд «Этика и управление ИР», являются шагами в правильном направлении, однако им не хватает необходимого участия со стороны государства.
В этой работе необходимо ответить на несколько фундаментальных вопросов: Что именно делает человека человеком? Является ли это стремление к сверхэффективности, как считают в Силиконовой долине? Или же это иррациональность, несовершенство и сомнения – свойства, которые недоступны любому небиологическому созданию?
Только ответив на подобные вопросы, мы сможем определить, какие именно ценности мы должны защищать и оберегать в предстоящую эру искусственного разума, занимаясь переосмыслением базовых концепций и условий наших социальных контрактов, в том числе тех национальных и международных учреждений, которые сделали возможным распространение неравенства и нестабильности. В контексте глубокой трансформации, вызванной развитием ИР, у нас появится возможность изменить статус-кво, содействуя росту безопасности и справедливости.
Одним из ключей к созданию более эгалитарного будущего являются данные. Прогресс в развитии искусственного разума зависит от доступности и анализа огромных объёмов данных о человеческой деятельности (онлайн и оффлайн) с целью выявить модели поведения, которые можно затем использовать для формирования поведения и сознания машин. Для того чтобы все люди в эпоху искусственного разума получили достаточные права, необходимо, чтобы каждый человек – а не крупные компании – владел данными, которые он создаёт.
Благодаря такому правильному подходу, мы смогли бы гарантировать, что ИР станет механизмом расширения прав людей в беспрецедентных масштабах. Множество исторических свидетельств заставляют сомневаться в вероятности такого сценария, но, возможно, здесь важно именно сомнение. Как говорил покойный социолог Зигмунт Бауман, «стремление оспаривать якобы неоспоримые принципы нашей жизни, наверное, является самой остро необходимой услугой, которой мы обязаны другим людям и самим себе».