БРАЙТОН – Искусственный разум уже сейчас играет важную роль в экономике и человеческом обществе, а в последующие годы эта роль будет только повышаться. Размышлять о будущем искусственного разума, значит, признавать, что будущее – это и есть искусственный разум.
Частично это будет вызвано достижениями в сфере «глубинного обучения» с использованием многослойных нейронных сетей, идея которых была впервые высказана в 1980-х годах. Поскольку сегодня мощность и память компьютеров возросли, глубинное обучение стало практически осуществимым. В 2016 году программа глубинного обучения привлекла всемирное внимание, выиграв у мирового чемпиона в игру го. Как коммерческие предприятия, так и правительства рассчитывают на использование этой технологии для обработки «больших данных» любого рода и получения полезных выводов.
В 2011 году ещё одной вехой в истории искусственного разума стал компьютер Watson фирмы IBM, победивший двух чемпионов телевизионной игры Jeopardy! («Своя игра»), которая сочетает необходимость общих знаний с нестандартным мышлением. Другое важное направление – зарождающийся «интернет вещей», который будет расти по мере того, как всё больше гаджетов, домашних приборов, надеваемых устройств и сенсоров в общественных местах подключаются к интернету и начинают круглосуточно передавать сообщения. «Большой брат» не будет следить за вами; но триллионы маленьких братьев вполне могут этим заняться.
Помимо этих инноваций, мы можем ожидать многократного роста так называемых «экспертных систем»: это программы искусственного разума, которые будут помогать профессионалам различных специальностей (или даже заменять их). Кроме того, роботы смогут выполнять задачи, которые раньше нельзя было автоматизировать. На складах уже сейчас они могут выполнять практически любые функции, которые раньше поручались людям.
Неудивительно, что на фоне этих тенденций часть экспертов прогнозирует наступление момента, известного как «сингулярность», когда системы искусственного разума, улучшая сами себя, в конце концов, превзойдут разум человека. В этот момент, будет ли это в 2030 году или в конце нынешнего столетия, роботы по-настоящему победят, а искусственный разум сделает войны, бедность, болезни и даже смерть уделом прошлого.
На всё это я говорю: мечтать не вредно. Всеобщий искусственный разум (AGI) остаётся призрачной мечтой. Его просто слишком сложно создать. И хотя когда-нибудь это станет возможным, это, несомненно, не случится в обозримом будущем.
Don’t go back to school without Project Syndicate! For a limited time, we’re offering PS Digital subscriptions for just $50.
Access every new PS commentary, our suite of subscriber-exclusive content, and the full PS archive.
Subscribe Now
Впрочем, важные достижения всё-таки виднеются на горизонте, и многие из них дают нам надежду на будущее. Например, благодаря искусственному разуму качественные юридические советы станут доступны намного большему числу людей, причём по очень низкой цене. Искусственный разум поможет нам справиться с неизлечимыми пока что болезнями, а также повысить доступность качественных врачебных консультаций без привлечения медицинских специалистов.
В других областях нам следует быть благоразумно пессимистичными по поводу будущего (которое может выглядеть как антиутопия). Для армии, частной жизни и занятости последствия использования искусственного разума выглядят тревожными. Автоматизированное оружие уже существует, а со временем оно сможет автономно выбирать цели. В распоряжении правительств и транснациональных корпораций появляется множество «больших данных», поэтому наша персональная информация всё чаще перестаёт быть конфиденциальной. Искусственный разум будет выполнять всё больше рутинной работы, поэтому многие профессионалы потеряют навыки и работу. Сама природа труда изменится, и нам, возможно, придётся задуматься о введении «всеобщего базового дохода», при условии, конечно, что ещё сохранится достаточная налоговая база, чтобы его выплачивать.
Другое, но не менее тревожное следствие развития искусственного разума: он может стать заменителем межчеловеческих отношений. Вот банальный пример: вспомните, как бывает трудно дозвониться до реального человека, когда вас переключают из одного автоматического меню в другое. Иногда это раздражает просто потому, что вы не в состоянии получить нужный вам ответ без вмешательства человеческого интеллекта. Но это может расстраивать и эмоционально, поскольку вам не дают возможность поделиться своими чувствами с другим человеком, который мог бы их понять или даже разделить.
Другие примеры менее тривиальны, и меня особенно тревожит перспектива использованием компьютеров в качестве «сиделок» или «компаньонов» для престарелых людей. Да, конечно, системы искусственного разума, связанные с интернетом и оснащённые персонализированными программами, могут информировать и развлекать одиноких людей, а также отслеживать состояние их здоровья и в случае необходимости предупреждать врачей или членов семьи. Домашние роботы могут быть очень полезны, например, доставать еду из холодильника и выполнять другую домашнюю работу. Но смогут ли системы искусственного разума обеспечить подлинную заботу и дружеские отношения – это совершенно другой вопрос.
Те, кто считает, что это возможно, предполагают, что системы обработки естественного языкового общения справятся с данной задачей. Но в эту «задача» будут входить и крайне эмоциональные беседы, связанные с личными воспоминаниями человека. Хотя искусственный разум может и будет способен распознать ограниченный спектр эмоций на основании используемых человеком слов, его интонациях, паузах и выражении лица, он никогда не сможет по-человечески на них отреагировать. Он может сказать «Я грущу вместе с вами по этому поводу» или «Как же это было чудесно!». Но любая такая фраза будет совершенно бессмысленной. Человека, потерявшего рассудок, такие слова могут «утешить», но какой ценой для его человеческого достоинства?
Альтернативой является, конечно, сохранение людьми их нынешней роли. Вместо того чтобы заменять людей, роботы могут стать их помощниками. Сегодня деятельность, связанная с физической и эмоциональной заботой о людях, не получает достаточной оценки. В идеале такая работа будет пользоваться в будущем большим уважением и лучше оплачиваться.
Впрочем, это всё, наверное, бесплодные мечтания. Так или иначе, будущее искусственного разума – наше будущее – является светлым. Но чем светлее оно становится, тем больше оно отбрасывает теней.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
Increasingly severe water shortages represent a human-made crisis that can be resolved through human interventions. The situation demands new thinking about the economics of this critical resource and how to manage it through mission-oriented strategies that span all levels of governance.
call attention to a global problem that demands far more attention from policymakers at all levels.
Although Kamala Harris is largely aligned with Joe Biden on many global and strategic issues, her unique worldview promises a distinct form of leadership on the international stage. Not only would US foreign policy shift under a Harris administration; it could change in highly consequential ways.
considers how the Democratic presidential nominees' views compare to Joe Biden's.
БРАЙТОН – Искусственный разум уже сейчас играет важную роль в экономике и человеческом обществе, а в последующие годы эта роль будет только повышаться. Размышлять о будущем искусственного разума, значит, признавать, что будущее – это и есть искусственный разум.
Частично это будет вызвано достижениями в сфере «глубинного обучения» с использованием многослойных нейронных сетей, идея которых была впервые высказана в 1980-х годах. Поскольку сегодня мощность и память компьютеров возросли, глубинное обучение стало практически осуществимым. В 2016 году программа глубинного обучения привлекла всемирное внимание, выиграв у мирового чемпиона в игру го. Как коммерческие предприятия, так и правительства рассчитывают на использование этой технологии для обработки «больших данных» любого рода и получения полезных выводов.
В 2011 году ещё одной вехой в истории искусственного разума стал компьютер Watson фирмы IBM, победивший двух чемпионов телевизионной игры Jeopardy! («Своя игра»), которая сочетает необходимость общих знаний с нестандартным мышлением. Другое важное направление – зарождающийся «интернет вещей», который будет расти по мере того, как всё больше гаджетов, домашних приборов, надеваемых устройств и сенсоров в общественных местах подключаются к интернету и начинают круглосуточно передавать сообщения. «Большой брат» не будет следить за вами; но триллионы маленьких братьев вполне могут этим заняться.
Помимо этих инноваций, мы можем ожидать многократного роста так называемых «экспертных систем»: это программы искусственного разума, которые будут помогать профессионалам различных специальностей (или даже заменять их). Кроме того, роботы смогут выполнять задачи, которые раньше нельзя было автоматизировать. На складах уже сейчас они могут выполнять практически любые функции, которые раньше поручались людям.
Неудивительно, что на фоне этих тенденций часть экспертов прогнозирует наступление момента, известного как «сингулярность», когда системы искусственного разума, улучшая сами себя, в конце концов, превзойдут разум человека. В этот момент, будет ли это в 2030 году или в конце нынешнего столетия, роботы по-настоящему победят, а искусственный разум сделает войны, бедность, болезни и даже смерть уделом прошлого.
На всё это я говорю: мечтать не вредно. Всеобщий искусственный разум (AGI) остаётся призрачной мечтой. Его просто слишком сложно создать. И хотя когда-нибудь это станет возможным, это, несомненно, не случится в обозримом будущем.
Don’t go back to school without Project Syndicate! For a limited time, we’re offering PS Digital subscriptions for just $50.
Access every new PS commentary, our suite of subscriber-exclusive content, and the full PS archive.
Subscribe Now
Впрочем, важные достижения всё-таки виднеются на горизонте, и многие из них дают нам надежду на будущее. Например, благодаря искусственному разуму качественные юридические советы станут доступны намного большему числу людей, причём по очень низкой цене. Искусственный разум поможет нам справиться с неизлечимыми пока что болезнями, а также повысить доступность качественных врачебных консультаций без привлечения медицинских специалистов.
В других областях нам следует быть благоразумно пессимистичными по поводу будущего (которое может выглядеть как антиутопия). Для армии, частной жизни и занятости последствия использования искусственного разума выглядят тревожными. Автоматизированное оружие уже существует, а со временем оно сможет автономно выбирать цели. В распоряжении правительств и транснациональных корпораций появляется множество «больших данных», поэтому наша персональная информация всё чаще перестаёт быть конфиденциальной. Искусственный разум будет выполнять всё больше рутинной работы, поэтому многие профессионалы потеряют навыки и работу. Сама природа труда изменится, и нам, возможно, придётся задуматься о введении «всеобщего базового дохода», при условии, конечно, что ещё сохранится достаточная налоговая база, чтобы его выплачивать.
Другое, но не менее тревожное следствие развития искусственного разума: он может стать заменителем межчеловеческих отношений. Вот банальный пример: вспомните, как бывает трудно дозвониться до реального человека, когда вас переключают из одного автоматического меню в другое. Иногда это раздражает просто потому, что вы не в состоянии получить нужный вам ответ без вмешательства человеческого интеллекта. Но это может расстраивать и эмоционально, поскольку вам не дают возможность поделиться своими чувствами с другим человеком, который мог бы их понять или даже разделить.
Другие примеры менее тривиальны, и меня особенно тревожит перспектива использованием компьютеров в качестве «сиделок» или «компаньонов» для престарелых людей. Да, конечно, системы искусственного разума, связанные с интернетом и оснащённые персонализированными программами, могут информировать и развлекать одиноких людей, а также отслеживать состояние их здоровья и в случае необходимости предупреждать врачей или членов семьи. Домашние роботы могут быть очень полезны, например, доставать еду из холодильника и выполнять другую домашнюю работу. Но смогут ли системы искусственного разума обеспечить подлинную заботу и дружеские отношения – это совершенно другой вопрос.
Те, кто считает, что это возможно, предполагают, что системы обработки естественного языкового общения справятся с данной задачей. Но в эту «задача» будут входить и крайне эмоциональные беседы, связанные с личными воспоминаниями человека. Хотя искусственный разум может и будет способен распознать ограниченный спектр эмоций на основании используемых человеком слов, его интонациях, паузах и выражении лица, он никогда не сможет по-человечески на них отреагировать. Он может сказать «Я грущу вместе с вами по этому поводу» или «Как же это было чудесно!». Но любая такая фраза будет совершенно бессмысленной. Человека, потерявшего рассудок, такие слова могут «утешить», но какой ценой для его человеческого достоинства?
Альтернативой является, конечно, сохранение людьми их нынешней роли. Вместо того чтобы заменять людей, роботы могут стать их помощниками. Сегодня деятельность, связанная с физической и эмоциональной заботой о людях, не получает достаточной оценки. В идеале такая работа будет пользоваться в будущем большим уважением и лучше оплачиваться.
Впрочем, это всё, наверное, бесплодные мечтания. Так или иначе, будущее искусственного разума – наше будущее – является светлым. Но чем светлее оно становится, тем больше оно отбрасывает теней.