2062: время машин

Мое мнение не отличается от мнения большинства моих коллег: пройдет как минимум полвека, прежде чем мы увидим человекоподобный компьютер. Учитывая, сколько для этого нужно совершить прорывов, которые тоже неизвестно, когда произойдут, это может занять даже сто или больше лет. В таком случае вам сегодня не о чем беспокоиться.

Технологическая сингулярность

Одним из поводов поверить в то, что машины вскоре догонят человека или даже превзойдут его, является привлекательная, но опасная идея технологической сингулярности. Ее история берет начало пятьдесят лет назад и обязана своим появлением нескольким людям: одному из создателей компьютера Джону фон Нейману и математику и криптографу, работавшему в Блетчли-парк, Ирвингу Дж. Гуду. В последние годы идея была популяризирована научным фантастом Верноном Винджем и футурологом Рэем Курцвейлом.

Сингулярность – это предполагаемая точка в человеческой истории, когда будет разработан компьютер с таким интеллектом, который позволит ему самостоятельно развиваться и становиться умнее с каждым днем. Идея заключается в том, что интеллект машины начнет экспоненциально увеличиваться и быстро превосходить человеческий в разы.

Как только мы достигнем технологической сингулярности, мы перестанем быть самыми умными существами на планете. Наступит действительно интересный этап истории. Некоторые боятся, что это произойдет так быстро, что мы не успеем отследить и проконтролировать развитие ИИ, что приведет к – намеренному или ненамеренному – уничтожению человеческого рода.

Сторонники этой теории – чаще философы и футурологи, чем ученые, занимающиеся ИИ, – говорят об этом так, словно сингулярность неизбежна. Для них этот факт не подлежит сомнению, вопрос лишь в том, когда это произойдет. Однако, как и большинство моих коллег, я имею веский повод сомневаться в неизбежности наступления сингулярности.

В результате полувековых исследований мы осознали, насколько сложно создать компьютер, обладающий хотя бы примитивным интеллектом. Нам не удалось разработать ни одной системы, которая могла бы сама себя улучшить. Даже самая развитая интеллектуальная система, существующая на земле, – человеческий мозг – лишь несущественно повысила собственные когнитивные способности. Нам, например, все так же тяжело выучить второй язык. То скромное представление, которое мы имеем о человеческом мозге, не очень облегчает задачу. С 1930 года наблюдается значительный постоянный рост в результатах тестирования на интеллект в разных частях света. Этот феномен носит название «эффекта Флинна» в честь новозеландского ученого Джеймса Флинна, который многое сделал для того, чтобы его понять. Объяснения феномена сосредоточены скорее на улучшении питания, здравоохранения и большем доступе к школьному образованию, чем на том, как именно мы обучаем молодых людей[29].

Существуют множественные технические причины, по которым технологическая сингулярность может и не случиться. Многие из них я рассматривал в своей предыдущей книге. Тем не менее мнение о неизбежности сингулярности все еще достаточно популярно. Учитывая важность темы – на кону судьба человеческой расы, – я снова подробно остановлюсь на этих причинах в свете последних обсуждений феномена. Кроме того, я приведу новые аргументы в защиту своей позиции.

Быстро думающая собака

Мое первое возражение против неизбежности технологической сингулярности – это идея под названием «аргумент быстро думающей собаки». Он рассматривает последствия, к которым приводит способность мыслить быстрее. Несмотря на то что скорость компьютера не меняется, скорость обработки им данных продолжает расти. Это происходит благодаря тому, что он может выполнять все больше разных задач одновременно, как человеческий мозг.

Есть предположение, что если машины научатся размышлять над проблемами дольше и интенсивнее, они в конце концов станут умнее нас. Мы, разумеется, извлекли немало пользы из возросшей мощности компьютера, смартфон – лучшее тому доказательство. Однако скорость обработки данных сама по себе не приведет к сингулярности.

Предположим, что вы бы смогли увеличить скорость работы мозга вашей собаки. Такая собака все равно не смогла бы говорить с вами, играть в шахматы или сочинять сонеты. Как минимум потому что она не владеет языком. Такая быстро думающая собака все равно осталась бы собакой. Она продолжала бы интересоваться только погонями за белками и палками. Точно так же компьютеры, обладающие большей скоростью, не являются носителями большего интеллекта.

Разум – результат множества процессов. Человеку необходимы годы практики, чтобы научиться пользоваться интуицией. Также годы нужны, чтобы освоить абстрактное мышление: научиться брать уже сложившиеся понятия и применять их к новым ситуациям. К нашему здравому смыслу мы прибавляем знания, которые помогают нам адаптироваться к непривычным обстоятельствам. Именно поэтому наш интеллект – это не просто умение быстрее размышлять над проблемой.

Переломный момент