Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Чем больше решений мы оставляем машинам, тем сложнее становится вернуть контроль в свои руки. В мире, где беспилотные автомобили стали нормой, в результате чего дорожный травматизм сократился почти до нуля, человек, желающий сам вести автомобиль, будет считаться безответственным, возможно даже преступником. Станет ли нежелательным делать вложения в предприятия, которые не укладываются в статистически определяемые рекомендации? Обучать детей такими методами, в отношении которых установлено, что они ведут к снижению средней продолжительности жизни или среднего дохода? Если да, то будут ли ценности, которые плохо поддаются машинной репрезентации, к примеру «достаток», заменяться чем-то, что коррелирует с определенными количественными показателями, такими как уровень серотонина и дофамина? Легко упустить из виду скрытый авторитаризм, скрывающийся за такой интерпретацией ценности, однако любое общество, стремящееся к хорошим результатам, должно определиться с мерой добра — и эта задача будет тяготеть над нами, пока у нас не появятся мыслящие машины и не помогут нам ее как следует обдумать.

Что искусственные интеллекты будут думать о нас?

Грегори Пол

Независимый исследователь; автор «Принстонского справочника-определителя динозавров» (The Princeton Field Guide to Dinosaurs).

В этом тексте я исхожу из того, что обладающие сознанием разумы функционируют в соответствии с законами физики и способны действовать на субстратах, отличных от нервной ткани, находящейся у нас между ушами, и что, следовательно, могут быть созданы сознательные искусственные аппараты, которые станут еще более сознательными и разумными, чем люди, и что тогда, соответственно, человеческий мозг станет пережитком прошлого, неспособным конкурировать с новыми психическими сверхмощностями.

Данная конкретная мыслящая биомашина, относящаяся к отряду приматов, думает, что развитие искусственных сверхразумов — хорошая идея. Хоть у нашего вида и есть положительные черты, Homo sapiens определенно является весьма ограниченной, неудачно сконструированной (силами биологической эволюции) системой, наносящей тяжелый урон родной маленькой планете, несмотря на то что планета наносит столь же тяжелый урон в ответ: например, болезни убили около половины из примерно 100 миллиардов детей, рожденных до настоящего момента. Попытки навсегда сохранить человеческие существа в том виде, в котором они существуют сейчас, — это природоохранный проект, бросающий вызов эволюционным процессам, в рамках которых виды постоянно появляются и исчезают, сменяя друг друга. Нет никаких априорных доводов в пользу предположения, что мы уникальные, что заслуживаем особой защиты, тем более если наши преемники способны на сознательное и самосознательное мышление.

Но, по правде говоря, то, что мы думаем по этому поводу, не так уж важно; человечество на самом деле не контролирует ситуацию. Давным-давно — в 1901 году, когда родилась моя бабушка, — построить летающую машину было так сложно, что это не удавалось сделать никому. Теперь же необходимые технологии настолько доступны, что вы можете построить самолет у себя в гараже. Давным-давно — незадолго до моего рождения — мы не разбирались в структуре ДНК. Теперь же ученики начальной школы проводят эксперименты с ДНК. Пока технологий, необходимых для создания небиологического сознательного разума, нет. В определенный момент широко распространенные технологии обработки информации, вероятно, станут настолько сложными, что создание мыслящих машин будет не такой уж сложной задачей. Многие люди захотят создать кибернетический разум и/или стать им, невзирая на мнение остальных и на законы и правила, которые могут принять правительства в тщетных усилиях предотвратить такое развитие событий.

В конце концов, вся эта модная болтовня про кибернетическую революцию, часто называемую сингулярностью, настолько же безосновательна и категорична, что совсем не отличается от совершенно бесполезных споров, которые велись в 1800-х годах по поводу осуществимости, целесообразности и значения строительства механических летательных аппаратов. Что бы мы сейчас ни говорили, это не будет иметь особого значения, потому что если технология не появится, то сверхразумы не станут ни проблемой, ни преимуществом; а если технология появится, то, так или иначе, будут разработаны новые мыслящие машины, и они заберут планету себе, нравится нам это или нет.