Все под контролем: Кто и как следит за тобой

Когда человек будет отсканирован и воссоздан в нейрокомпьютере, человечество задумается: «Кто же этот человек в машине?» Ответ зависит от того, кого спросить. Если спросить человека, находящегося внутри машины, он, несомненно, заявит, что является исходной личностью, прожившей несколько жизней, помещенной в сканер и проснувшейся в компьютере. «Ого! Эта технология действительно работает. Вы должны дать ей попытку!», – скажет он. С другой стороны, исходная личность, подвергнутая клонированию, заявит, что человек внутри машины – самозванец, который просто разделяет с ней память, историю, знакомых, но на самом деле является абсолютно другим человеком.

Тем не менее это происходит, и разумные машины будут созданы в ближайшие 50 лет. А будучи созданными, они поднимут одну не известную доселе проблему. Помещенный в кремниевые пластины разум всегда должен оставаться открытой книгой. Принципиально важно, чтобы этот компьютер ничего не скрывал от своих создателей – ни одного бита данных, ни одного кусочка информации, ни одного варианта расчета. Его память должна быть открыта для просмотра. Человек должен управлять созданными им разумными машинами так же, как Бог управляет людьми.

Не станет ли разум, которому не оставлено ни капли приватности, психически больным? Не получится ли так, что соединение разума и памяти внутри компьютерных банков данных станет настолько сложным, что не сможет быть расшифровано создавшими его людьми без помощи самих разумных машин? Будут ли этичными эксперименты над искусственным разумом, например стирание некоторых участков его памяти и наблюдение за реакцией? Будет ли это действие более этичным, если после его окончания искусственный разум будет возвращен в исходное состояние?

«Аморально или незаконно причинять боль и страдание вашей компьютерной программе? – размышляет Курцвейль. – Законно ли отключать вашу компьютерную программу? Возможно, это незаконно, если вы не сделали резервную копию».

Но эти вопросы – только начало, замечает Курцвейль:

К 2040 году в соответствии с законом Мура[237] обычный серийный персональный компьютер будет в состоянии моделировать разум 10 тысяч человек, каждый из которых будет функционировать в 10 тысяч раз быстрее реального человеческого мозга. Либо он сможет реализовать модель человека с емкостью памяти в 10 тысяч раз больше обычного мозга и работающую в 100 миллионов раз быстрее. Каковы будут последствия такого развития?