Гёдель, Эшер, Бах. Эта бесконечная гирлянда

Возможный ответ Не знаю. Непонятно, сумеем ли мы понять «сверх-разум» или общаться с ним и есть ли вообще какой-нибудь смысл у этого понятия. Например, наш собственный разум связан со скоростью нашего мышления. Если бы наши рефлексы были в десять раз быстрее или медленнее, у нас могли бы развиться совершенно иные понятия о мире. У создания с радикально иным представлением о мире может просто не оказаться с нами многих точек соприкосновения. Я часто спрашиваю себя, могут ли существовать музыкальные произведения, являющиеся по отношению к Баху тем, чем Бах является по отношению к фольклорным мелодиям — так сказать, «Бах в квадрате». Смог бы я понять подобную музыку? Может быть, вокруг меня уже есть подобная музыка, но я просто ее не узнаю, точно так же, как собаки не понимают языка. Идея сверх-разума очень странна. Так или иначе, я не считаю это сегодняшней целью исследований в области ИИ (хотя, если мы когда-нибудь достигнем уровня человеческого разума, сверх-разум, несомненно, станет следующей задачей — и не только для нас, но и для наших искусственных коллег, которые будут так же, как и мы заинтересованы в проблемах ИИ и сверх-разума). Вероятно, что программы ИИ будут интересоваться общими проблемами ИИ — и это вполне понятно.

Вопрос: Вы, кажется, утверждаете, что программы ИИ будут практически неотличимы от людей. Будет ли между ними какая-нибудь разница?

Возможный ответ: Скорее всего, разница между программами ИИ и людьми будет больше, чем разница между большинством людей. Почти невозможно вообразить, что «тело», в котором будет расположена такая программа, не окажет на нее сильнейшего влияния. Так что, если только она не будет расположена в превосходной имитации человеческого тела, — а это вовсе не обязательно! — у нее, скорее всего, будут совершенно иные понятия о том, что важно, интересно и так далее. Витгенштейн однажды сделал следующее забавное замечание: «Если бы лев заговорил, мы бы его не поняли». Эта мысль напоминает мне о картине Руссо, где в залитой лунным светом пустыне изображены мирный лев и спящая цыганка. Но откуда Витгенштейн это знает? Мне кажется, что любая думающая программа ИИ, даже если мы и сможем с ней разговаривать, будет казаться нам весьма чуждой. Поэтому нам будет очень трудно понять, действительно ли перед нами разумная программа, или просто некая программа «с завихрениями».

Вопрос: Поймем ли мы, благодаря созданию разумных программ что такое интеллект, сознание, свободная воля и «Я»?

Возможный ответ: Возможно — но все зависит от того, что вы имеете в виду под словом «понимать». На интуитивном уровне, каждый из нас уже сейчас понимает все эти понятия настолько хорошо, как только возможно. Это подобно слушанию музыки. Улучшилось ли ваше понимание Баха от того, что вы проанализировали его вдоль и поперек? Или же вы лучше понимали его тогда, когда каждый нерв вашего тела трепетал от восторга? Понимаем ли мы, каким образом скорость света постоянна в любой инерционной системе отсчета? Мы можем проделать все расчеты, но ни у кого в мире нет настоящего интуитивного понимания теории относительности. Возможно, что никто никогда не поймет полностью на интуитивном уровне загадки интеллекта и сознания. Каждый из нас может понимать отдельных людей, и, скорее всего, это максимум того, на что мы способны.

Канон Ленивца

На этот раз мы находим Ахилла и Черепаху Тортиллу в гостях у их нового приятеля, Ленивца Сплюшки.

Ахилл: Хотите послушать про забавное соревнование по бегу, которое мы однажды устроили с Черепахой?

Ленивец: О, да, прошу вас!

Ахилл: Это соревнование стало довольно известным — я слышал, что оно даже было описано неким Зеноном.

Ленивец: Это интересно, и я всегда настроен вас послушать.

Ахилл: Это, и правда, было интересно. Видите ли, г-жа Тортилла стартовала первой. У нее была огромная фора, и тем не менее —

Ленивец: Вы ее нагнали, не правда ли?

Ахилл: Разумеется — поскольку я такой быстроногий, я сокращал расстояние между нами с постоянной скоростью, и вскоре обогнал ее.

Ленивец: Поскольку расстояние между вами становилось все меньше и меньше, вам удалось это сделать.

Ахилл: Именно. О, смотрите — г-жа Черепаха принесла свою скрипку. Можно мне попробовать что-нибудь сыграть, г-жа Черепаха?

Черепаха: О, нет, прошу вас. Это будет неинтересно — она расстроена так, что невозможно слушать.

Ахилл: Ну ладно. Но у меня сегодня почему-то музыкальное настроение.

Ленивец: Можете поиграть на пианино, Ахилл.

Ахилл: Благодарю вас. Немного погодя я так и сделаю. Но сначала доскажу, что потом мы с Черепахой бегали наперегонки еще раз. К несчастью, в этом соревновании —

Черепаха: Вы меня не нагнали, не правда ли? Расстояние между нами становилось все больше и больше, так что вам не удалось этого сделать.