Алгоритмы для любви

Но никто кроме меня ничего не подозревал. Я должна была праздновать победу. Моя кукла прошла тест Тьюринга в реальной жизни. Но я испугалась. Алгоритмы выставили на посмешище разум, и никого, казалось, это не волновало. Никто кроме меня даже не обратил на это внимания.

Спустя неделю мне всё же удалось вытянуть из Брэда его впечатления. После первоначального потрясения он был в восторге (и я знала, что так оно и будет).

- Превосходно, - сказал он. - Теперь мы уже не просто компания по производству игрушек. Ты можешь себе представить, чего мы можем с этим добиться? Ты станешь известной, действительно известной!

Он рассуждал и по поводу потенциальных предложений. Затем он заметил мое молчание.

- В чем дело?

Вот тогда я и рассказала ему о «китайской комнате».

Философ Джон Сёрль придумал этот феномен в качестве головоломки для исследователей искусственного интеллекта. Представьте себе комнату, сказал он, большую комнату, полную добросовестных клерков, очень хорошо умеющих работать с заказами, но говорящих только по-английски. В эту комнату поступает непрерывный поток карточек со странными символами на них. Клерки в ответ должны написать на пустых карточках другие непонятные символы, и отправить их обратно из комнаты. Для того, чтобы это сделать, у клерков есть толстые книги, полные правил на английском языке, таких, например, как это: «Когда вы видите карточку с одной горизонтальной волнистой линией и двумя вертикальными каракулями, нарисуйте треугольник на пустой карточке и передайте сидящему справа от вас». Но правила не содержат ни намёка о том, что эти символы могут означать.

Оказывается, что поступающие в комнату карты с вопросами написаны на китайском языке, и клерки, строго следуя правилам, выдают на китайском же языке разумные ответы. Но может ли кто-нибудь из участвующих в этом процессе – со всеми правилами, служащими, комнатой в целом и бурной деятельностью, сказать, что понял хоть слово по-китайски? Попробуйте заменить «клерков» на «процессор», а  «книги с правилами» на «программы», и вы поймёте, что тест Тьюринга ничего не доказывает, а «искусственный интеллект» является иллюзией.

Но точно так же можно применить «китайскую комнату» для другой аналогии: замените «клерков» на «нейроны», а «книги с правилами» на физические законы, управляющие каскадами активации электрических потенциалов нашего мозга; как после этого может любой из нас утверждать, что он  хоть что-нибудь «понимает»?  Мышление - это просто иллюзия.

- Я не понимаю, - говорит Брэд. - О чем ты говоришь?

Мгновение спустя я осознала, что это было именно то, что я ожидала услышать в ответ.

- Брэд, - сказала я, глядя ему прямо в глаза, желая, чтобы он понял. - Я боюсь. Что, если мы такие же, как Тара?

- Мы? Ты имеешь в виду людей?

- Что, если, - сказала я, изо всех сил стараясь подобрать нужные слова, - мы просто последовательность используемых изо дня в день алгоритмов? Что, если клетки нашего мозга просто автоматически реагируют на сигналы от внешних источников? Что, если мы не мыслим вообще? Что, если то, что я говорю тебе сейчас, заранее зная ответ, лишь результат бессмысленной физики?

- Елена, - сказал Брэд, - Ты позволяешь философии вмешиваться в реальность.

Мне нужно выспаться, подумала я, чувствуя себя безнадежно.

- Я думаю, что тебе нужно как следует выспаться, - сказал Брэд.

Я взяла бумажный стаканчик из рук девушки, продающей кофе, и отдала ей деньги.  Я посмотрела на девушку. В восемь утра она выглядела такой сонной и скучной, что заставила и меня почувствовать себя усталой. Мне нужен отпуск.

- Мне нужен отпуск, - сказала она, театрально вздыхая.

Я прошла мимо стола секретарши. Утро, Елена. Скажи что-нибудь другое, пожалуйста. Я стиснула зубы. Пожалуйста.

- Доброе утро, Елена, - сказала она.

Я остановилась у стола Огдена. Он наш инженер-конструктор. Погода, игра прошлым вечером, Брэд.

Он увидел меня и встал.

- Хорошая погода, а? - Он вытер пот со лба и улыбнулся мне. Он бегал по утрам перед работой. - Вы смотрели игру вчера вечером? Лучший бросок, что я видел за последние десять лет. Невероятно. Эй, а Брэд всё ещё?.. – По выражению его лица было видно, что он ждёт от меня, чтобы и я следовала привычному сценарию, отточенным жизнью процедурам.

Алгоритмы побежали их решительными курсами, и наши мысли следовали одна за другой, механически и предсказуемо, как планеты, движущиеся по своим орбитам. Кукловод сам оказался куклой.

Я пробежала в мой кабинет и захлопнула за собой дверь, не обращая внимания на недоумённое выражение лица Огдена. Я подошла к своему компьютеру и начала удалять файлы.

- Привет, - сказала Тара. - Что мы будем делать сегодня?

Я выключила её так быстро, что сломала ноготь о тумблер переключателя. Я вырвала провода электропитания из её спины. Я стала работать над ней с помощью отвертки и плоскогубцев. Затем взялась за молоток. Была ли я убийцей?

Брэд вломился в дверь.

- Что ты делаешь?