Гора в море

Он помолчал, а потом спросил:

– Вы так считаете, Рустем?

– Нет. Это бессмысленно. Люди – тоже животные. Даже если их жизни не ценнее жизни животных, они определенно не менее ценны.

– Многие за такие слова назвали бы вас циником, – заметил мужчина. – Но не я. Я понял, что вы хотели сказать. Думаю, мы с вами похожи.

Встретившись взглядом с сидящим напротив, Рустем поверил, что его собеседник не лжет. Они похожи. Они друг друга понимают.

– Вы можете идти, Рустем.

– Да?

– Да. Просто выйдите через ту желтую дверь позади вас. Там будет короткий коридор, а потом шесть ступенек вниз до следующей желтой двери. Эта дверь ведет на улицу. Кстати: запомните, где эта дверь. Если мы вам понадобимся, подойдите и позвоните. А когда придет время – поступите как должно.

На улице оказалось пасмурно. Рустем обнаружил, что находится в районе в дальней части залива: переходном районе, где многие деревянные дома заброшены. На середине улицы стоял бульдозер, накрытый рваным синим брезентом.

Рустем сообразил, что так и не допил второй стакан чая. Однако чай в городе стоил недорого. Он найдет место, чтобы ненадолго присесть с теплым стаканом в руке и подумать. Вот что ему нужно. Чай и время подумать.

«Ради этого уже стоит жить», – сказал он себе.

В детстве я смотрела, как в атмосфере летит вулканический пепел, и слушала гул гидроэлектростанции Храунейяфосс неподалеку от нашего дома. Подземное тепло превращается в пепел, вода превращается в энергию. Сплошные трансформации одной среды в другую. Разум и смысл присутствовали везде – даже в камнях.

Позднее, когда мои родители погибли при теракте в концертном зале Харпа в Рейкьявике, я погрузилась в депрессию. Теперь все пронизывали не разум и смысл, а скорее бессмысленность. Люди были не живее ветхого музыкального автомата. Стимул: опущенная в прорезь монетка. Реакция: музыка, всего лишь изменения давления на барабанную перепонку.

Истина где-то посередине. Порой звуковая волна – это всего лишь изменение давления на барабанную перепонку. Но порой при наличии должной нервной системы для восприятия паттернов в этой последовательности это «Реквием» Моцарта. Но как нам создать такую нервную систему, такой разум? И, создав его, как нам точно удостовериться, что это сделано?

Доктор Арнкатла Минервудоттир-Чан, «Строительство разумов»

31

– НЕДАВНО ВЫ ГОВОРИЛИ, ДОКТОР – и я цитирую: «Великое и ужасное свойство человечества – это просто то, что мы всегда делаем все, на что способны». Но, конечно же, после того как сделано все, на что мы способны, должен наступить момент сожаления. Особенно если сделанное вызывает боль или разрушения. «Дианиму» неоднократно критиковали за непреклонное стремление усовершенствовать искусственный интеллект, не задумываясь о последствиях для человечества. Не думая о людях, лишающихся работы. Не думая о том, как этот интеллект могут превратить в оружие и использовать против нас, и даже не задумываясь о возникающих морально-этических проблемах. Что вы ответите на эти обвинения?

Доктор Минервудоттир-Чан подалась вперед, взяла со стола стакан воды и отпила немного.

Ха опознала это действие. Она когда-то взяла урок по поведению на интервью. Питье воды было способом потянуть время, возможностью собраться с мыслями, нарушить ритм атаки собеседника.

Продолжая держать стакан, доктор постучала пальцем по его боку.

Берущий интервью терял терпение. Он уже подался вперед и открыл рот, чтобы повторить вопрос, когда она заговорила:

– Я полжизни размышляла над этими вопросами. Определенно дольше, чем вы. Когда я встала во главе компании – это было примерно тогда, когда вы пошли в начальную школу, если не ошибаюсь, – «Дианима» была мелким производителем промышленных ИИ: автогрузовозов и других автоматизированных судов, оборудования для умной добычи и обогащения руд и тому подобного. А еще мы заключили ряд договоров с военными.

– Я не вижу…

Она подняла вверх палец: