2062: время машин

Однако сознание – это то, что нельзя смоделировать. Это может быть свойством некоторого особого типа материи. В качестве аналогии можно привести погоду. Можно смоделировать на компьютере шторм, но это не значит, что внутри машины станет мокро. Точно так же сознание, вероятно, может зарождаться лишь при определенном состоянии материи. И совсем не факт, что кремний подойдет на эту роль.

Интеллект зомби

Люди, когда говорят об искусственном интеллекте, обычно делают акцент на слове «интеллект». В конце концов, это то, что делает нас особенными, то, чего мы пытаемся добиться, когда создаем ИИ. Однако я напоминаю людям, что слово «искусственный» имеет не меньшее значение. Возможно, в 2062 году мы придем к созданию совсем иного – очень искусственного – интеллекта, который будет существенно отличаться от нашего. Например, он может не иметь сознания.

Хорошая аналогия – полет. Мы, люди, очень успешно научились конструировать искусственный полет. Мы создали самолеты, которые летают быстрее скорости звука, пересекают океаны за несколько часов и перевозят тонны груза. Если бы мы попытались воспроизвести естественный полет, подозреваю, мы все еще стояли бы в конце взлетной полосы и махали крыльями. Однако мы подошли к проблеме с совершенно другой стороны – придумали статичные крылья и мощный двигатель. И естественный, и искусственный полет основываются на одной и той же теории аэродинамики, но предлагают разные решения проблемы. Естественное решение вовсе не обязательно самое простое[44].

Искусственный интеллект тоже может оказаться совершенно другим подходом к проблеме. Например, быть неосознанной формой интеллекта. Этот феномен Дэвид Чалмерс называет интеллектом зомби. Мы можем создать разумный, даже очень разумный, но не имеющий самосознания ИИ. Такие машины уж точно будут казаться нам искусственным интеллектом. Интеллект зомби стал бы демонстрацией того, что разум и самосознание – отдельные друг от друга явления. Это был бы пример интеллекта без сознательности. Однако, если нам не удастся разработать сознание без интеллекта (что представляется маловероятным), интеллект зомби не станет доказательством раздельной природы этих двух феноменов. Один из них не может существовать без другого, но не наоборот.

Интеллект зомби был бы серьезным этическим подспорьем для человечества. В таком случае нам не пришлось бы беспокоиться по поводу наших взаимоотношений с ИИ. Мы смогли бы поручать им самые утомительные и продолжительные задания. Мы бы были уверены в том, что отключение не доставит им никаких страданий. С другой стороны, если ИИ все же не будет иметь интеллект зомби, возникнут определенные вопросы этики. Если машины будут обладать сознанием, нужны ли им права? В наше время ведутся кампании по предоставлению юридической личности большим обезьянам, таким как шимпанзе или гориллы. Получат ли ИИ подобные права при условии наличия сознания? Оставим ли мы за собой право их отключать?

Удивительный осьминог

Люди – не единственные сознательные существа на планете. Природа создала как минимум два разных варианта разума и сознания. Головоногие – особенно подкласс двужаберных, который состоит из беспозвоночных вроде осьминога, – обладают типом нервной системы, совершенно не похожей на нервную систему позвоночных. Головоногие – самые разумные из всех беспозвоночных.

Вероятно, это звучит не слишком убедительно, учитывая, что у беспозвоночных нет мозга. Однако интеллект головоногих поражает. Они используют инструменты. Они формируют группы и коммуницируют друг с другом во время охоты. Они могут открыть бутылку с отвинчивающейся крышкой. Головоногие, кажется, способны даже узнавать и запоминать людей. Отто, известный осьминог из Кобургского океанариума в Германии, смог выключить раздражающую его лампочку мощностью в две тысячи ватт, плеснув на нее водой. И это не единственный забавный пример того, как они умеют решать задачи, в том числе касающиеся побега из аквариумов.

В нескольких странах запрещено проводить тесты на головоногих как раз по причине их разумности. В Великобритании осьминог обыкновенный – единственное беспозвоночное, которое было защищено Конвенцией по защите экспериментальных животных, принятой в 1986 году. В Европе головоногие – единственные беспозвоночные, которые защищены Директивой 2010 года о защите животных, использующихся в научных целях.

Пути головоногих и людей разошлись около 600 миллионов лет назад, задолго до появления динозавров. В то время самые разумные существа на планете имели всего по несколько нейронов. Интеллект головоногих развивался совершенно в ином направлении. Три пятых от общего количества нейронов осьминога располагается в его восьми ногах. Каждая нога способна ощущать и думать самостоятельно. Можно представить, будто каждая нога имеет свой индивидуальный мозг. Трудно представить, каково это – быть осьминогом, чьи ноги действуют по собственной воле; возможно, это похоже на состояние алкогольного опьянения.