Всё хреново. Книга о надежде

И тогда мы вернемся к тому, с чего начинали: станем поклоняться невероятным, непознаваемым силам, которые, как нам кажется, вершат нашу судьбу. Точно так же, как примитивные народы молились своим богам, чтобы те ниспослали им дождь или огонь, – так же, как они приносили жертвы и дары, изобретали ритуалы и меняли свое поведение и внешний вид, чтобы добиться расположения натуралистических богов, – так же будем делать и мы. Только делать все это мы будем во имя богов ИИ.

У нас появятся суеверия, связанные с алгоритмами. Если наденешь это, алгоритм тебя поощрит. Если проснешься в определенное время, скажешь нужные слова и придешь в нужное место, машины даруют тебе богатство. Если будешь честен, не станешь причинять вреда другим и будешь заботиться о себе и своих близких, боги ИИ будут оберегать тебя.

Старых богов заменят новые – алгоритмы. И по странной иронии эволюции та самая наука, которая убила старых богов, создаст богов будущего. Случится великий возврат человечества к религиозности. И наши новые религии вряд ли будут сильно отличаться от религий древности: в конце концов, наша психика в процессе эволюции приучилась обожествлять то, чего мы не понимаем, превозносить силы, которые помогают или вредят нам, выстраивать системы ценностей, основанные на нашем опыте, искать конфликты, которые породили бы надежду.

Почему с ИИ что-то должно быть иначе?

Наши боги ИИ, конечно, это поймут. И либо найдут способ «прокачать» нам мозги и избавить нас от нашей примитивной психологической потребности в извечной борьбе, либо возьмут и просто сгенерируют нам иллюзию борьбы. Мы будем как домашние собаки: нам будет казаться, что мы всеми силами охраняем и отстаиваем свою территорию, а на деле мы будем просто ссать на бесконечную череду цифровых фонарных столбов.

Эта перспектива может вас напугать. Или воодушевить. Но, как бы то ни было, она, скорее всего, неизбежна. Власть обусловлена способностью обрабатывать и использовать информацию в своих интересах – а мы всегда преклоняемся перед тем, кто наделен большей властью.

И, позвольте признаться, я готов с распростертыми объятиями встретить наших новых господ.

Я знаю, это не та последняя религия, на которую вы надеялись. Но как раз в этом ваша главная ошибка: вы надеетесь.

Не оплакивайте утрату собственной воли. Если вам кажется, что подчиняться искусственным алгоритмам ужасно, поймите: вы уже это делаете. И вам это нравится.

Алгоритмы уже заправляют значительной частью нашей жизни. Маршрут, по которому вы добирались до работы, выстроен алгоритмом. Вы пообщались на этой неделе со многими друзьями? Ваши беседы тоже были обеспечены алгоритмом. Подарок, который вы купили своему ребенку, количество туалетной бумаги в большой упаковке, пятьдесят центов, которые вы сэкономили в супермаркете благодаря скидочной карте клиента, – за все это отвечают алгоритмы.

И нам нужны эти алгоритмы, потому что они упрощают нам жизнь. То же самое будут делать и алгоритмические боги ближайшего будущего. И так же, как в древности, мы возрадуемся и возблагодарим их за это. На самом деле, мы даже не сможем уже представить себе мир без них{298}. Эти алгоритмы будут делать нашу жизнь лучше. Они будут делать ее эффективнее. Они будут делать эффективнее нас.

Поэтому, как только мы перейдем эту черту, пути назад не будет.

Мы плохие алгоритмы

Историю мира можно воспринимать так.

Разница между живой и неживой материей в том, что живая материя самовоспроизводится. Живая материя состоит из клеток и ДНК, которые порождают все новые и новые копии себя.

За сотни миллионов лет некоторые из первичных форм жизни развили механизмы обратной связи, которые позволяли бы им репродуцироваться эффективнее. Какое-нибудь древнее простейшее, возможно, вырастило на своей мембране маленькие сенсоры, чтобы лучше распознавать аминокислоты, с помощью которых оно бы произвело больше своих копий – и тем самым получило превосходство над другими одноклеточными организмами. А затем, быть может, другой одноклеточный организм выработал способ «обмануть» сенсоры прочих амебоподобных существ и, таким образом, помешать им отыскивать пищу и самому получить преимущество.

По сути, биологическая гонка вооружений продолжается с самого начала времен. Вот какое-то крошечное одноклеточное существо вырабатывает крутую стратегию, чтобы отхватить себе побольше материала для репродукции, – и так отвоевывает у других ресурсы и производит больше копий себя. Потом другое крошечное одноклеточное существо эволюционирует и вырабатывает еще более крутую стратегию по добыванию пищи – и лидерство переходит к нему. Это продолжается миллиарды лет, и вскоре появляются ящерицы, способные менять цвет кожи, обезьяны, способные копировать крики других животных, и нелепые разведенные мужики среднего возраста, способные потратить все деньги на ярко-красную Chevrolet Camaro (которую на самом деле не могут себе позволить) только потому, что это обеспечивает им бóльшую выживаемость и дает больше шансов на размножение.