Кому принадлежит будущее?

Когда речь заходит о серверах-сиренах, эффективность отражает то, насколько успешно сервер влияет на мир людей, сопоставляя его со своей собственной моделью мира. Именно так большие массивы данных констатируют двойственную природу искусственного интеллекта. Нельзя сказать, насколько успешность работы алгоритмов ИИ обусловлена тем, насколько меняются сами люди, чтобы создать впечатление этой успешности. Люди уже не раз доказывали, что вполне способны адаптироваться к снижению требований, лишь бы программа выглядела умной.

Если мы собираемся придерживаться чистейших абстракций, таких как эффективность с точки зрения сервера-сирены, то более «эффективная» экономика быстрее пойдет на спад по сравнению с менее эффективной. Если когда-нибудь возникнет идея о том, что роботы эффективно управляют миром, то деньги будут крайне редко переходить из рук в руки, а инвестиции почти исчезнут.

Этот экономический тупик обернется стагнацией на одном из пиков энергетического ландшафта – на вершине жалкой кочки. Если поверить иллюзии, что вершина может быть только одна или что существует лишь один вариант равновесия, то мы сможем поверить и в то, что любое отклонение от вершины этого холмика означает отрицание эффективности и рациональности. Но это станет проявлением той же самой математической безграмотности, которая уже успела отравить политику.

Какого бы результата работы рыночных механизмов мы ни ожидали, нам не найти самых высоких вершин, если мы организуем рынки так, чтобы они направляли риск вовне, а вся власть окажется в руках небольших, но влиятельных узлов компьютерной сети. Этот процесс не научит нас почти ничему.

Четвертая интерлюдия Ограничения для маглов [75]

Бесконечный разговор о сердечном картеле

Тридцать лет назад мне невероятно посчастливилось встретиться с Марвином Минским, профессором Массачусетского технологического института и одним из основателей подхода к информатике с точки зрения искусственного интеллекта. Марвин был удивительно добр и великодушен по отношению ко мне, очередному юному чудаку, которого он взял под крыло. Сидя с ним за одним столом, я слышал первые проблески настроений, которые спустя десятки лет будут господствовать в Кремниевой долине.

В начале восьмидесятых Кембридж, штат Массачусетс, был захолустьем, как и большинство американских городов, которые начали загибаться в семидесятые. Здания, выглядевшие так, словно пережили бомбежку, и почти безлюдные мрачные улицы резко контрастировали с корпусами Массачусетского технологического института. Внутри этих корпусов зарождалась и ждала своего часа новая интеллектуальная жизнь. Умники только-только начали штурмовать реальность.

Как-то раз за ужином Марвин завел длинный разговор об экономических последствиях изобретения искусственного сердца. Мы находились в его огромном доме в Бруклайне, элегантном, как и все загородные дома, где царил просто очаровательный хаос. Книги и научные журналы громоздились беспорядочными кучами повсеместно, в том числе и на огромных пианино, о существовании которых можно было лишь догадываться по форме бумажных гор. Кое-где в этих завалах виднелись забавные артефакты науки двадцатого века… тут были и детали от известных роботов, и телескопы, и несколько самых первых цифровых музыкальных инструментов. Пахло старой бумагой и машинным маслом. Некогда просторный дом превратился в настоящий лабиринт. Иногда сквозь завалы проглядывали красивые деревянные стены.

Надеюсь, мне простят такую вольность, если я, спустя несколько десятков лет, перефразирую одну из провокационных фраз Марвина: «Каждый миллиардер, страдающий от кардиологических заболеваний, должен потратить миллиард долларов на разработку искусственного сердца. Исследования стоит сосредоточить на гигантском проекте вроде полета на Луну или Лос-Аламоса. Заселите маленький городок ведущими учеными и инженерами, которые сделают первые действительно качественные искусственные сердца для кучки богатеев. Конечно, некоторые интересные проекты уже запущены… но усилия в таких малых масштабах требуют слишком много времени. Не жалейте средств! Добейтесь цели! Если есть единая рабочая модель, цены рухнут, как это обычно бывает. В итоге выиграют все. Миллионы людей умирают из-за того, что мы с таким негодованием относимся к чьему-то богатству». Когда Марвин злился, глаза его забавно сверкали.

Возможно, в те времена какой-нибудь длинноволосый студент с левыми взглядами резко возразил бы ему:

– А не возникнет ли тогда картель искусственных сердец? Как остановить сердечный шантаж? Так ведь можно и в раба превратиться, лишь бы выжить.

– Нет, этого не случится, причем ровно по той же причине, почему этого не случилось с появлением доступных компьютеров. Куда больше денег можно заработать, продавая миллионы дешевых вещей, чем что-то дорогое, но в небольшом количестве.