Совместимость. Как контролировать искусственный интеллект

Универсальный ИИ воплощал бы идею всё как услуга. Не нужно было бы задействовать армии специалистов разных профессий, организованных в иерархии подрядчиков и субподрядчиков, чтобы выполнить проект. Все воплощения универсального ИИ имели бы доступ ко всем знаниям и навыкам человеческой расы и многому другому. Единственная разница прослеживалась бы в физических возможностях: опытные ходячие роботы для строительства или хирургии, колесные роботы для крупномасштабной транспортировки товаров, роботы-квадрокоптеры для наблюдения с воздуха и т. д. В принципе, если оставить за скобками политику и экономику, каждый имел бы в своем распоряжении целую организацию, состоящую из программных агентов и физических роботов, способных проектировать и строить мосты, повышать урожайность, готовить ужин на сотню гостей, проводить выборы — делать все, что необходимо. Именно универсальность универсального интеллекта делает это возможным.

Конечно, история доказала, что десятикратное увеличение глобального ВНП на душу населения возможно и без ИИ. Просто это заняло 190 лет (с 1820 по 2010 г.)[141]. И потребовало развития фабрик, станков, автоматизации, железных дорог, сталелитейной промышленности, автомобилей, самолетов, электричества, добычи нефти и газа, телефонов, радио, телевидения, компьютеров, интернета, спутников и многих других революционных изобретений. Десятикратный рост ВНП, имевшийся в виду в предыдущем абзаце, будет обусловлен не дальнейшим появлением революционных технологий, а способностью ИИ-систем использовать то, что у нас уже есть, эффективнее и в большем масштабе.

Разумеется, у роста уровня жизни неизбежно будут другие последствия, помимо чисто материального выигрыша. Например, известно, что персональное обучение намного эффективнее занятий в классе, но, когда оно осуществляется людьми, оно попросту недоступно — и всегда таким будет — огромному большинству землян. При наличии ИИ-преподавателей может быть раскрыт потенциал каждого ученика, даже самого бедного. Затраты в расчете на ребенка будут пренебрежимо малы, и этот ребенок будет жить намного более насыщенной и продуктивной жизнью. Художественные или интеллектуальные цели, индивидуальные или коллективные, станут обычной частью жизни, а не роскошью для избранных.

В сфере здравоохранения ИИ-системы позволят исследователям раскрыть и в совершенстве освоить тонкости строения человека, следовательно, со временем лучше справляться с болезнями. Глубокое понимание человеческой психологии и нейрохимии повсеместно улучшит психическое здоровье.

Пожалуй, несколько непривычный аспект: ИИ значительно повысит эффективность авторского инструментария в области виртуальной реальности (ВР) и поможет наполнить виртуальные пространства намного более интересными сущностями. Это может превратить ВР в основное средство литературного и художественного самовыражения, создавая в ней впечатления недоступного ныне разнообразия и глубины.

В обыденном мире интеллектуальный помощник — если он будет правильно спроектирован и не слишком подчинен экономическим и политическим интересам — позволит каждому человеку самостоятельно и эффективно действовать во все более сложной и подчас враждебной экономической и политической обстановке. Фактически в вашем распоряжении окажется одновременно высококомпетентный адвокат, бухгалтер и советник по политическим вопросам. Как дорожные пробки, предположительно, рассосутся, когда в поток вольется хотя бы малый процент автономных транспортных средств, остается надеяться, что более мудрые политические шаги и меньшее число конфликтов станут следствием лучшей информированности и лучшего учета интересов граждан.

Эти достижения в совокупности могут изменить динамику истории — по крайней мере, ту ее часть, которой традиционно управляли конфликты внутри обществ и между ними за доступ к необходимым для жизни ресурсам. Если пирог по сути бесконечен, то драться за больший кусок незачем. Это было бы сродни борьбе за то, чтобы иметь больше всех цифровых копий газеты — абсолютно бессмысленное дело, когда каждый может бесплатно получить их столько, сколько нужно.

Результаты, которые может обеспечить ИИ, имеют некоторые ограничения. Такие «пироги», как земля и сырье, не бесконечны, следовательно, не может быть неограниченного роста населения и не каждый получит особняк в личном парке. (Это постепенно потребует развернуть добычу полезных ископаемых по всей Солнечной системе и строить жилища в космосе, но я обещал не говорить о научной фантастике.) Пирог гордыни также конечен: лишь 1 % людей может входить в верхний 1 % по любому показателю. Если человеку для счастья нужно относиться к верхнему 1 %, то 99 % человечества обречено быть несчастными, даже если нижний 1 % ведет объективно роскошную жизнь[142]. Следовательно, важно, чтобы наша культура постепенно обесценила гордыню и зависть.