Пять эссе на темы этики

«Серийный» искусственный разум, тот, например, который привлекается для создания машин, способных делать переводы, или для получения выводов из комплекса информационных данных, — этот разум получает от программиста такие инструкции, чтобы принимать, на основании конечного набора правил, последующие решения, каждое из которых зависит от решения, принятого на предыдущей фазе, по схеме дерева, посредством серии бинарных дизъюнкций. Старинная стратегия войны имела ту же конфигурацию: если неприятель двигал свои армии на восток, можно было предвидеть, что впоследствии он захочет повернуть на юг; в этом случае, следуя той же самой логике, я направлял свои войска на северо-восток и неожиданно перегораживал ему дорогу. Правила противника были в то же время и нашими правилами, и каждый мог принимать решения поступательно, по одному за раз, как в шахматной партии.

«Параллельный» искусственный разум, напротив, передоверяет отдельным ячейкам сети все решения, как им следует сложиться в окончательную конфигурацию, исходя из распределения «загрузок», которое оператор не способен ни рассчитать, ни предвидеть заранее, поскольку эта сеть порождает для себя правила, которые не были в нее заложены, и эта сеть сама себя модифицирует в поисках оптимального решения, и эта сеть не знает различия между правилами и данными. Правда, и систему подобного рода (называемую неоконнективной или системой нейтральных сетей) можно регулировать, сверяя полученный ответ с ожидаемым ответом и изменяя загрузки в зависимости от практики. Но для этого требуется: а) чтобы у оператора имелось время; б) чтобы не было двух операторов, находящихся в конкуренции и передвигающих загрузки во взаимно противоречивом режиме, и, наконец; в) чтобы отдельные ячейки сети вели себя и мыслили, как положено ячейкам, а не как положено операторам, то есть не принимали бы решений, основанных на анализе поведения операторов, а самое главное — не преследовали бы интересов, посторонних по отношению к логике сети.

Однако в ситуации разрознения властей каждая ячейка как раз и преследует именно личные интересы, которые не совпадают с интересами операторов и ничего не имеют общего с самодвижущими тенденциями той сети, куда ячейки входят. Следовательно, если (метафорический пример) войну представить себе в виде «нео-коннективной» системы, она будет развиваться и самобалансироваться независимо от желания обоих тяжущихся. Примечательно, что, объясняя устройство нейтральных сетей, Арно Пензиас (в книге «Как жить в мире High-Tech», Милан, Бомпиани, 1989, стр. 107–108) прибегает как раз к военной метафоре. Он пишет: «Известно, что отдельные нейроны становятся электроактивными („стреляют“) в результате стимуляции через каналы инпута (так называемые дендриты), тончайшим образом разветвленные. В мгновение „выстрела“ нейрон выпускает электрические сигналы по каналам аутпута (так называемым аксонам) <…> Поскольку „выстрел“ каждого нейрона зависит от активности множества других нейронов, не существует никакого простого способа рассчитать, что и когда должно произойти <…? В зависимости от конкретного расположения синаптических сцеплений (коннексий), любая стимуляция нейтральной сети из сотни нейронов даст, в качестве возможных равновесных результатов, тысячу миллиардов миллиардов миллиардов вариантов (10³⁰)».

Если война нео-коннективна, значит, в ее системе расчет и намерения главных действователей не имеют ценности. Из-за наращивания количества властей в этой игре загрузки распределяются самым непредвиденным образом. Конечно, может случиться и такое, что война окончится и при этом финальная конфигурация окажется выигрышной для одного из тяжущихся; однако в принципе, поскольку в подобной системе заведомо провален любой расчет, направленный на решение, — война всегда проигрышна для обеих сторон. В контексте нашей метафоры, лихорадочная деятельность операторов по руководству цепью, непрерывно получающей противонаправленные импульсы, приведет просто к замыканию всей сети. Вероятный исход войны в этом случае — коллапс. Старинная война напоминала шахматную партию, где каждый играющий пытался не только съесть как можно больше фигур противника, но и заманить противника (спекулируя на индивидуальном типе восприятия противником общих правил) в мат. А в современной войне, если представлять ее через шахматы, на доске не черные и белые, а сплошь одноцветные фигуры, и игроки, воздействуя на одну и ту же сеть, едят что попадется. Самопожирание.