Читаем Совместимость. Как контролировать искусственный интеллект полностью

Несмотря на разумность аксиом и важность выводов, которые из них следуют, на теорию полезности обрушивается шквал критики с тех самых пор, как она получила широкую известность. Некоторые отвергают ее за то, что она, предположительно, сводит все к деньгам и эгоизму. (Некоторые французские авторы презрительно называли эту теорию «американской»[30], несмотря на то что она уходит корнями во французскую мысль.) Действительно, что может быть разумнее, чем мечтать прожить жизнь в самоотречении, желая лишь уменьшить страдания других. Альтруизм заключается попросту в том, чтобы придавать существенный вес благополучию других при оценке любого конкретного будущего.

Другой комплекс возражений связан с трудностью получения необходимой оценки ценности возможностей и полезностей и их перемножения для расчета ожидаемой полезности. При этом просто смешиваются две разные вещи: выбор рационального действия и выбор его путем вычисления ожидаемых полезностей. Например, если вы пытаетесь ткнуть пальцем себе в глаз, веко опускается, чтобы защитить глазное яблоко; это рационально, но никакие расчеты ожидаемой полезности этому не сопутствуют. Можете также представить, что катитесь на велосипеде без тормозов вниз по склону и имеете возможность выбирать, врезаться в одну бетонную стену на скорости 16 км/ч или в другую, ниже по склону, на скорости 32 км/ч. Что вы предпочтете? Если вы выбрали 16 км/ч, мои поздравления! Вы вычисляли ожидаемую полезность? Вряд ли. Тем не менее выбор скорости 16 км/ч рационален. Это следует из двух базовых предположений: во-первых, что вы предпочитаете менее серьезные травмы более серьезным, во-вторых, что при любой тяжести травмы увеличение скорости столкновения повышает вероятность превышения этого уровня. Из этих двух предположений математически следует (совершенно без вычисления конкретных числовых значений), что столкновение на скорости 16 км/ч имеет более высокую ожидаемую полезность, чем столкновение на скорости 32 км/ч[31]. В общем, максимизация ожидаемой полезности необязательно требует вычисления каких-либо ожиданий или полезностей. Это чисто внешнее описание рациональной сущности.

Еще одна критика теории рациональности лежит в определении места принятия решений, то есть что рассматривается в качестве агентов. Кажется очевидным, что агентами являются люди. Но как быть с семьями, племенами, корпорациями, цивилизациями, государствами? Если обратиться к социальным насекомым, таким как муравьи, можно рассматривать индивидуального муравья как интеллектуального агента, или же интеллект связан со всей муравьиной колонией, с неким синтетическим мозгом, состоящим из мозгов и тел многих муравьев, взаимосвязанных феромонными сигналами, в отличие от сигналов электрических? С эволюционной точки зрения так думать о колонии муравьев, вероятно, более продуктивно, так как муравьи тесно связаны. Отдельно взятые муравьи, как и другие социальные насекомые, по-видимому, не обладают инстинктом самосохранения, в отличие от инстинкта сохранения колонии: они всегда вступают в битву против захватчиков, даже ценой собственной жизни. Иногда и люди поступают так же, чтобы защитить совсем чужих людей. Виду полезно наличие определенной доли индивидуумов, способных пожертвовать собой в бою, или отправиться в экспедиции в неизвестные земли, или воспитывать чужое потомство. В подобных случаях анализ рациональности, основанный на интересах одного индивида, очевидно упускает из виду нечто существенное.

Другие принципиальные возражения против теории полезности носят эмпирический характер – они опираются на экспериментальные свидетельства, заставляющие предположить, что люди иррациональны. Мы систематически не угождаем аксиомам[32]. Я сейчас не ставлю своей целью отстоять теорию полезности как формальную модель человеческого поведения. Действительно, люди не всегда могут вести себя рационально. Наши предпочтения распространяются на всю собственную дальнейшую жизнь, жизни детей и внуков, а также других существ, которые живут сейчас или будут жить в дальнейшем. Тем не менее мы не можем даже сделать правильные ходы на шахматной доске, в крохотном и простом пространстве с четкими правилами и очень коротким горизонтом планирования. Причина не в иррациональности наших предпочтений, а в сложности проблемы принятия решения. В огромной мере наша когнитивная структура занята тем, что компенсирует несоответствие маленького медленного мозга непостижимо громадной сложности проблемы принятия решения, с которой мы постоянно сталкиваемся.

Перейти на страницу:

Похожие книги

21 урок для XXI века
21 урок для XXI века

«В мире, перегруженном информацией, ясность – это сила. Почти каждый может внести вклад в дискуссию о будущем человечества, но мало кто четко представляет себе, каким оно должно быть. Порой мы даже не замечаем, что эта полемика ведется, и не понимаем, в чем сущность ее ключевых вопросов. Большинству из нас не до того – ведь у нас есть более насущные дела: мы должны ходить на работу, воспитывать детей, заботиться о пожилых родителях. К сожалению, история никому не делает скидок. Даже если будущее человечества будет решено без вашего участия, потому что вы были заняты тем, чтобы прокормить и одеть своих детей, то последствий вам (и вашим детям) все равно не избежать. Да, это несправедливо. А кто сказал, что история справедлива?…»Издательство «Синдбад» внесло существенные изменения в содержание перевода, в основном, в тех местах, где упомянуты Россия, Украина и Путин. Хотя это было сделано с разрешения автора, сравнение версий представляется интересным как для прояснения позиции автора, так и для ознакомления с политикой некоторых современных российских издательств.Данная версии файла дополнена комментариями с исходным текстом найденных отличий (возможно, не всех). Также, в двух местах были добавлены варианты перевода от «The Insider». Для удобства поиска, а также большего соответствия теме книги, добавленные комментарии отмечены словом «post-truth».Комментарий автора:«Моя главная задача — сделать так, чтобы содержащиеся в этой книге идеи об угрозе диктатуры, экстремизма и нетерпимости достигли широкой и разнообразной аудитории. Это касается в том числе аудитории, которая живет в недемократических режимах. Некоторые примеры в книге могут оттолкнуть этих читателей или вызвать цензуру. В связи с этим я иногда разрешаю менять некоторые острые примеры, но никогда не меняю ключевые тезисы в книге»

Юваль Ной Харари

Обществознание, социология / Самосовершенствование / Зарубежная публицистика / Документальное
Открытый заговор
Открытый заговор

Работа «Открытый Заговор» принадлежит перу известного английского писателя Герберта Уэллса, широко известного в России в качестве автора научно-фантастических романов «Машина времени», «Человек-невидимка», «Война миров» и другие. Помимо этого, Уэллс работал в жанрах бытового романа, детской, научно-популярной литературы и публицистики. «Открытый Заговор» – редкий для английского писателя жанр, который можно назвать политическим. Предлагаемую работу можно даже назвать манифестом, содержащим призыв к человечеству переустроить мир на новых началах.«Открытый Заговор» ранее не переводился на русский язык и в нашей стране не издавался. Первая версия этой работы увидела свет в 1928 году. Несколько раз произведение перерабатывалось и переиздавалось. Настоящая книга является переводом с издания 1933 года. Суть предлагаемого Уэллсом переустройства мира – в демонтаже суверенных государств и создании вместо них Мирового государства, возглавляемого Мировым правительством. Некоторые позиции программы «Открытого Заговора» выглядят утопичными, но, вместе с тем, целый ряд положений программы уже воплощен в жизнь, а какие-то находятся в стадии реализации. Несмотря на то что работа писалась около 90 лет назад, она помогает лучше понять суть процессов, происходящих сегодня в мире.

Герберт Джордж Уэллс , Герберт Уэллс

Государство и право / Политика / Зарубежная публицистика / Документальное