Мир Лема: словарь и путеводитель

РАЗУМ — система, способная создавать модели окружающего мира, по мнению некоторых, важно также наличие свободы воли, проявляющееся хотя бы в создании этих моделей; точнее — система, способная создавать модели не менее сложных ситуаций и не менее сложные, чем говорящий, или обладающая, по мнению говорящего, свободой воли, то есть сама являющаяся системой более сложной, чем он способен моделировать; по-видимому, компьютерная программа будет проходить по первой категории, животное или человеческий детеныш — по второй; предполагаемое различие между искусственным и естественным разумом стремление искусственного разума учесть возможно большее число факторов; это различие, которое является следствием отсутствия интуиции, т. е. отсутствия жизненного и исторического опыта, исчезнет в ходе эволюции:

«Природа допускает два типа Разума, но только такие, как ваш, могут складываться на протяжении миллиардов лет в эволюционных лабиринтах. И эта дорога, которую неизбежно предстоит пройти, оставляет в конечном продукте глубокие, темные, двусмысленные стигматы. Другой тип Разума для Эволюции недоступен, ибо его нужно воздвигнуть единым рывком, поскольку это Разум, разумно запроектированный, результат знания, а не микроскопических доработок, вечно нацеленных лишь на сиюминутную выгоду». — Голем XIV

«— Это правда: существуют только два возможных решения этой проблемы… Я — первое. Я стоял, словно парализованный, а он все говорил, тихо, спокойно. Разумеется, он читал мои мысли. Он мог овладеть мыслями любого человека и знал все, что можно знать. Он сообщил мне, что в момент пуска совокупность его знаний обо всем, что существует, его сознание вспыхнуло и изверглось, словно сферическая невидимая волна, расширяющаяся со скоростью света. Так что через восемь минут он уже знал о Солнце; через четыре часа обо всей Солнечной системе… Я не знал, что собой представляет тот второй вариант и что он означает. Он был почти в семь раз сложнее, чем первый. Может, он постигал бы мгновенно знание обо всем космосе?! Может быть, это был бы синтетический бог, который, появившись, так же затмил бы его, как он сделал это с нами?» — Формула Лимфатера

«Кто бы мог в мое время подумать, что цифровые машины, преодолев определенный порог разумности, потеряют надежность, а все потому, что разума без хитрости не бывает… Машина тупая, бесхитростная, неспособная пораскинуть умом делает, что прикажут. А смышленая сначала соображает, что выгоднее: решить предложенную задачу или попробовать от нее отвертеться. Она ищет чего полегче. А почему бы и нет, если она разумна? Ведь разум — это внутренняя свобода… компьютер, симулирующий кретинизм, чтобы от него отвязались». — Футурологический конгресс

«Умное оружие — не обязательно самое лучшее. Оно может, скажем, испугаться. Или ему расхочется быть оружием. У него могут появиться разные мысли». — Мир на Земле

«На XXI Панамериканский конгресс психоники профессор Элдон Пэтч представил работу, в которой он утверждал, что компьютер, даже с вживленной таким образом системой ценностей, может перейти так называемый «аксиологический порог» и тогда окажется способным поставить под сомнение любой принцип, который был ему привит, иначе говоря, для такого компьютера больше не существует неприкосновенных ценностей». — Голем XIV

«… робот, который был бы в умственном отношении равен человеку и в то же время не мог бы лгать и обманывать, — чистейшая фикция! Либо полноценная копия человека, либо марионетка — ничего другого создать нельзя… Существо, способное на поступки определенного уровня сложности, уже тем самым способно и на другие поступки того же уровня…» — Дознание

«Я должен все учесть точно и ясно, а если это невозможно, я проигрываю». — Дознание

«Мозг должен знать о состоянии и степени готовности каждой мышцы; точно так же компьютер должен иметь информацию о состоянии корабельных агрегатов… Компьютер предвидит замыслы противника на два-три хода вперед; если б он пытался предвидеть на десять ходов вперед, его бы задушил избыток возможных вариантов, ибо их количество растет по экспоненте. Чтобы предвидеть десять очередных ходов на шахматной доске, пришлось бы оперировать девятизначными числами. Такого самопарализующегося шахматиста дисквалифицировали бы на первом же состязании… Парадокс заключался в том, что именно повышенная емкость этих новых, усовершенствованных моделей способствовала катастрофе; ведь эти компьютеры могли функционировать очень долго, пока информационная перегрузка постепенно не выводила из строя их контуры. Но когда «Ариэль» опускался на космодром Агатодемона, какая-то последняя капля переполнила чашу». — Ананке