Новый мир, 2000 №07

Ныне системам передачи данных не хватает самоконтроля. Модемам все равно, передают они на весь сетевой мир изображения святых, или изображения голых задниц, или формулы производства взрывчатых веществ. Им все равно, а мы с этим смирились, поскольку люди имеют малоприятную привычку вкушать именно плоды запретные, в силу их непристойности, а то и смертельно опасные. Но прошу учесть: если в сетях появится настоящий жизнеспособный «искусственный интеллект», то тем самым возникнет и возможность фильтрования, сдерживания, отсева и аннигиляции информации, поскольку интеллект, состоящий в близком родстве с разумностью, может и даже должен быть в состоянии установить цензуру, заслон некоторым видам информации. И вот окажется, что существует уйма разного рода интеллектов и что тем самым разные страны, разные режимы, вероисповедания, мировоззрения и взгляды начнут использовать навыки «нейтрализации или уничтожения» той информации, на которую они накладывают табу, поступления, доставки которой к тем или иным адресатам они не желают. Сейчас (к примеру), чтобы оградить детей от созерцания картинок, транслируемых с помощью электроники (скажем, по TV), папа и мама могут установить на телевизор «электронный намордник», узнав из анонса о содержании передачи, которая должна появиться. Если такой приставки они не поставят, то никакой «антинепристойной» цензуры сам по себе телевизор не создаст. Итак, окончательно «цензурируют» изображения или тексты отец с матерью, либо дядя с тетей, либо воспитатель, но не электронные машины. Их совратить невозможно. А вот искусственный разум должен, а не только может демонстрировать свою активность и селективный отбор. Его можно развратить, можно в том или ином переубедить, можно дезориентировать, обмануть, одурманить или научить, можно что-то объяснить ему. Фундаменталисты чрезвычайно обрадовались бы, завладей они AI. Уже не потребовалось бы, как в Иране, просто запрещать установку спутниковых тарелок и антенн… Не так уж далеко то прошлое, когда Советский Союз объявил создание глобально действующих спутниковых ретрансляторов угрозой типа casus belli[10]. Я не выдумал этого специально, ради настоящих рассуждений. Советского Союза уже нет, искусственного интеллекта — пока нет, но могу заверить читателей, что одновременно с его появлением наступит новая эра, насыщенная новыми, доселе неведомыми опасностями. Не всех восхищает идея ГЛОБАЛЬНЫХ ВАРИАНТОВ ЦЕНЗУРЫ. Кроме того, искусственный интеллект не скажу что сможет взять нас за жабры, но ввести в заблуждение, обмануть, сбить с пути он сумел бы. Это во-первых. Во-вторых, как мозги у всех людей разные, так не может быть и одинаковых (вплоть до тождества) интеллектов. Как существуют двигатели разной мощности, так разным по силе может быть и искусственный интеллект. Это не приведет сразу к производству машинным путем Эйнштейнов или — как в моей повести — «Големов». Возможно, возникнут интеллекты разного рода, основанные на различных «типах характеров». Я лично считаю, что «разумность» и «индивидуальность» — это потенциально разные по смыслу понятия. Но такое потенциальное разделение тоже не может сослужить нам добрую, и только добрую, службу.

5

Хочу заметить, что я по-прежнему крайне далек от примитивных мифоподобных сказок об «античеловечном», «злобном интеллекте», таком, который будет развивать у роботов человеконенавистнические или бунтарские настроения. Не следует сразу все видеть в самых мрачных тонах, которые как раз легче всего себе вообразить. Искусственный интеллект способен принести и пользу, и вред, поскольку таковой была и остается судьба любого технологического новшества, которое люди смогли изобрести и пустить в дело.