О вещах действительно важных. Моральные вызовы двадцать первого века

Большинство роботов для дома имеют функциональный дизайн. Домашние помощники от Gecko System очень похожи на робота R2-D2 из «Звездных войн». Роботы, которых делают Honda и Sony, больше похожи на андроида C-3PO из той же эпопеи. Однако уже появились и роботы с мягкими гибкими телами, человеческими лицами и мимикой и большим репертуаром движений. Демонстрационная модель компании Hanson Robotics по имени Альберт лицом поразительно похожа на Альберта Эйнштейна.

Скоро ли гуманоиды поселятся в наших домах? Ноэль Шарки, профессор Шеффилдского университета в области искусственного интеллекта и робототехники, прогнозирует, что работающие родители будут охотно пользоваться роботом-няней, и тревожится о том, как отразятся на ребенке эти часы в обществе машины, не способной к эмпатии, пониманию и сочувствию. Еще один законный вопрос — почему мы разрабатываем энергоемких роботов как раз для тех немногих занятий — уход за детьми или престарелыми, — где могут найти работу люди без образования?

В книге «Любовь и секс с роботами» (Love and Sex with Robots) Дэвид Леви идет дальше и допускает, что мы будем влюбляться в теплых, приятных на ощупь роботов и даже заниматься с ними сексом. (Если у этого робота больше одного полового партнера, просто извлеките соответствующие части, подержите их в дезинфицирующем растворе, и готово. Никакого риска подхватить инфекцию, передающуюся половым путем!) Но как отразится на супружеских отношениях присутствие в доме секс-бота? Что мы почувствуем, когда окажется, что супруга проводит слишком много времени в обществе неутомимого робота-любовника?

Еще тревожнее вопрос, хорошо знакомый нам по книгам и кино: не придется ли нам однажды защищать свою цивилизацию от разумных машин, которые мы сами же и создали? Некоторые считают появление сверхчеловеческого искусственного интеллекта неизбежным и ждут, что это случится не позже 2070 года. Они называют этот этап сингулярностью и считают, что он полностью преобразит мир.

Элиезер Юдковский, один из основателей Института сингулярности и исследований искусственного интеллекта, считает, что сингулярность вызовет «взрывообразный рост разумности»: сверхразумные машины начнут создавать еще более разумные машины и так далее, поколение за поколением. Более осторожная в своих прогнозах Ассоциация развития искусственного интеллекта учредила специальную экспертную панель, изучающую то, что называют «возможной потерей контроля над компьютерным интеллектом со стороны человека».

Если это случится, ключевым для цивилизации станет вопрос: будут ли сверхразумные компьютеры дружественными? Не пора ли задуматься, что можно сделать, чтобы наши собственные создания не превратились во врагов?

Впрочем, пока что беспокоиться стоит не о том, что роботы могут причинить вред человеку, а, наоборот, о том вреде, который роботам можем причинить мы. Сейчас они просто вещь, собственность. Но что, если, усложняясь, они начнут испытывать чувства? В конце концов, что такое человеческий мозг, как не очень сложная машина?

Если машины обзаведутся сознанием, будем ли мы считаться с их чувствами? История отношений с единственными из известных нам чувствующих существ, кроме людей, — с животными — не позволяет надеяться, что чувствующие роботы станут для нас не имуществом, а существами, с чьими моральными правами и интересами необходимо считаться.

Ученый-когнитивист Стив Торренс отмечает, что мощные технологические инновации, например автомобили, компьютеры и телефоны, имеют тенденцию распространяться быстро и неконтролируемым образом. Появление в таком масштабе сознательных роботов, которых мы не примем в свой круг существ моральных, может привести к массовому дурному обращению с ними.

Еще сложнее вопрос, как понять, что робот уже обладает сознанием, а не просто имитирует сознание, потому что его так запрограммировали. Тут может помочь хорошее понимание его программного компонента: позволяет ли написанный его разработчиками код имитировать сознание? Если да, нет причин считать такого робота сознательным. Но если он создан с некими способностями, которые случайным образом привели к возникновению сознания, у нас есть все основания считать его действительно сознательным существом. Не исключено, что движение за права роботов зародится именно в этот момент.

Project Syndicate, 14 декабря 2009 года

Мечта цифровой эпохи

ПОЛВЕКА НАЗАД Мартин Лютер Кинг мечтал, что однажды Америка исполнит свое обещание равенства для всех, белых и темнокожих. Сегодня у основателя Facebook Марка Цукерберга тоже есть мечта: дать доступ в Интернет тем пяти миллиардам людей планеты, у которых его еще нет.

Цель Цукерберга может показаться корыстной: увеличить число пользователей Facebook. Но современный мир сталкивается с растущим разрывом в уровне технологий, который для равенства, свободы и стремления к счастью становится тем же, чем было расовое разделение, ставшее причиной протестных выступлений Кинга.