Тени разума. В поисках науки о сознании

Если же верить  Cили D, то можно ожидать, что компьютеры навсегда сохранят подчиненное по отношению к человеку положение — какими бы быстрыми, мощными или алгоритмически совершенными они ни стали. При этом точка зрения  Cне отрицает возможности будущих научных разработок, которые могут привести к созданию неких устройств, принцип действия которых небудет иметь ничего общего с компьютерами в их сегодняшнем понимании, а будет основан на той самой невычислимой физической активности, которая, согласно C, обусловливает наше собственное сознательное мышление, — устройств, которые окажутся способны вместить в себя реальныеразум и сознание. Быть может, в конечном итоге именно такиеустройства, а вовсе не те машины, которые мы называем «компьютерами», и превзойдут человека в интеллектуальном отношении. Что ж, не исключено; однако подобные умозрительные прогнозы представляются мне в настоящий момент крайне преждевременными, поскольку мы практически не обладаем необходимыми для таких исследований научными познаниями, не говоря уже о каких бы то ни было технологических решениях. К этому вопросу мы еще вернемся во второй части книги ( §8.1).

1.11. Обладают ли компьютеры правами и несут ли ответственность?

С некоторых пор умы теоретиков от юриспруденции начал занимать один вопрос, имеющий самое непосредственное отношение к теме нашего разговора, но в некотором смысле более практический ^{15}. Суть его заключается в следующем: не предстоит ли нам в не столь отдаленном будущем задуматься над тем, обладают ли компьютеры законными правами и несут ли они ответственность за свои действия. В самом деле, если со временем компьютеры смогут достичь уровня человека (а то и превзойти его) в самых разных областях деятельности, то подобные вопросы неминуемо должны приобрести определенную значимость. Если придерживаться точки зрения A, то следует, очевидно, признать, что компьютеры (или управляемые компьютером роботы) должны потенциально и обладать правами, и нести ответственность. Ибо, согласно этой точке зрения, между человеком и роботом достаточно высокого уровня сложности нет существенной разницы, за исключением такой «мелочи», как различие в материальном строении. Однако приверженцам точки зрения  Bситуация представляется несколько более запутанной. Разумно утверждать, что вопрос о правах или ответственности уместен для созданий, наделенных способностью чувствовать, т.е. испытывать определенные, подлинно душевные «ощущения» — такие, как страдание, гнев, мстительность, злоба, вера (религиозная и общечеловеческая), желание, сомнение, понимание или страсть. Согласно B, управляемый компьютером робот не обладает такой способностью, вследствие чего, на мой взгляд, не может ни обладать правами, ни нести ответственность. С другой стороны, если верить B, не существует эффективного способа определить, что упомянутая способность у робота действительно отсутствует, поэтому если роботы смогут достаточно правдоподобно имитировать поведение человека, то человек может оказаться в весьма затруднительном положении.

Подобного затруднения, по всей видимости, не возникнет у сторонников точки зрения  C(а также, возможно, D) поскольку, согласно этим точкам зрения, компьютеры не в состоянии убедительно демонстрироватьдушевные переживания и, уж конечно же, ничего похожего не чувствуют и чувствовать никогда не будут. Соответственно, компьютеры не могут ниобладать правами, нинести ответственность. Лично мне такая точка зрения представляется весьма разумной. Вообще в этой книге я выступаю как серьезный противник позиций  Aи B. Согласившись с моими аргументами, юристы, безусловно, существенно упростят себе жизнь: как таковые компьютеры или управляемые компьютерами роботы ни при каких обстоятельствахне обладают правами и не несут ответственности. Нельзя обвинить компьютеры в каких бы то ни было неприятностях или недоразумениях — виновен всегда человек!

Следует, однако, понимать, что вышеприведенные аргументы могут и не относиться к всевозможным гипотетическим «устройствам», подобным упомянутым выше — тем, что смогут в конечном итоге воплотить в себе принципы новой, невычислительной физики. Но поскольку перспектива появления таких устройств — если их вообще удастся создать — весьма туманна, возникновения связанных с ними юридических проблем в ближайшем будущем ожидать не приходится.