Искусственный интеллект

В рекомендуемых стандартах по компьютерной этике есть определенные этические требования, которые не выполняются. В системе учета нескольких университетов зарегистрированы курсы по этике для компьютерных и конструкторских специальностей. Этика и мораль находятся за пределами нашей дискуссии, однако достаточным будет сказать, что это далеко не terra incognita. Моральные соображения и концепты вроде общественного договора – это то, чем мы пользуемся, когда приближаемся к пределам собственных представлений об истине или понимания того, как стоит действовать в конкретном случае. Мы принимаем решения в соответствии с традициями нашего общества, которые могут формироваться религиозными или иными социальными группами. Когда социальные рамки отсутствуют, люди склонны принимать странные решения. В случае с беспилотными автомобилями нет ни единого шанса, что решения, принимаемые индивидами в офисах технологических корпораций, совпадут с принятыми представлениями об общественном благе. Что вновь приводит нас к вопросу: чему служат технологии? Каким образом они служат нам? Почему автономные машины запрограммированы на спасение водителя, а не группы детей? Кто согласится на такую версию «по умолчанию» и сядет за руль?

Огромное количество людей, включая представителей технологической индустрии, предупреждают о том, что феномен беспилотных транспортных средств поднимет сложные и пока не решенные проблемы. Среди прочих Жарон Ланье обращает внимание на экономические последствия:

Автономные автомобили работают с большими данными. Это не какой-то совершенный искусственный мозг, знающий, как управлять машиной. Просто улицы оцифрованы до мельчайших деталей. Откуда же приходят все эти данные? В частности, с автоматизированных камер. Однако не так важно, откуда приходят данные, – в цепи всегда есть тот, кто ими управляет. И он не автоматизирован, в полном смысле слова. Может, кто-то с очками Google Glass заметит выбоину или кто-то, кто проехал ее на велосипеде, – лишь несколько человек получат новую информацию. В тот момент, когда данные становятся эксклюзивными, повышается их ценность. Стоимость обновления входных данных будет гораздо выше, чем мы себе представляем[126].

Ланье, описывая мир, где безопасность транспортного средства опирается на монетизированные данные, характеризует его как антиутопию, где доступ к данным получают те, кто готов платить за них больше. Он предупреждает, что будущее беспилотных автомобилей едва ли связано с безопасностью, этичностью или высшим благом. Проблема заключается в том, что лишь немногие задумываются об этом. «Автономные машины в тренде и скоро станут реальностью» – это, кажется, стало уже прописной истиной, но мало кто замечает, что слова «скоро станут реальностью» звучат уже десятки лет. Сейчас все эксперименты с беспилотными автомобилями требуют водителя и разработчика на борту. И только техношовинист способен назвать такое положение дел успехом, а не провалом.

Однако в связи с разработками беспилотников на рынке появилось несколько полезных функций. В моей машине есть камеры, встроенные по всем четырем сторонам, – они помогают парковаться. В некоторых дорогих машинах появилась функция параллельной парковки, которая помогает водителю припарковаться в узком месте. В иных машинах есть устройство контроля полосы, которое издает звук, если вы приближаетесь к разметке. Я знаю нескольких водителей, которые действительно очень ценят эту функцию.