Читаем Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте полностью

Мы уже столкнулись с тем, что специалисты по теории вычислительных систем любят называть проблемой атрибуции: с установлением того, кто в действительности ответственен за определенные события, происходящие в интернете или через него (например, за кибератаку на государственное учреждение или транснациональную корпорацию). Эти проблемы и связанная с ними полемика только продолжат обостряться.

Нам предстоит разобраться с тем, какими будут правовые последствия развития и расширения облачных структур; схожие вопросы задаются сегодня по поводу интернета и сетевых устройств. Кто решает, как будет развиваться технология, от которой все больше зависит наша экономическая, общественная, политическая и религиозная жизнь? Кто ответственен за нарушение чьих-либо прав в результате воздействия этих технологий, платформ и сетей? Кто и перед кем будет отвечать за такие нарушения, как цензура, слежка, подстрекательство к физическому насилию, основанная на определенных данных дискриминация и т. д.?

Появятся и новые вопросы. Будут ли конкурирующие сети, созданные и тесно связанные с соответствующими конкурирующими культурами (заметьте, я не говорю «контролируемые»), коммерческими альянсами, религиями или государственными структурами, блокировать связи друг у друга? Могут ли они сражаться друг с другом? Как будет осуществляться художественное творчество? Как будет осуществляться политика? Как будет осуществляться война? Можно ли делегировать цензуру и слежку сетям не-людей, чтобы люди не несли ответственности за подобные вещи? (Как это было бы удобно для наших правительств и бизнеса!) Можно ли вместо этого спроектировать мыслящие сети вещей таким образом, чтобы для определенных действий требовалось непосредственное участие человека или его согласие?

Будут ли более развитые умные облачные структуры усугублять глобальное неравенство? Могут ли они обострить идеологические и религиозные конфликты, если мы ничего не предпримем, чтобы этого не допустить? Если мы хотим предотвратить увеличение глобального цифрового разрыва, что нам нужно делать уже сейчас?

Будут ли эти сети открытыми или закрытыми? Сможет ли любой новатор, независимо от своего местонахождения, подключить что-то к сети и начать в ней общаться, или, вернее, участвовать в ней, без необходимости получать разрешение? Или же это будет управляемая система, где определенные компании и правительства станут решать, кто и что может подключать и по какой цене? Или какие-то системы будут открытыми, а какие-то — закрытыми?

Приведут ли более умные и мощные глобальные сети к дальнейшему размыванию влияния и легитимности национальных государств, более выраженному, чем привел интернет? Или же они как-то усилят влияние национальных государств? Или дадут национальным государствам возможность эволюционировать и выживать в новом сетевом мире?

Мы не можем ждать хороших или гуманных результатов только потому, что люди, которые изобретают или внедряют новую технологию, имеют добрые намерения, ценят и любят свободу и демократию. Подобные допущения не очень-то оправдались для интернета — и для всего, что появится после него, тоже не оправдаются.

<p>Рободоктора</p>Герд ГигеренцерПсихолог; директор Центра адаптивного поведения и познания, Институт человеческого развития Общества научных исследований им. Макса Планка (Берлин); автор книги «Понимать риски: Как выбирать правильный курс» (Risk Savvy: How to Make Good Decisions)[74]

Пришло время ежегодного медосмотра. Вы входите в кабинет врача и жмете его холодную руку, металлическую руку машины. Вы стоите лицом к лицу с РД — сертифицированным рободоктором. Как вам такая перспектива? «Ну уж нет! — скажете вы. — Дайте мне настоящего доктора, который выслушает, поговорит со мной, у которого, как и у меня, есть чувства. Дайте мне человеческое существо, которому я могу слепо доверять».

Но задумайтесь на секундочку. При страховой медицине врач общей практики не уделит вам больше пяти минут. О каком мышлении тут может идти речь? Многие врачи мне жалуются на своих беспокойных, плохо осведомленных и непослушных пациентов — те ведут нездоровый образ жизни и требуют лекарств, которые рекламируют по телевизору знаменитости, а если что-то пойдет не так, угрожают судебными тяжбами.

Перейти на страницу:

Все книги серии Искусственный интеллект

Роботы наступают. Развитие технологий и будущее без работы
Роботы наступают. Развитие технологий и будущее без работы

Смогут ли роботы обеспечить людям материальное изобилие, избыток свободного времени, качественную медицину и образование или же они превратят нашу планету в мир неравенства и массовой безработицы? Правда ли, что усердие и талант перестанут быть залогом жизненных достижений?Успешный разработчик программ и IT-предприниматель Мартин Форд не претендует на то, что знает ответы на все вопросы, но аргументированно и веско показывает, почему современные технологии способны оказаться намного более разрушительными для рынка труда, чем инновации прошлого. Цель автора — не испугать читателя, а привлечь внимание к этим непростым темам. Эту увлекательную и содержательную книгу стоит прочитать всем, кто хочет понять, как развитие новых технологий влияет на экономические перспективы, на наших детей и на общество в целом.

Мартин Форд

Публицистика
Восстание машин отменяется! Мифы о роботизации
Восстание машин отменяется! Мифы о роботизации

Будущее уже наступило: роботов и новые технологии человек использует в воздухе, под водой и на земле. Люди изучают океанские впадины с помощью батискафов, переводят самолет в режим автопилота, используют дроны не только в обороне, но и обычной жизни. Мы уже не представляем мир без роботов.Но что останется от наших профессий – ученый, юрист, врач, солдат, водитель и дворник, – когда роботы научатся делать все это?Профессор Массачусетского технологического института Дэвид Минделл, посвятивший больше двадцати лет робототехнике и океанологии, с уверенностью заявляет, что автономность и искусственный интеллект не несут угрозы. В этой сложной системе связь между человеком и роботом слишком тесная. Жесткие границы, которые мы прочертили между людьми и роботами, между ручным и автоматизированным управлением, только мешают пониманию наших взаимоотношений с робототехникой.Вместе с автором читатель спустится на дно Тирренского моря, чтобы найти древние керамические сосуды, проделает путь к затонувшему «Титанику», побывает в кабине самолета и узнает, зачем пилоту индикатор на лобовом стекле; найдет ответ на вопрос, почему Нил Армстронг не использовал автоматическую систему для приземления на Луну.Книга будет интересна всем, кто увлечен самолетами, космическими кораблями, подводными лодками и роботами, влиянием технологий на наш мир.

Дэвид Минделл

История техники
Homo Roboticus? Люди и машины в поисках взаимопонимания
Homo Roboticus? Люди и машины в поисках взаимопонимания

Хотим мы этого или нет, но скоро нам придется сосуществовать с автономными машинами. Уже сейчас мы тратим заметную часть времени на взаимодействие с механическими подобиями людей в видеоиграх или в виртуальных системах – от FAQbots до Siri. Кем они станут – нашими слугами, помощниками, коллегами или хозяевами? Автор пытается найти ответ на философский вопрос о будущих взаимоотношениях людей и машин и представляет читателям группу компьютерщиков, программистов, робототехников и нейробиологов, считающих, что мы подходим к переломному моменту, когда искусственный интеллект превзойдет человеческий и наш мир безвозвратно изменится. Однако место человека в этом новом мире специалисты видят по-разному, и автор знакомит нас со всем спектром мнений. Центральная тема книги – двойственность и парадоксальность, присущие деятельности разработчиков, которые то расширяют возможности человека, то заменяют людей с помощью создаваемых систем.

Джон Маркофф

Зарубежная образовательная литература, зарубежная прикладная, научно-популярная литература

Похожие книги

Искусство статистики. Как находить ответы в данных
Искусство статистики. Как находить ответы в данных

Статистика играла ключевую роль в научном познании мира на протяжении веков, а в эпоху больших данных базовое понимание этой дисциплины и статистическая грамотность становятся критически важными. Дэвид Шпигельхалтер приглашает вас в не обремененное техническими деталями увлекательное знакомство с теорией и практикой статистики.Эта книга предназначена как для студентов, которые хотят ознакомиться со статистикой, не углубляясь в технические детали, так и для широкого круга читателей, интересующихся статистикой, с которой они сталкиваются на работе и в повседневной жизни. Но даже опытные аналитики найдут в книге интересные примеры и новые знания для своей практики.На русском языке публикуется впервые.

Дэвид Шпигельхалтер

Зарубежная образовательная литература, зарубежная прикладная, научно-популярная литература
Тайны нашего мозга, или Почему умные люди делают глупости
Тайны нашего мозга, или Почему умные люди делают глупости

Мы пользуемся своим мозгом каждое мгновение, и при этом лишь немногие из нас представляют себе, как он работает. Большинство из того, что, как нам кажется, мы знаем, почерпнуто из общеизвестных фактов, которые не всегда верны… Почему мы никогда не забудем, как водить машину, но можем потерять от нее ключи? Правда, что можно вызубрить весь материал прямо перед экзаменом? Станет ли ребенок умнее, если будет слушать классическую музыку в утробе матери? Убиваем ли мы клетки своего мозга, употребляя спиртное? Думают ли мужчины и женщины по-разному? На эти и многие другие вопросы может дать ответы наш мозг. Глубокая и увлекательная книга, написанная выдающимися американскими учеными-нейробиологами, предлагает узнать больше об этом загадочном природном механизме. Минимум наукообразности — максимум интереснейшей информации и полезных фактов, связанных с самыми актуальными темами: личной жизнью, обучением, карьерой, здоровьем. Перевод: Алина Черняк

Сандра Амодт , Сэм Вонг

Зарубежная образовательная литература, зарубежная прикладная, научно-популярная литература