Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

То, что машинам на откуп отдаются специфические способности смертных — совершать интересные ошибки, размышлять об истине, просить милости у богов с помощью резьбы по дереву и составлять букеты, — та еще трагедия. Но позволить машинам мыслить за нас? Звучит чудесно! Мышление опционально. Мышление — это боль. Почти всегда — необходимость вести себя внимательно, чрезмерно бдительно, негодовать по поводу прошлого и страшиться будущего, и все это в форме раздражающе избыточного внутреннего монолога. Если машины могут избавить нас от столь тягостной бессмыслицы, которая для многих из нас становится непосильной, то я за. Пусть машины беспрестанно дают ответы на нудные, основанные на оценочных суждениях вопросы о том, какая школа «подходит» для моих детей — частная или государственная, о том «уместно» ли вторжение в Сирию, о том, что «хуже» для моего тела — микробы или одиночество. И вот уже мы, свободные люди, вольны играть, отдыхать, сочинять и заниматься резьбой по дереву, то есть посвящать время увлекательным вещам, которые вводят нас в состояние потока, порождая действия, которые обогащают, воодушевляют и исцеляют мир.

Машины, которые работают, пока не перестают работать

Барбара Страук

Бывший научный редактор New York Times; автор книги «Тайны мозга взрослого человека» (The Secret Life of the Grown-up Brain)[83]

Когда я рулю не пойми куда, бездумно выполняя все указания навигатора, установленного на моем смартфоне, и добираюсь до нужного места, я в полном восторге от машин, которые мыслят. Слава богу! Правда-правда!

Но бывают и моменты, когда я еду не пойми куда, а телефон говорит мне с заметной настойчивостью: «Выполните разворот, выполните разворот!» — причем в таком месте на Гранд-Сентрал-Паркуэй, где подобный маневр был бы самоубийством. Тогда я начинаю думать, что мой мозг лучше, чем алгоритм навигатора, поскольку способен предсказать, что такой разворот будет иметь катастрофические последствия. И я смеюсь над этой машиной, часто жизненно необходимой, и чувствую сугубо человеческое самодовольство.

Кроме того, я пребываю в некоторой растерянности. Меня беспокоит, что, полагаясь на навигатор, я позволяю своему мозгу захиреть. Сможет ли он справляться с чтением карт? Важно ли это?

Как научный редактор и дочь инженера-проектировщика, который доверял машинам больше, чем людям, я, наверное, должна была без сомнений занять сторону машин. Но, хотя этот инженер очень хорошо разбирался, как сделать так, чтобы «Апполон» добрался до Луны, у нас дома было полно машин, которые «типа работали»: самодельный проигрыватель, настолько капризный, что приходилось надевать перчатки, прежде чем включить его, чтобы не него не попала вся эта ужасная пыль, и пр. Вокруг нас сейчас полно машин, которые «типа работают». Машин, которые работают, пока не перестают работать.

Мне понятна идея беспилотного автомобиля. Но я освещала крушение «Челленджера». И я все время думаю про эти неразумные развороты. Я не знаю.

С одной стороны, я надеюсь, что революция продолжится. Нам нужны умные машины, чтобы загружать тарелки в посудомойку, чистить холодильник, упаковывать подарки, кормить собаку. «Валяй», — говорю я.

Но можем ли мы в самом деле рассчитывать на то, что машина справится — как мне пришлось только что — с пятью непростыми разговорами с разными коллегами-людьми? С людьми, которые на самом деле хорошие, но у них, понятно, собственные взгляды на то, как все должно быть?

Появится ли у нас когда-нибудь машина, которая убедит двадцать с лишним человек сделать что-то, что, по вашему мнению, им нужно сделать, а по их мнению, делать не надо? Появится ли у нас машина, которая сумеет по-настоящему утешить в предельно неприятной ситуации?

Вот почему, несмотря на мой революционный пыл, несмотря на то что, по-моему, машины могут делать кучу разных вещей лучше людей, я как филолог думаю: пока машина не напишет стихотворение, от которого мне захочется плакать, я все же буду на стороне людей.

Конечно, до тех пор, пока мне срочно не понадобится какой-нибудь рецепт.

Правила меняются по ходу игры

Шейзаф Рафаэли

Преподаватель и директор Центра исследований Интернета, Хайфский университет (Израиль)

Мыслящих машин пока нет. Но они дадут о себе знать, когда появятся. В том-то все и дело. Мышление машины определяется коммуникацией.