Стартап (курс CS183) - Стэнфорд, весна 2012 г.

Скотт Браун: Сетевые эффекты могут обеспечить серьезное преимущество. Скажем, вы разработали замечательное ПО для распознавания изображений. Если вы — первый и лучший, вы сможете стать AWS в мире распознавания. Вы создаете петлю обратной связи, которая вас обезопасит; все подсядут на вашу систему, и она будет становиться лучше, поскольку все сидят на ней.

Эрик Джонас: У AWS есть конкуренты, но они по большей части не выше уровня шума. AWS до сих пор была на шаг впереди них в инновациях. Основная идея заключается в скорости убегания, когда устойчивое лидерство основывается само на себе. Мы играем в ту же игру с данными и алгоритмами.

Скотт Браун: И вы становитесь лучше, пока другие просто вас копируют. Предположим, вы построили хорошую систему зрения. К тому времени как люди скопируют вашу V1, вы уже приложите свои алгоритмы к слуховым и языковым системам. И у вас не только больше данных, чем у них, но вы успели привнести в улучшенную V1 и новые вещи.

Питер Тиль: Переключимся на главный экзистенциальный вопрос в ИИ: насколько опасна эта технология?

Эрик Джонас: Я трачу намного меньше времени на беспокойство об опасностях технологии, чем на то, когда мы станем прибыльными. Поэтому я планирую назвать своего ребенка Джон Коннор Джонас…

Если серьезно, мы знаем, что вычислительная сложность ограничивает возможности ИИ. Это интересный вопрос. Допустим, мы сможем сэмулировать человека в коробке, по Робину Хэнсону (Robin Hanson). Какие уникальные угрозы это несет? Этот интеллект не будет озабочен благополучием людей, так что он потенциально вредоносен. Но для этого могут существовать серьезные ограничения. Подход Байеса — это, в определенном смысле, хороший способ рассуждать в условиях неопределенности. В какой мере меня это волнует: я больше переживаю за следующее поколение, но не за нас сейчас.

Скотт Браун: Мы рассуждаем об интеллекте, как о чем-то ортогональном моральной интуиции. ИИ может быть способен делать точные предсказания, но не судить о том, что хорошо, а что плохо. Он может быть просто оракулом, который рассуждает о фактах. В таком случае он такой же, как и любая другая технология; изначально нейтральный инструмент, который настолько же хорош или плох, насколько хорош или плох человек, пользующийся им. Мы много думаем об этике, но не в том ключе, в котором популярные компьютерные философы пишут о ней. Люди часто путают наличие интеллекта с наличием воли. Интеллект без воли — это просто информация.