Футурология

Интеллект всегда был ядром технологии. Если технология сможет значительно улучшить человеческий интеллект — создать умы, более умные, чем самые интеллектуальные люди, то тогда кольцо замкнется и возникнет положительная обратная связь. Что люди с интерфейсом мозг-компьютер будут делать со своим усиленным интеллектом? Весьма вероятно, что они будут создавать следующее поколение интерфейсов мозг-компьютер. Усиление интеллекта — это классическая точка перелома. Чем умнее вы становитесь, тем больше интеллекта вы можете использовать, чтобы стать еще умнее

Этот цикл положительной обратной связи начнет резко усиливаться, подобно цепной ядерной реакции, когда достигается критическая масса. Каждое усиление интеллекта приводит к >1,000 усилений интеллекта в следующем цикле такого же масштаба, хотя и необязательно в виде гладкой экспоненциальной кривой. Технологический прогресс начинает происходить с характерной скоростью работы транзисторов (или супертранзисторов), а не человеческих нейронов. Рост резко ускоряется и быстро создает суперинтеллект (на много порядков превосходящий человека) — до того, как он достигает физических пределов роста

Ирвинг Гуд, Элиезер Юдковски

Э. Юдковски подвел итог дискуссии о сингулярности: «Если вы экстраполируете нынешнюю версию закона Мура на время после возникновения превосходящего человека ИИ, чтобы сделать предсказания о 2099 годе, то тогда вы будете противоречить строгим версиям „горизонта событий“ (который говорит о том, что вы не можете делать предсказаний, поскольку вы будете пытаться перехитрить превосходящий человека ум) и сильной версии „взрыва интеллекта“ (поскольку прогресс станет происходить быстрее, когда умы, превосходящие человеческие, и нанотехнологии перенесут прогресс на скорость работы транзисторов, а не нейронов).

Я нахожу очень тревожащим то, что эти три школы мысли смешались в одну кучу под маркой „сингулярности“. Ясное мышление требует различий.

Если вам интересно, что из перечисленного было исходным значением термина „сингулярность“, то это был „горизонт событий“ Вернора Винджа, который и ввел этот термин».

Многие люди связывают с сингулярностью самые позитивные ожидания.

Теоретически сингулярность означает возможность бессмертия, неограниченного расширения сознания и полеты на другие планеты.

Соответственно, возникло следующее упрощенное представление о сингулярности: достаточно дождаться ее, а потом искусственный интеллект решит все наши проблемы, возникнут экономика изобилия и рай на Земле. Неудивительно, что такие представления вызвали ответную реакцию: высказывались предположения, что идеи о сингулярности — это своего рода религия для фанатов техники.

Тем не менее мы полагаем, что фазовый переход неизбежен, и он произойдет в XXI веке.

Закон Мура

Источником оптимистичных прогнозов о возможности создания ИИ и о грядущем радикальном улучшении многих технологий является закон Мура. Он был сформулирован основателем компании Intel Гордоном Муром в 1965 году и гласил, что число транзисторов на чипе будет удваиваться каждый год.

С течением времени суть предсказания неоднократно менялась: речь шла о числе транзисторов на кристалле, о плотности транзисторов, о тактовой частоте, о суммарной производительности микропроцессора. Кроме того, период удвоения варьировался между одним и двумя годами.

В результате был выведен некий обобщенный закон Мура — прогресс в области компьютеров характеризуется экспоненциальным ростом с периодом удвоения около 1–2 лет. Аналоги этого закона действуют в биотехнологиях.

Главным проявлением закона Мура является постоянное снижение стоимости вычислений.

Именно в этом смысле закон Мура использует Р. Курцвейл, когда говорит, что к 2029 году за 1000 долларов можно будет купить компьютер, сравнимый по производительности с человеческим мозгом. Именно к этому времени компьютер сможет пройти тест Тьюринга, доказывая наличие у него разума в человеческом понимании слова. Это будет достигнуто путем компьютерной симуляции мозга человека. В 2045 году, по мнению Курцвейла, вся Земля начнет превращаться в один гигантский компьютер, и постепенно этот процесс может распространиться на всю Вселенную.

Хорошим мерилом силы закона Мура является прогресс в области суперкомпьютеров, на который влияет много составляющих: стоимость вычислений, количество средств, доступных для покупки, эффективность обмена данными между процессорами. В этой области мы наблюдаем период удвоения порядка 12–18 месяцев.

Футурологический статус закона Мура постоянно меняется от предложения к плану.

В 1965 году это было предсказание на 10 лет вперед, основанное как на экстраполяции за предыдущие 5 лет, так и на модели, которая предсказывала наиболее выгодные формы оптимизации числа транзисторов на чипе. А через 10 лет он стал одновременно и эмпирическим обобщением прошлого опыта, и планом на будущее.

Закон Мура продолжает действовать уже 45 лет, сохраняя свои основные параметры.