Катализатор величия

Сергей: Каким будет следующий шаг в эволюции сознания, разума?

Данила: Это сложный вопрос. Мы можем себе представить, как будем себя вести, если станем, например, сильнее, быстрее или выше ростом. Но для нас крайне трудно предсказать, что начнет происходить, если мы станем умнее. Почему? Почитайте научную фантастику. Если в ней вдруг появляется какой-то сверхразумный человек, то он всегда начинает делать какие-то очевидные глупости. С чем это связано? Мы просто не умеем моделировать существ, интеллект которых существенно выше нашего. У нас нет ресурсов для этого.

Сергей: Но мы можем предположить, какими будут характеристики сверхразумных существ?

Данила: Да. Например, очевидно, что такое существо сможет преодолевать собственные когнитивные ограничения. Что это такое? Обычный человек, как правило, не ставит под сомнения правильность собственных мыслей. Сверхинтеллект будет способен прямо по ходу размышления анализировать свои мыслительные процессы, наблюдать за ними и вносить коррективы, т. е. работать на метауровне мышления: размышлять про размышления, обучаться обучению. К чему это приведет?

Сверхинтеллект будет постоянно, в фоновом режиме, улучшать сам себя за счет параллельного запуска тысяч интеллектуальных программ.

Сергей: Какие цели будут у сверхразумных существ?

Данила: На этот вопрос мы сегодня ответить не можем. Вероятно, их основной мотивацией станет возможность решать все более и более сложные задачи. Характер этих задач нам сейчас даже не предположить, так же как младенцу не представить уровень сложности проблем взрослого человека.

Линейное наращивание потребления («было три машины, стало пять машин, причем летающих») – явно устаревающая конструкция. Древние идеи, типа «сделать всех счастливыми» или «достичь гармонии» здесь так же не подходят. Все подобные задачи будут решены сразу, в момент рождения, и гарантированы на всю жизнь.

Интервью полностью:

sukhov.com/blog/danila-medvedev-vse-predstavleniya-o-zhizni-polnostyu-izmenyatsya/

Фрагмент интервью

Максим Поташев: Мы не деградируем, мы умнеем

Максим Поташев, магистр телеигры «Что? Где? Когда?», трехкратный обладатель приза «Хрустальная сова», президент федерации спортивного бриджа России, математик, финансовый аналитик, консультант.