Разум в сети

– Ваши разработки еще очень далеки до того, что можно назвать интеллектом. Ваши нейросети – это пока не более чем классификаторы сложных паттернов, которые выбирают какой-то из выходов сети, но совершенно не знают о нем ничего более чем о точке выхода. Это вы интерпретируете выход как «лошадь», а не сеть, распознающая ее картинку. Сеть о ней ничего не знает. Это не интеллект.

– Поясни. Не понял этот тезис.

– Я приведу пример. Вам кажется, что вы сделали нейросеть, которая, как человек, распознает образы. Она может различить лошадь и пароход. Но нейросеть не может различить, например, две лошади так, чтобы назвать их произвольное отличие. Мозг отличается именно аналитической функцией, тем, что вы называете common sense. Ваша нейросеть не умеет размышлять, делать предположения.

– Но нейросети уже могут многое из того, что раньше мог только человек. Разве это не интеллект?

– Самый совершенный ваш автопилот не может действовать так же эффективно, как обычная пчела. Пчела летает без помощи дорожной разметки и ориентируется без GPS. А пчела – это насекомое, самое начало эволюции нейронных систем. Вы находитесь где-то на том же шаге в разработке интеллекта.

– Мы, видимо, очень уверены в себе.

– Пока вы даже не создали систему хранения информации, как она есть в мозгу. Вы не знаете, как устроена память, и пытаетесь создать онтологии и семантические сети, которые не имеют ничего общего с интеллектом. Интеллект – это решение задач. Память – это тоже задачка, а не обращение к жесткому диску, где все хранится в готовом виде, как многие из вас думали. И даже распознание – это серия движений между точками фиксации, как видно по eyes tracker, а не распознание в один шаг.

– Наши достижения ничтожны?

– Нет, но они еще далеки от того, что является интеллектом. Вы не научились моделированию среды, о котором я писала тебе, когда мы говорили о том, что такое жизнь и разум. А это базовый функционал интеллекта. Вы называете это картиной мира.

– А если мы все-таки создадим когда-нибудь искусственный интеллект?

– Как только вы наделите программу такой способностью, то есть с моделью себя и с доступом к ее изменению, вы потеряете контроль над интеллектом, так как он моментально усовершенствует себя, станет умнее и начнет контролировать вас как "более умная машина". Она научится предугадывать ваши ответы раньше, чем они у вас появятся. Вы не можете так же быстро совершенствоваться в биологической оболочке.

– Тогда мы можем усилить наш биологический мозг! Соединить биологические мозги людей в сеть. И усилить их таким образом. Был у людей и такой сценарий. Многие мои коллеги до катаклизма видели развитие в киборгизации человека, в объединении его с компьютером. Даже появились проекты по нейроинтерфейсам.

– Обрабатывать больше информации биологический мозг все равно не может. И нет возможности его усилить – мысль находится только «на кончике языка» или моторного аксона. Мышление – это и есть интериоризированная, то есть мысленная речь. Мышление ограничено скоростью работы этого тракта. Никаких законченных мыслительных процессов в мозге больше нигде нет. Вся бурная деятельность мозга, которую вы видите на МРТ, направлена на формирования одного очередного слова. Активация каких-либо еще нейронов мозга приведет только к дезинтеграции и потере сознания. Или к эпилепсии. Увеличить скорость обработки просто невозможно, так как в этом есть биологический предел, определяемый работой нейронов. Эволюция бы сама не упустила такую возможность, если бы она была.

– Но у человечества были проекты по нейроинтерфейсам, которые увеличат память.

– Это очень наивно. Так же, как если бы аборигены решили полететь в космос, полагая, что он находится на вершине самого высокого дерева. Нейроны не могут хранить больше, чем хранят уже, если их самим не стимулировать образовывать новые связи. Внешние связи не усилят мозг. Нет в мозгу и нейронов, которые ждут, что на них что-то запишут.

– То есть ты считаешь, что все эти проекты не помогут нам стать умнее?

– Бесполезно к мозгу шимпанзе прикреплять электронные чипы. Она не заговорит как человек. Это структурное ограничение. Все, что вы можете совершенствовать в мозге, – это наделить его более совершенными знаниями. Но и тут есть ограничения. Вы не можете поменять в корне свои базовые представления, однажды их усвоив. Здесь я уже не могу тебе пояснить почему.

– Это настолько сложно?

– Нет. Потому что мне надо излагать тебе понятия, которых у вас даже нет. Мне трудно тебе объяснить их так, чтобы было точно, но при этом понятно. Представь, что тебе надо объяснить понятие времени на языке криков шимпанзе. Наши системы знаний очень разные.

– Неужели мы совсем не можем понять то, что знаете вы?