Интеллект, свобода воли и прочие мелочи

[darth_vasya]

alex_rozoff продолжает тему Гросса об "искусственном инстинкте", предложенном Станиславом Лемом в качестве альтернативы "искусственному интеллекту":

"В чем же отличие? Интеллект может сам программироваться и перепрограммироваться — инстинкту этого не дано. Но это не мешает насекомым, живущим исключительно за счет инстинктов, совершать удивительно сложные действия. ... Согласно исследованиям Американского института всемирных исследований, большинство задач, которые выполняют люди на работе, не требует применения интеллекта.

Это справедливо почти для 98% рабочих мест. Критерий, по которому американские исследователи определяли, какая работа творческая, а какая — нет, был прост: если служебные обязанности можно исполнять по инструкции, значит, мы имеем дело с «инстинктивным» трудом. Неужели пчела, которая умудряется добыть из сложного соцветия пыльцу, донести ее до улья, да еще сообщить о местонахождении цветка своим сородичам, не справилась бы с управлением грузовиком?"

Внимание, вопрос: а не переоцениваем ли мы способность интеллекта перепрограммироваться? Может, ее и нет, этой способности? Посмотрите на себя и на окружающих людей. Найдете ли вы хоть одно действие ,которое выходит за рамки инстинктивного поведения с наложенным фоном случайных отклонений?

Не является ли разумность, интеллектуальность, осознанность и пр. слабоопределенные качества человека, бессодержательными мифами - т.е. "зомбирующими" символическими конструкциями, своего рода лексическими феромонами человейника?

На что я ему отвечаю:

Значит так, во-первых, вы жульничаете, потому что используете слово "интеллект" в двух смыслах:

1) "кибернетическое" определение - система, получающая информацию об окружающем мире и на основе её действующая тем или иным способом;

2) "повседневное" определение - то, что есть у человека, но нет у остальных животных.

Ко всему этому ещё и неявно прибавляется абсурдное понятие свободы воли: "сами" мы обучаемся или это работает некоторый автоматический "обучательный рефлекс".

Вот, кстати, (во-вторых) давайте вместо абстрактного поведенческого термина "инстинкт" использовать конкретный и понятный термин "рефлекс". Вот у камня рефлексов нет: мы его пнули и за счёт сообщённой ему энергии он сдвинулся. А если надавить пальцем себе на кожу - на некоторое время появится пятно. Это уже рефлекс: рецепторы давления чувствуют воздействие и подают сигнал мускулатуре кровеносных сосудов. Система реагирует сама, автономно. Если, например, стукнуть молотком под коленку, то разгибание ноги тоже будет рефлексом - но уже более сложным: сигнал от рецептора сначала дойдёт до нервного узла в позвоночнике, который отправит уже свой сигнал на скелетные мышцы.

Представляется, что, сколько бы мы таких промежуточных звеньев ни натыкали (хоть весь путь от восприятия неприличного слова в улитке до мышц руки, осуществляющей ответную реакцию тяжёлым предметом по высказавшей слово голове), по сути это всё равно останется тем же рефлексом. Но от случая с камнем, который мы пинали в самом начале, отличие будет принципиальное: рефлекс - это самостоятельная, независимая реакция системы на воздействие.

Далее будем следовать по предложенному В. Турчиным пути. Можно представить себе нервный узел, который получает информацию сразу от нескольких рецепторов. Например (история, в буквальном смысле до боли знакомая всем с детства), тактильного и болевого: вот решили мы, скажем, переместить с места на место некоторый предмет. Однако, если предмет горячий, надавив на него, мы почувствуем боль, и отдёрнем руку. Это уже более сложное поведение. А если добавить ещё и температурный рецептор, способный почувствовать жар до прикосновения, тогда наш нервный узел сможет обучиться: прикосновение к горячему предмету вызывает повреждения. Ассоциация многих рецепторов в одну схему - то, что у Турчина называется "метасистемный переход". Первый был - сам рефлекс, второй - ассоциация рецепторов.

(К вопросу об обучении и пчёлах, управляющих грузовиками: ещё в 2004 году (in English и по-русски) было продемонстрировано, что самолётом может управлять просто культура крысиных нейронов, выращенная на подложке с электродами.)

Итого, получается, что биологический интеллект (в первом смысле) имеет вполне себе "рефлекторную" природу. Его обучение (формирование новых рефлексов и изменение старых) состоит в перераспределении связей между рецепторами и эффекторами. Способность к этому заложена в его устройство и тоже вполне себе может быть названа "рефлекторной", так как обучение одних частей системы происходит под действием других (болевой рецептор выше).

Далее по этому пути приходим от простого рефлекса к сложному: большое количество рефлексов объединяются в сценарии. Знаменитое «зазвенел колокольчик – скоро будут кормить». Вот примерно сюда и стоит, пожалуй, отнести заявленные 98%, и не только на работе, но и в социальной жизни. Это определённо интеллект (в первом смысле) - а что же тогда скрывается за фразой «большинство задач, которые выполняют люди на работе, не требует применения интеллекта»?

Вот тут уже мы подходим ко второму определению интеллекта – то в устройстве интеллекта-по-первому-определению, что отличает интеллект человека от интеллекта животных. Ассоциируя сценарии, мы приходим к понятиям и языку: «летает, плавает, крякает => утка». На этом этапе становится возможным самосознание, исследование самого себя – и управление своим обучением на качественно новом уровне. За счёт языка человек оказывается способен научиться таким вещам, которые для других интеллектуальных систем не просто не познаваемы – а даже не понимаемы. (Про такой интеллект мы говорим, что по отношению к прошлому уровню он является сверхинтеллектом.)

Однако же всю дорогу мы использовали одни и те принципы, фундаментальный принцип работы интеллекта тот же, что и на уровне коленного рефлекса. Принципиальное отличие – только в сложности организации рефлекторной сети. И обучение остаётся «рефлекторным» и на человеческом уровне. Наши действия при всей своей автономности детерминированы нашим обучением, которое тоже детерминируется воздействиями окружающей среды – иначе информации взяться неоткуда. Не 98%, а все 100% человеческого поведения – рефлекс, но принципиальное отличие от интеллекта, скажем, собаки всё-таки есть, как есть оно между собакой и деревом, между деревом и бактерией, и – между бактерией и камнем.

А вот вам и дорога к интеллекту в третьем, так и не употреблённом, смысле – такому, который бы не был завязан на рефлекторных принципах, которые определили всю эволюцию интеллекта от неорганической материи до поэтов и учёных. Как всегда, если ответ – не эволюция, то это должно быть разумное творение. Вот когда мы, люди, сможем придумать такую организацию интеллекта, которая будет свободна от уз рефлекторных дуг, которая сможет сама дальше решать, как ей изменить себя вплоть до фундаментальных принципов (привет постчеловечеству!), вот это будет Тот Самый, Настоящий Интеллект.

Но мыслить и обучаться он всё равно будет не «сам». Это всё равно будут детерминированные его устройством реакции на события окружающего мира. Никакой свободы воли быть не может, есть только мир, который развивается по своим законам, и который мы своим человеческим интеллектом можем делить на части (например – «интеллект» и «окружение») и следить за тем, как эти части взаимодействуют.

Comments

[bvn-mai.livejournal.com]

Коллега, насколько серьезно Вас волнуют проблемы ИИ? Вы не задумывались о конкретных механизмах реализации метасистемного перехода?

[darth-vasya.livejournal.com]

Проблемы конкретно реализации ИИ меня волнуют исключительно как стороннего наблюдателя, свой шанс заняться этими делами я давно упустил :) Однако вопросами накопления информации в природе, в частности - интеллекта, интересуюсь.