И ещё раз про эволюцию

[darth_vasya]

Слева - схема путей генетической регуляции бактерии E.coli, она же кишечная палочка. Справа - схема системных вызовов в Линуксе. Авторы заметки на PhysOrg назвали её Scientists Explain Why Computers Crash But We Don't. Я бы это скорее назвал "Почему эволюционные алгоритмы никогда не приведут к логично и понятно работающей системе" - впрочем, это две стороны одной палки, или, если угодно, две грани одной сферы: ответ на вопрос - потому, что необходима отказоустойчивость. Логичная и понятная (и, соответственно, дополняемая и расширяемая) система по определению эволюционно неустойчива, потому что уязвима по отношению к мутациям, то есть, главному движущему механизму эволюции.

Что из этого всего следует:
- Во-первых, ещё одна наглядная иллюстрация того, что так любимый walter_simons и другими тезис о том, что Folding@Home это путь к продвинутым нанотехнологиям, на самом деле совершенно ошибочен.
- Во-вторых, похоже, в плане радикального продления жизни медицинскими методами в традиционном представлении ("таблетка от старения") на многое рассчитывать не приходится: попросту не получится разобраться - вот очень скромная, но уже довольно красноречивая, иллюстрация. Подход Обри де Грея с "омолаживающей медициной", вероятно, более правилен, поскольку и не пытается глубоко вникать во всю сеть взаимосвязей в организме, а просто предполагает лечить самые важные "общие места". Наверное, так возможно будет отодвинуть старение лет на 20-30-40, но эти 20-30-40 лет тоже на месте сидеть будет нельзя, потому что сеть-то никуда не делась, и вероятнее всего, что начнут появляться новые "общие места". Долгосрочные же решения неизбежно должны быть связаны с заменой биологического спагетти логичными и понимаемыми искусственными конструкциями. "Мясные" имморталисты - те же биоконы.
- В-третьих, посмотрел я тут выступление философа Дэвида Чалмерса на Singularity Summit по наводке Accelerating Future. Чалмерс рассуждает о сверхчеловеческом искусственном интеллекте. По его мнению, единственный реальный путь его добиться - это "симулированная эволюция", то есть, некая Матрица, в которой тем или иным образом интеллектуальные алгоритмы подвергаются генетическому отбору. Не обязательно это должна быть прямо симуляция нашего мира, всех 15 миллиардов лет его истории и т.д., можно ограничиться и чем-то более простым. Его главный аргумент состоит в том, что эволюция достоверно может порождать интеллектуальные системы и что никаких ограничений этому процессу в плане масштабов достижимого не видно (в отличие от всех других известных ему методов создания ИИ). Ну, думаю, всем уже понятно, что за интеллект у него таким образом получится. И ведь весь цимес сверхчеловеческого ИИ в том, чтобы потом, когда он уже будет готов, к нему как-то подконнектиться и проапгрейдиться самому - так вот, что-то мне подсказывает, что с эволюционно возникшим сверхинтеллектом интерфейс наладить будет задача разве что для сверхсверхинтеллекта. А тогда уже, вероятно, пропасть между нами будет слишком большая, чтобы это уже было актуально.

Сейчас ещё отдельно про симуляцию напишу.

---
Ранее на эту тему:
http://darth-vasya.livejournal.com/222831.html
http://darth-vasya.livejournal.com/264275.html

Статья в PNAS:
Comparing genomes to computer operating systems in terms of the topology and evolution of their regulatory control networks (свободный доступ)

Comments

[walter-simons.livejournal.com]

одно дело эволюция в "лоб" со всеми ее 4 миллиардами лет и квинтиллионами поколений и гуглями итераций. Другое - на правленый дизайн с элементами эволюции, как способ поиска локального минимума. А Folding@Home пока предтеча, первый этап к пониманию, как оно там в наномире все вертится.

[darth-vasya.livejournal.com]

> Folding@Home пока предтеча, первый этап к пониманию

Дык я ж и говорю, что понимание так никогда и не настанет, потому что изучаемые системы малопонимабельны по самой сути своей.

[walter-simons.livejournal.com]

Хорошо. Например нам нужно создать синтетический фермент, наномашину, расщепляющую целлюлозу(или хотя бы глюкозу) до спирта, которому не мешали сами продукты реакции.
С чего будем начинать? С нуля или возьмем за основу природный аналог, и начнем дизайнить его эволюционно?

Конечно же, ни так и ни сяк!

[darth-vasya.livejournal.com]

Оба варианта в чистом виде неприемлемы. Насчёт "с нуля", думаю, всё понятно. Насчёт природного аналога - природный аналог на то и природный, что его уже сдизайнили эволюционно, "близоруко", и дальше его сильно улучшать возможности нет.

Есть примеры сочетания подходов.

Вот тут "с нуля" спроектировали реакционный центр и затем перебором известных "эволюционных" структур (Rosetta) подобрали последовательность аминокислот, реализующую такой центр. Получился работающий фермент, но с незавидной по биологическим меркам эффективностью. Но для несуществующей в природе реакции.
http://www.eternalmind.ru/index.php?option=com_content&task=view&id=1534&Itemid=2

Вот тут взяли готовый активный центр глобина и совершенно по-инженерному приделали к нему белковые "леса". Получился белок, превосходящий природные по стабильности, активности и селективности.
http://darth-vasya.livejournal.com/222831.html

Сравнивая две работы, я бы сказал, что ключевым моментом для подхода "с нуля" является дизайн активного центра, и вот тут действительно пригодились бы качественные методы глобальной оптимизации. В том числе и не без генетических алгоритмов, но с главным условием - что центр должен быть компактным и самостоятельно понятным. Что касается окружения для этого центра - его уж точно надо проектировать с инженерным подходом, причём необязательно ограничиваясь биологическими аминокислотами и вообще аминокислотами. Мы же можем мыслить ширше, чем эволюция, которая ограничена линейными полимерами из легко стыкующихся звеньев. (Кстати, обратим внимание, что Розетта так и не подобрала последовательности, свёртывающейся прямо точно в нужную структуру активного центра.)

В основу поиска оптимального активного центра можно, конечно, положить идеи, почерпнутые из живого мира. Но вполне может быть, что хорошие идеи найдутся и в оргсинтезе и традиционном катализе.

[pound-sterling.livejournal.com]

насчет терминологии:
"Долгосрочные же решения неизбежно должны быть связаны с заменой биологического спагетти логичными и понимаемыми искусственными конструкциями"

у Вас в цитате звучит как замените кожу на пластик, я думаю что долгосрочные решения могут по-прежнему быть "биологическими", но "искусственными", или Вы это и имели ввиду?

ведь если организм создается под среду, тем более по принципу "так сойдет", то понятно что он несовершенен даже для той среды в которой обитает.
а если необходимо адаптироваться ко многим средам и к новым задачам, и поиск решения будет идти не в слепую, а целенаправленно, то решение будет значительно отличаться от созданного природой, но тем не менее оно может быть реализовано биологически, если биологическое решение выполняет поставленную задачу (долгосрочное решение)

насчет интеллекта и упрощения конструкции.
для дискуссии: я не считаю абстрактное мышление основным достижением развития интеллекта человека, я думаю, что мы можем гордиться и развивать свою другую особенность - эмоции, я где-то встречал определение, что человек мыслит эмоциями, и это определение мне нравится.

если представить интеллект как конструкцию хотя бы из двух векторов, абстрактное мышление и эмоции, то методы решения задач усложняются, так как долгосрочное решение не должно нарушать баланс этих векторов. конечно можно отсечь "лишнее" и представить сверхчеловека подобным компьютеру без эмоций, тогда безусловно нужно упрощение конструкции, но зачем отказываться от полученных в ходе природной эволюции качеств, тех же эмоций? мне кажется очень важным, чтобы мы не теряли своих особенностей, а приобретали в дополнение к ним.

мне кажется что эволюция может быть как по пути упрощения конструкции, это неизбежно так как на нашей стадии знаний упрощение конструкции человека - это прогресс, а усложнение или хотя бы попытки повторить (воспроизвести) природную эволюцию отодвигают поиски долгосрочных решений на неопределенное время.

но если стадия упрощения будет пройдена, то возможно следуюшая стадия эволюции - это усложнение, это искусственно созданные несовершенные и запутанные решения, иначе эволюция остановится.

то есть я думаю упрощение и усложнение конструкции могут быть актуальны, но на разных стадиях прогресса.

[darth-vasya.livejournal.com]

> я думаю что долгосрочные решения могут по-прежнему быть "биологическими", но "искусственными"

В принципе, могут, конечно, вопрос только в том, надо ли оно нам. Биологические "решения" всё-таки хорошо себя ощущают только в очень узком диапазоне температур, давлений, химического состава окружающей среды и пр., они массивные и механически слабые - ну и так далее.

> свою другую особенность - эмоции

Это не особенность. Абстрактное мышление тоже, строго говоря, не особенность, но тут у нас хотя бы большой отрыв от преследователей. "Человек мыслит эмоциями" - это просто неправильно, корректно было бы "человек мыслит на фоне эмоций" (при этом надо помнить, что решения он далеко не всегда принимает мыслями).

> то есть я думаю упрощение и усложнение конструкции могут быть актуальны, но на разных стадиях прогресса.

Безусловно! Но хотелось бы, чтобы эти упрощения и усложнения были систематическими, а не стохастическими, иначе они не будут легко расширяемы.

[pstas.livejournal.com]

>Логичная и понятная (и, соответственно, дополняемая и расширяемая) система по определению эволюционно неустойчива, потому что уязвима по отношению к мутациям, то есть, главному движущему механизму эволюции.

Продублируйте важные части, как это делается в военной технике. Солдат-призывник опаснее мутаций, но техника работает.

[darth-vasya.livejournal.com]

"Продублировать" в ограниченном смысле можно, но это тоже небесплатно бывает: если ген в геноме представлен несколькими копиями, то соответственно нужно пропорционально ослаблять его экспрессию, и при этом пропорционально вырастает вероятность мутации. (Собственно, это один из важных механизмов появления новых генов.) Поэтому в биологических системах более распространено пересечение "областей ответственности" генов.

[goricap.livejournal.com]

У Вас ошибка в сообщении.
«Справа - схема путей генетической регуляции бактерии E.coli, она же кишечная палочка. Слева - схема системных вызовов в Линуксе.»

В статье наоборот:
справа — линукс
слева — бактерия

[darth-vasya.livejournal.com]

oh shi~

Спасибо, исправил.

[sitnik.ru (from livejournal.com)]

Мне кажется, что обязательная «понятность» — это и есть проблема современных ИТ. Сначала строится идеальная модель, а потом по ней пишется программа. И есть реальность хоть чуть-чуть отходит от модели, то всё падает (если мой дом только построили, то есть него в базе данных → меня нельзя записать в поликлинику). Наше ИТ похоже на хрустальный дворец, но красиво и идеально, но очень ненадёжно.
Тут хочется вспомнить о книге о идеологии Свободного ПО. Там разработка Линукса и других свободных программ представлена в виде базара — множество частых релизов и постоянная обратная связь.
Но думаю надо сделать шаг дальше и пойти по пути природы :). Точнее я думаю у нас нет выбора — разработка «идеальных» систем требует слишком много ресурсов. А рост сложности ИТ идёт на несколько порядков быстрее роста ресурсов. Так что надо развивать генетическое программирование :).
Кстати, на конференции РИТ был отличный доклад на эту тему http://pavel-kudinov.livejournal.com/69412.html (хотя и не касался генетического программирования, но показывает почему потребностей будет всё меньше и меньше, чем ресурсов).

[darth-vasya.livejournal.com]

> красиво и идеально, но очень ненадёжно.

Но часто поддаётся исправлению по частям, вместо полного переделывания.

Написал комментарий у Кудинова: http://pavel-kudinov.livejournal.com/69412.html?thread=621604#t621604

[free-logic.livejournal.com]

"Логичная и понятная система по определению эволюционно неустойчива"
Это по какому такому определению? Что-то мне это совсем не кажется очевидным.

"... с эволюционно возникшим сверхинтеллектом интерфейс наладить будет задача разве что для сверхсверхинтеллекта. А тогда уже, вероятно, пропасть между нами будет слишком большая, чтобы это уже было актуально"
Ну почему же? Можно ведь развивать сверхинтеллект в рамках каких-то ограничений (плохо себе это представляю, правда). Возможно, удалось бы поставить ограничение вроде "наладь контакт с человеками" :)

[darth-vasya.livejournal.com]

Ну, грубо говоря, у логичной и понятной системы каждый узел на своём месте, исполняет свою функцию, а если он накрывается, то перестаёт её исполнять. В логичных и понятных системах для борьбы с этим используется дублирование, в эволюционных это проявляется в виде дупликаций генов, но в целом куда более успешный подход - использование узлов с перекрывающимися задачами. Но тогда система становится нелогичной и непонятной.

[free-logic.livejournal.com]

Ты сам назвал дублирование как альтернативный подход. Он совсем не противоречит понятности.
К тому же, если уже существующие реализации не удовлетворяют каким-то критериям, то из этого никак не следует, что невозможны более приемлемые реализации. Если, конечно, не доказано обратное. А оно, как я понимаю, не доказано (по крайней мере, в этом посте и комментах).

[darth-vasya.livejournal.com]

Дублирование - да, в биологических системах важные гены могут встречаться по несколько раз, и это ещё и является одним из важных механизмов появления новых генов: одна из копий "выходит из строя", превращается в генетический мусор и без воздействия отбора может претерпеть ещё много мутаций, пока из мусора опять не превратится в полезный ген с новой функцией, при этом геном в целом сохраняет жизнеспособность. Но из-за этого возникает и много "захламляющих" систему наложений функций.

Если я правильно понял про реализации, то более приемлемые, конечно, возможны. Точно так же молекулы газа в сосуде, в принципе, вполне могут все собраться в одной его половине, просто это очень маловероятно. И эволюция тоже, в принципе, может порождать логичные решения, или, скажем, идти "задним ходом" - просто редко :)

[free-logic.livejournal.com]

Хм... Что-то я совсем запутался. Мне твой тезис не нравится принципиально, а не по отношению к системам, эволюционирующим к помощью естественного отбора. Если ты только про них говорил, то тогда я с тобой спорить не буду :)

[darth-vasya.livejournal.com]

Какой тезис? (Я тут типа выступаю за то, что эволюция сакс, инжиниринг рулез, пора брать процесс в свои руки.)

[free-logic.livejournal.com]

Да я про это: "Логичная и понятная система по определению эволюционно неустойчива". Для меня это неочевидно. Неочевидно, что нельзя сделать тот же линукс логичным, понятным и при этом устойчивым. Может, и нельзя, но действительных оснований это утверждать я пока не вижу.

[darth-vasya.livejournal.com]

> и при этом устойчивым

- чтобы он при случайной замене или делеции системных вызовов оставался работоспособным и даже мог приобрести новые полезные качества? Сомневаюсь :)

[free-logic.livejournal.com]

Потому что ты постоянно думаешь о текущих реализациях. Плюс еще надо учитывать, что мы сравниваем разные категории. От линкса требуется абсолютная точность в работе ("5+5" всегда 10). У нас такую точность можно требовать только от мозга. При этом не факт, что он уязвим меньше, чем линукс.
Если рассматривать другие системы организма, то там требование точности отсутствует. Что будет с того, что твое восприятие цветовой шкалы сдвинется на 0,000...1 каких-то единиц? Или слышать ты будешь немного иначе? Т.е. от организма в большинстве случаев не требуется эталонная точность функционирования, а от линукса требуется.

[darth-vasya.livejournal.com]

> У нас такую точность можно требовать только от мозга.

Что ты! Мозг на точность, хоть как-то сравнимую с электроникой, ни в чём не может претендовать. Зато он массивно параллельный, живучий и адаптируемый. Представляешь, если бы Линукс сам пытался адаптироваться к ошибкам и повреждениям?

[free-logic.livejournal.com]

Мозг может претендовать на любую точность расчетов. Весь вопрос только в их времени. Бери карандаш, листочек и считай те же формулы, что компьютер считает. Ну да ладно, я все равно не об этом. Требование из "5+5" получить "10" эквивалентно что для линукса, что для мозга. К другими системам организма такие жесткие требования не предъявляются.
Ну и повторюсь: я не вижу из чего следует принципиальная невозможность системы, адаптирующейся к ошибкам и повреждениям и остающейся при этом понятной. Возможно, это так. Но доказательств я не вижу.

[darth-vasya.livejournal.com]

Нет, я же не невозможность - я про невероятность возникновения в результате эволюции.

[free-logic.livejournal.com]

Ну если ты утверждал это только в таком контексте, то вопрос исчерпан :)

[darth-vasya.livejournal.com]

Да, только в этом. Невероятность возникновения автоматически означает неизбежность распада в ходе эволюции, т.к. "силы энтропии" действуют в любой точке пространства возможностей в направлении "от", а поток обратно "к" практически нулевой.

[free-logic.livejournal.com]

Да, кстати, первоначально речь шла только об устойчивости... С адаптацией, возможно, сложнее. Хотя, например, что такое адаптация для Линукса, я представляю себе с трудом.

[darth-vasya.livejournal.com]

Устойчивость в плане эволюции - возможность адаптироваться, грубо говоря, к своим же мутациям, т.е. к выходу из строя или изменению функции части компонентнов.

[free-logic.livejournal.com]

"... молекулы газа в сосуде, в принципе, вполне могут все собраться в одной его половине, просто это очень маловероятно".

Это еще большой вопрос. Есть мнение, что вероятность равна нулю.

[darth-vasya.livejournal.com]

Это в какой механике? В классической точно ненулевая.

[free-logic.livejournal.com]

Извини, это мой глюк

[darth-vasya.livejournal.com]

ОК, я тоже наверняка подобных вещей наговорил тут, просто мы с тобой оба не биологи, и этого не замечаем :D

[a-bronx.livejournal.com]

В логичных и понятных системах для борьбы с этим используется дублирование

Ещё - динамизация системы. По известному IT-принципу: "быстро поднятый сервак упавшим не считается". Можно не дублировать узел, но обеспечить возможность его замены/ремонта за время, недостаточное для коллапса всей системы. Собственно, дублирование - это то же самое, только горячий резерв всегда таскается с собой, что, в общем-то, не обязательно.

[luxett.livejournal.com]

ну что-то где-то примено так оно и есть :)
сложный вопрос. думаю, что неправы окажутся все в итоге. если, конечно, итог оценить смогут - тут два варианта: или оценивать некому будет, или, учитывая сложности коннекта со сверхразумом (вот тут полностью согласен - на то он и "сверх", а если ограниченияна него - так это уже "под-" будет), можно просто не заметить, что появился субстрат оценки.
в общем, воюнтаризма больше надо в ИИ. но оно, однако, чревато, чего нехорошего из того выйти может. вот и соображай-думай тут. хотя придет время, само оно вылезет.