Кого считают "отцом" искусственной жизни? Какова структура клеточных автоматов Джона фон Неймана? В чем состоит проблема цифровой стерильности? Как развивается это направление сегодня? О концепции клеточных автоматов, проблеме цифровой стерильности и эволюции программ рассказывает кандидат физико-математических наук Михаил Бурцев.
Это направление находится на стыке биологии, математики, компьютерных, социальных и гуманитарных наук, и в большей степени связано с эволюцией во всех ее проявлениях, начиная от эволюции в самоорганизации химических реакций и заканчивая эволюцией языка и социальных отношений. Мы знаем, что живые организмы могут самовоспроизводиться и эволюционировать, изменяться, становиться все более и более сложными. В середине прошлого века с появлением компьютеров возник вопрос: а можем ли мы создать такие самовоспроизводящиеся сущности на совершенно другом носителе?
Клеточный автомат – это такая формальная игра, когда мы имеем поле, разделенное на клетки, и каждая клетка может находиться в каком-то конечном числе состояний. Также каждой клетке на этом поле приписывается одно и то же правило: то, как изменяется состояние клетки в зависимости от ее собственного состояния и от состояния каких-то из ее соседей, например, только рядом окружающих ее или находящихся на каком-то удалении. Задав это правило и начальное распределение состояний на этом поле клеток, мы можем получить некоторую динамику изменений состояний этого автомата.
В последние 20 лет область искусственной жизни прошла большой путь. В ней появилось очень много моделей, в основном использующих набор агентов, и за счет того, что эти агенты управляются, например, нейронной сетью или каким-нибудь другим распределенным алгоритмом, проблему бесплодия удалось решить, потому что изменение этой программы управления агентами или индивидуумами виртуальной эволюции, не приводит к тому, что они становятся неадаптивными.
В современной науке существует направление исследований со странным названием artificial life, что на русский язык можно перевести как «искусственная жизнь». Это направление находится на стыке биологии, математики, компьютерных, социальных и гуманитарных наук, и в большей степени связано с эволюцией во всех ее проявлениях, начиная от эволюции в самоорганизующихся химических реакциях и заканчивая эволюцией языка и социальных отношений.
1. Предпосылки
Можно сказать, что исследования, которые могут быть отнесены к области искусственной жизни, начались в середине прошлого века. Их отцом можно назвать Джона фон Неймана, известного математика, одного из теоретиков, создавших современную компьютерную архитектуру. В конце жизни его интересовали вопросы, связанные с возможностью самовоспроизведения машин. Мы знаем, что живые организмы могут самовоспроизводиться и эволюционировать ― изменяться, становиться все более сложными. В середине прошлого века с появлением компьютеров возник вопрос: а можем ли мы создать самовоспроизводящиеся сущности, но на совершенно другом носителе? Мы знаем правила биологической эволюции, будут ли они работать, если мы их перенесем на другой носитель? Джон фон Нейман, заинтересовавшись этим вопросом, сформулировал условия, которые необходимы для воспроизведения произвольной системы.
2. Теория саморепликации
Теория самореплицирующихся систем постулирует необходимость наличия следующих компонентов для осуществления самовоспроизведения:
1) описания самой самовоспроизводящейся системы;
2) устройство для копирования описания;
3) устройство для построения системы по ее описанию.
Поразительно, что теория саморепликации, представленная фон Нейманом в 1948 году за 5 лет до открытия Уотсоном и Криком структуры ДНК, отлично подходит для описания репликации клетки: 1) в клетке есть ДНК ― это инструкция о том, что из себя представляет клетка, 2) есть машина для репликации ДНК и 3) есть рибосомы, которые позволяют синтезировать белки, из которых клетка состоит. То есть все части, которые теоретически должны присутствовать в самовоспроизводящемся автомате, присутствуют в живой клетке.
3. Правила работы клеточного автомата
Фон Нейман не только открыл принципы самореплицирующихся систем, но и предложил конструкцию самореплицирующейся системы на основе формализма клеточных автоматов.
Клеточный автомат представляет собой поле, разделенное на клетки. Каждая клетка поля может находиться в одном из некоторого множества состояний. Изменение состояния каждой клетки подчинено одним и тем же правилам, учитывающим собственное состояние клетки и состояния каких-то из ее соседей. Задав правило и начальное распределение состояний по клеткам поля, мы можем получить динамику изменений состояний этого автомата.
Несмотря на то, что правила для самореплицирующегося клеточного автомата с 29 состояниями были предложены фон Нейманом в середине ХХ века, первая реализация появилась лишь 50 лет спустя, и в последние годы было исследовано еще несколько альтернативных вариантов.
4. Проблема стерильности
В конце 50-х – начале 60-х годов ХХ века исследования в области создания мыслящих и самореплицирующихся автоматов были очень популярны в рамках научной дисциплины под названием кибернетика. С одной стороны, в кибернетике исследовались общие принципы управления в социуме, в организме и в машине. С другой стороны, кибернетиков также интересовали вопросы, могут ли машины создавать себе подобных и может ли это создание себе подобных машин приводить к прогрессивной эволюции. И казалось, что если фон Нейман придумал такой самореплицирующийся автомат, то, в принципе, мы легко можем сделать нечто, что могло бы размножаться в компьютере. Но все оказалось не так просто, потому что автомат фон Неймана подвержен такой проблеме, которая получила название «проблема цифровой стерильности», или просто «проблема стерильности».
Она заключается в том, что в эволюции кроме репликации нужны еще и мутации, которые будут изменять то, как автомат выглядит, как он себя ведет, какие функции исполняет, чтобы приспосабливаться к окружающему миру. Проблема с клеточными автоматами в том, что их функциональность очень нелинейно зависит от структуры. То есть единичные мутации клеточного автомата в большинстве случаев будут приводить к тому, что вся его функциональность будет рушиться, и он уже не сможет себя воспроизвести, и, следовательно, эволюция остановится. Поэтому несколько десятков лет никаких существенных подвижек в области эволюции автоматов не происходило.
5. Эволюционные вычисления
Несмотря на отсутствие успехов в конструировании самореплицирующихся автоматов исследователи все равно пытались использовать в компьютерных науках принципы биологической эволюции. В частности, возникли методы, называемые эволюционными вычислениями. Если мы имеем задачу, в которой нам нужно подобрать параметры некоторой функции для получения решения, то мы можем получить их либо аналитически, либо при помощи случайного поиска. Эволюционный алгоритм для решения подобной задачи создает популяцию пробных решений, затем каждое из них тестируется на эффективность, затем наиболее успешные решения размножаются путем копирования и мутируют, формируя следующее поколение решений. Таким образом происходит постепенная эволюция в сторону повышения оптимальности решений.
6. Искусственная жизнь и гиперпаразиты
Практика использования эволюционных алгоритмов показала, что они достаточно успешно могут применяться в широком круге задач: например, для оптимизации аэродинамики самолетов, разводки микросхем, составления расписаний и так далее. Постепенно, в связи с распространением компьютеров, в частности персональных, исследования эволюционных алгоритмов становились все более и более доступными. В какой-то момент, в конце 80-х годов, замечательный тропический эколог Том Рей, не имея никакого специального математического образования, на своем домашнем персональном компьютере написал программу, реализующую виртуальную машину со своим ассемблером. Виртуальная машина была устроена таким образом, что позволяла организовать эффективную эволюцию программ. Программы, размещенные в памяти, могли копировать самих себя, что приводило к конкуренции за свободное пространство.
Когда программа, названная Томом Реем Tierra, находилась в разработке, исследователи в области компьютерных, узнававшие о цели проекта ― создании эволюции самомодифицирующих программ, ― говорили, что это из области фантастики и проект обречен на неудачу. 3 января 1990 года Том Рей впервые запустил окончательную версию программы. Утром следующего дня анализ результатов эксперимента показал, что в процессе моделируемой эволюции произошли поразительные вещи. В мире Tierr’ы произошел взрыв видообразования ― появилось большое разнообразие различных программ, которые конкурировали друг с другом. Так как Рей был экологом, он сразу же легко нашел интерпретацию поведению видов ― так среди программ появились паразиты и гиперпаразиты. Программы-паразиты уменьшили свою длину за счет использования чужого кода для копирования самих себя в другую область памяти, таким образом захватывая больше пространства и вытесняя других. Гиперпаразиты, как вирусы, встраивались в блок памяти чужой программы, для того чтобы «хозяин» скопировал их вместе с собой.
Доклад Тома Рея о результатах эволюции в Tierra на конференции по искусственной жизни произвел очень большой фурор. Все пришли в большое возбуждение, и не только потому, что было сделано что-то выдающееся, но и потому, что они все были слегка встревожены: тогда только появились первые компьютерные вирусы, которые тоже рассматривались как некоторые формы искусственной жизни. Показалось, что соединение эффективной эволюции, как в модели Тома Рея, с вредоносностью вирусов может привести к катастрофическим последствиям для зарождающихся глобальных компьютерных сетей. Но, как мы видим, ничего подобного не произошло из-за того, что компьютерные вирусы обычно очень специализированы и тоже имеют проблему со стерильностью: они не могут модифицировать себя при размножении без потери функциональности.
7. Перспективы исследований
С 90-х годов исследования в области искусственной жизни прошли большой путь. Появилось очень много моделей, в основном представляющих собой эволюционирующие популяции агентов, управляемых нейронными сетями, что позволяет решить проблему бесплодия при достаточных возможностях генерации богатого репертуара поведений. Внутри искусственной жизни появилось несколько направлений исследований, например исследование возникновения жизни на Земле. То есть каковы принципы возникновения жизни, как живое может возникнуть из неживого ― понимание этого даст нам в руки инструменты для самостоятельного синтеза других вариантов живых систем. Данное направление вплотную связано с моделированием химических реакций, самоорганизацией, которая может приводить к устойчивым автокаталитическим циклам реакций. При этом люди, занимающиеся компьютерным моделированием, кооперируются с химиками для проверки моделей в реальных химических системах.
Отдельная ветвь исследований, которая развивалась параллельно искусственной жизни, но преследующая те же цели, ― синтетическая биология, показавшая возможность синтеза копии ДНК бактерии de novo и вставки ее в другую бактерию. Другая задача здесь ― определение условий возникновения протоклеток, минимальной молекулярной машинерии, необходимой для репликации клетки. Следующий уровень ― это уровень эволюции одноклеточных и возникновение многоклеточных организмов из одноклеточных, возникновение кооперации, возникновение коммуникаций, каких-то сложных социальных взаимодействий.
Сегодня искусственная жизнь ― это достаточно широкое по спектру направлений исследование, и, самое главное, оно не застыло в каких-то рамках, а очень много предлагается оригинальных идей за счет того, что это междисциплинарная область. Но, несмотря на то, что искусственная жизнь достигла некоторых успехов за время своего существования, все равно главная проблема, которая перед ней стояла, остается неразрешенной. Это проблема того, как, по каким сценариям сложность организмов может нарастать в процессе эволюции. То есть та проблема прогрессивной эволюции, над которой бился фон Нейман в середине прошлого века.
Михаил Бурцев, кандидат физико-математических наук, НИЦ "Курчатовский Институт"
Как устроен процесс обучения? Что представляет собой нейрональная культура? Как можно объяснить активность нейронов в нейрональной культуре? Об электрической активности нейронов, следах памяти в нейрональных культурах и теории функциональных систем рассказывает кандидат физико-математических наук Михаил Бурцев.
Почему в процессе эволюции появляется кооперативное поведение? Как объясняют возникновение кооперации различные теории? И как исследование данного вопроса может отразиться на представлениях о морали человека? Об условиях возникновения кооперации, истоках человеческой морали и теории родственного отбора рассказывает специалист по эволюционной кибернетике Михаил Бурцев.
Какие существуют подходы к созданию искусственного интеллекта? Что такое символьный, или классический искусственный интеллект? С чем связан интерес ученых к такого рода исследованиям? Об истории кибернетики, искусственном интеллекте и моделировании человеческого мозга рассказывает кандидат физико-математических наук Михаил Бурцев.
В своей лекции я сначала вкратце расскажу об истории, об эволюции искусственного интеллекта, что под ним понимается, в каком состоянии он сегодня. Затем попытаюсь кратко проанализировать текущее состояние и, возможно, предложить что-то для будущего искусственного интеллекта. Эта лекция будет в основном посвящена тому, как делать искусственный интеллект и что он из себя представляет, но в основной части я не буду затрагивать вопрос, нужен ли он, и к каким последствиям создание искусственного интеллекта может привести. В нескольких словах этого вопроса я коснусь в самом конце лекции. И потом постараюсь ответить на все ваши вопросы.
В Южной Корее 15 марта завершилась историческая партия в игру го: программа AlphaGo —против Ли Седоля, одного из сильнейших игроков планеты. AlphaGo обеспечила себе победу досрочно, выиграв три первые партии из пяти. Тем не менее, Ли Седоль смог выиграть в четвертом матче, но последний остался за AlphaGo. За несколько дней до финальной игры журналист «Медузы» Султан Сулейманов поговорил с Александром Крайновым, руководителем службы компьютерного зрения и технологий искусственного интеллекта «Яндекса», о том, как искусственный интеллект научился играть в го, откуда у него взялась интуиция и какие невероятные технологии нас ждут в ближайшем будущем.
Почему за полвека усилий не удалось создать искусственный интеллект? И как киборги помогают понять работу мозга? Об этом рассказывает Михаил Бурцев, кандидат физико-математических наук, руководитель лаборатории нейронных систем и глубокого обучения МФТИ.
На лекции мы обсудим вторую весну искусственного интеллекта в цифрах и фактах, ключевые работы в области искусственного интеллекта и машинного обучения в 2017 году. Поговорим о распознавании изображений, речи, обработке естественного языка и о других направлениях исследований; обсудим новые модели и оборудование 2017 года. Также поговорим о применении ИИ и машинного обучения в бизнесе, медицине и науке, а также обсудим, чего мы ждем от искусственного интеллекта и машинного обучения в 2018 году.
Что такое машинное обучение? И можно ли считать, что программа, натренированная решать ту или иную задачу, понимает, что она делает? О том, как компьютер развивает интуицию и учится фильтровать спам, распознавать изображения и играть в игры, в новом материале «Чердака» рассказывает Иван Ерофеев.
Человеческий разум превосходит системы искусственного интеллекта, потому что использует физические законы на квантовомеханическом уровне. К такому не бесспорному утверждению склоняется в своей новой книге Роджер Пенроуз, известный ученый, работающий в области математической физики. Хотя (как признает Пенроуз) это утверждение в настоящее время не может быть строго доказано, некоторые интригующие аргументы, содержащиеся в его книге «Новый ум императора», дают достаточно серьезные основания усомниться в справедливости философских положений, которые лежат в основе искусственного интеллекта.
В 1950 году английский ученый Алан Тьюринг в статье "Вычислительные машины и разум" задался вопросом: "Может ли машина понимать человека?". Так родился знаменитый тест Тьюринга, в котором компьютер пытался обмануть людей. Но как компьютер понимает человека и чего он пока понять не может? Об этом по гамбургскому счету мы решили спросить специалиста в области машинного обучения, директора информационных технологий компании "Activebusinesscollection" Сергея Маркова.