Мы публикуем расшифровку лекции кандидата физико-математических наук, научного сотрудника ИПМ им. М. В. Келдыша РАН и старшего научного сотрудника НИИ НФ им. П. К. Анохина РАМН Михаила Бурцева, прочитанной 7 апреля 2009 года в Политехническом музее.

Мне очень приятно выступать в таком зале, где очень много молодых лиц, и очень приятно, что нашу молодежь, к которой мне стоит, наверное, и себя отнести, интересует проблема искусственного интеллекта. И хотел бы я начать свою лекцию с такой исторической ремарки. Около 50 лет назад именно в этом зале состоялась одна из первых лекций об искусственном интеллекте и о кибернетическом моделировании мышления и жизни, эта лекция называлась «Жизнь и мышление как особые формы существования материи», и ее прочитал очень известный русский математик Андрей Николаевич Колмогоров. Она имела место 11 января 1962 года в этом зале. И в течение своей лекции я буду довольно часто обращаться к его словам, потому что мне кажется, что они не потеряли до сих пор свою актуальность.

В своей лекции я сначала вкратце расскажу об истории, об эволюции искусственного интеллекта, что под ним понимается, в каком состоянии он сегодня. Затем попытаюсь кратко проанализировать текущее состояние и, возможно, предложить что-то для будущего искусственного интеллекта. Эта лекция будет в основном посвящена тому, как делать искусственный интеллект и что он из себя представляет, но в основной части я не буду затрагивать вопрос, нужен ли он, и к каким последствиям создание искусственного интеллекта может привести. В нескольких словах этого вопроса я коснусь в самом конце лекции. И потом постараюсь ответить на все ваши вопросы.

«Я принадлежу к тем кибернетикам, которые не видят никаких принципиальных ограничений в кибернетическом подходе к проблеме жизни и полагают, что можно анализировать жизнь во всей ее полноте, в том числе и человеческое сознание со всей его сложностью, методами кибернетики». Эти слова принадлежат Андрею Николаевичу Колмогорову и взяты из его заметки «Автоматы и жизнь». И вся моя лекция будет базироваться на этой предпосылке. На самом деле это основная посылка искусственного интеллекта, которая заключается в том, что в принципе можно смоделировать человеческое сознание методами кибернетики и математики.

Итак, рассмотрим сначала вкратце историю искусственного интеллекта. Сегодня под искусственным интеллектом понимается как создание интеллектуальных машин и сами эти интеллектуальные машины, так и область компьютерных наук, которые занимаются разработкой алгоритмов или таких машин.

И основное предположение, на котором базируется искусственный интеллект, заключается в том, что разум – основное свойство человека разумного – может быть настолько точно описан, что может быть воспроизведен машинами. Ну, это такое теоретическое определение, а как же нам поступить, чтобы понять, создали мы искусственный интеллект или еще не создали? И один из самых удачных тестов, которые можно использовать в реальной жизни, был предложен Тьюрингом в 1950 году.

Как вы знаете Алан Тьюринг – это известный математик, который заложил основы всей вычислительной техники. И тест заключается в следующем: у нас есть человек (или группа людей), который проводит тест, и он текстово общается (говоря современным языком – чатится) с кем-то, кто находится по другую сторону экрана, и задача этого человека – определить, с кем он ведет беседу – с человеком или с компьютером, и если этот человек не сможет отличить человека от компьютера, то этот компьютер обладает искусственным интеллектом. Вот такой вот тест предложил Тьюринг. И до сих пор еще ни один компьютер этот тест не прошел.

Хорошо, так когда же возник современный искусственный интеллект? Мы можем сказать, что искусственный интеллект возник во второй четверти XX века на стыке физиологии и математики. Тогда появилась такая популярная наука, которая сейчас распылилась и не имеет таких отчетливых очертаний, – кибернетика. Ее целью было извлечь те принципы организации каких-то сложных систем или принципы управления, которые бы были применимы для описания как живых систем, так и для построения искусственных адаптивных систем. И когда через некоторое время появились компьютеры, это дало мощный толчок к развитию кибернетики и к построению различных моделей таких сложных систем и привело к появлению того, что мы сейчас знаем как искусственный интеллект и искусственные нейронные сети.

Сначала, до того как компьютер стал широко использоваться, когда он представлял собой такие большие релейные монстры, искусственный интеллект (кибернетический) был в основном построен в таких механических устройствах, как, например, «черепахи» Уолтера, которые обладали таким примитивным адаптивным поведением: они могли ехать за светом, или вот такое «животное» Джона Хопкинса, которое ездило вдоль стен, объезжало препятствия, могло подъезжать к розетке и заряжать аккумулятор.

Политехнический музей тоже отметился в построении этих роботов. В нем был разработан в 1962 году робот-экскурсовод по имени Сепулька. Вот схема из журнала «Юный техник» или «Техника молодежи», а вот это современное состояние Сепульки. Вы можете пойти посетить экспозицию Политехнического музея и познакомиться как с этим экспонатом, так и с роботом, аналогичным «черепахам», которые были на предыдущем слайде. Вы видите, что это был достаточно продвинутый робот, у него есть аккумулятор, есть микрофон, есть магнитофон, он может подъезжать к определенным экспонатам и рассказывать о них.

Сейчас я хотел бы показать ролик об одном роботе, который называется «Мобильный робот-краб» (его тоже можно отнести к кибернетическому искусственному интеллекту).

Вот видите, задача робота – сначала найти предмет, а потом его захватить. Задача, которая ставилась перед конструкторами этого робота, состояла в том, чтобы… представьте, что у вас есть завод, по которому разбросаны детали, и этот робот должен ездить по заводу и эти детали собирать. К тому же периоду стоит отнести и первые попытки установления контакта с искусственным существом. Вы видите, как робко, как нежно пытаются установить контакт между человеком и роботом. Видите, все-таки контакт установлен.

С самого зарождения искусственного интеллекта появилось два основных магистральных пути его развития. Первый путь отталкивался от предположения о том, что нейроны передают электрический сигнал. Значит, мозг можно смоделировать при помощи какой-то электронной сети или при помощи программы, которая моделирует такую электрическую сеть, – это направление получило название «искусственная нейронная сеть».

Второе направление отталкивалось от предпосылки, что человеческий интеллект основан на манипуляции символами, и, поскольку компьютер тоже манипулирует символами, можно смоделировать то, как человек рассуждает, делает логические выводы – то есть то, как человек мыслит. И это направление исследований получило название «искусственный интеллект». И они до сих пор развиваются более или менее параллельно.

Вот здесь показана краткая история искусственного интеллекта, вы видите, что в самом начале возникли две ветки, первая – это т.н. первая волна искусственных нейронных сетей и зарождение искусственного интеллекта, когда он в большей степени имел такую именно кибернетическую форму, а никак не форму компьютерных моделей. И работы того времени отражали смесь как нейрофизиологических подходов, так и логических. Например, статья 1943 года основателей всего этого направления, Маккалока и Питца: «Логические исчисления идей, присущих нейрональной активности». Вот еще некоторые книги, которые являются основополагающими в теории искусственного интеллекта.

Сам искусственный интеллект как выделенная область исследований берет свое начало с Дартмутского летнего проекта по искусственному интеллекту, который состоялся в 1956 году. В 2006 году праздновалось 50-летие этого проекта. И вот здесь представлены те люди, которые стояли у истоков области искусственного интеллекта, в частности очень известный ученый Магницкий, который был очень активным пропонентом искусственного интеллекта. И с этого времени начинаются т.н. золотые годы искусственного интеллекта.

Это было очень оптимистичное время, когда США и другие страны выделяли очень много денег на исследования, за них практически не нужно было отчитываться, и люди делали очень много громких заявлений, им казалось, что еще год или два – и они построят искусственный интеллект, сравнимый с человеком. Саймон и Ньюэлл в 1958 году говорили, что «в течение 10 лет цифровой компьютер будет мировым чемпионом по шахматам». Мы знаем, что Каспарова «побили» гораздо позже. «И через 10 лет цифровой компьютер откроет и докажет важную новую математическую теорему». В 1965 году Саймон: «Машины смогут через 20 лет делать любую работу, которую делает человек». Т.е. к 1985 году должно было это случиться.

В 1967 году Марвин Минский говорил: «Через поколение проблема создания искусственного интеллекта будет в основной своей части разрешена». Он же через три года: «От 3 до 8 лет надо, чтобы у нас была машина, у которой уровень интеллекта будет соответствовать среднему человеческому». Но очевидно, что эти задачи так и не были решены, и, наверное, это привело к тому, что в освоении искусственного интеллекта наступила т.н. «зима», т.е. денег стали давать меньше: все ожидали результатов, а они не были предоставлены… Также и в области искусственных нейронных сетей наблюдался спад, и он был большей частью связан с этой книжкой Минского и Паперта.

Марвин Минский, когда он учился в аспирантуре, очень увлекался нейронными сетями, и фактически работа его лаборатории была посвящена построению искусственного интеллекта на базе искусственных нервных сетей, и он был автором первой компьютерной модели искусственной сети в мире. Но когда он защитил диссертацию, он немножко в них разочаровался, поэтому написал с Папертом такую книжку, в которой доказывал определенную теорему, что искусственные нейронные сети не могут решать определенный пласт задач. И он стал ярым противником искусственных нейронных сетей, и это привело фактически к тому огромному провалу в их исследовании, потому что он был теперь увлечен символьным искусственным интеллектом, пытался везде его пропагандировать, а искусственные нейронные сети, как конкурирующее направление, пытался зажать.

Но «зима» закончилась, и в этот период те системы, которые были запланированы и частично построены в золотое время искусственного интеллекта, были отработаны на практике, и появились некоторые интеллектуальные системы, которые хорошо работали в узкоочерченных областях. Эти интеллектуальные системы получили название экспертных систем, или систем, основанных на знаниях. И тогда бизнес и правительство увидели: мы не можем построить компьютер, который может заменить человека и обладать такими же интеллектуальными способностями, как человек, но в какой-то определенной небольшой области мы можем заменить человека, сделать машину, которая, делая логический вывод, может как-то облегчить нам жизнь, и если это дальше развивать, то мы получим огромные результаты.

И стали вкладывать в это деньги. И это привело ко второму буму искусственного интеллекта, который продлился 7 лет. Фактически с тех пор эти системы так и остались узкоспециализированными и экспертными в своей узкой области, но при этом стало восстанавливаться направление искусственных нейронных сетей. Оказалось, что их удобно использовать как машинные алгоритмы для различных прикладных задач. И появилось множество публикаций, и стали использовать все это на практике, сейчас во многих устройствах, в Интернете эти алгоритмы используются, и вы даже не замечаете, что сталкиваетесь с искусственными нейронными сетями.

При этом существует и символьный искусственный интеллект, но тоже в своей прикладной ипостаси. Только отдельные такие столпы, как Марвин Минский, все еще пытаются придумать глобальную теорию мышления человека и построить какую-то работающую модель.

Каково же сегодня состояние искусственного интеллекта, искусственных нейронных сетей? С моей точки зрения, оно примерно таково, что сегодня мы имеем старомодный искусственный интеллект – такой термин, который употребляется среди людей, которые исследуют искусственный интеллект, – и, я бы даже сказал, старомодные искусственные нейронные сети. Этот искусственный интеллект, которому 50 лет, он легко формализуется, основан на логике, искусственные нейронные сети хорошо решают узкие задачи аппроксимации и категоризации. Но давайте посмотрим на пример робота, который является вершиной сегодняшней мысли в области искусственного интеллекта.  Ему далеко до такого уровня – как у этой мышки, которая попала в такую экстремальную ситуацию, и она ориентируется в ней, и ее интеллектуальные способности проявляются вовсю в этот момент.

На этом слайде представлены две самые впечатляющие модели мозга, которые созданы на сегодняшний день. Вот визуализация нейронной сети, вот дендриты, отростки такие нейрональные, и по ним пробегают импульсы критического тока. Это модель, которую разрабатывают Женеве, за 5 лет они сделали модель 10 тыс. нейронов, это одна кортикальная колонка, в которой 100 млн синапсов. Результат, которого они достигли: температура Женевского озера повысилась на 2 градуса, потому что тот суперкомпьютер, который используется для расчета этой нейронной сети и который построила IBM и называется Blue Ray, использует его воды для своего охлаждения.

Другая модель, которую разработал Евгений Ижикевич совместно с Джеральдом Эдельманом в очень престижном частном университете в Калифорнии, директором которого является Джеральд Эдельман (специально созданный институт для исследования мозга), – это модель таламокортикальной системы человека. Показано, какие модели нейронов используются, достаточно физиологические приближения, и есть видео с запуском этой модели, красные точки означают активность возбуждающих нейронов, черные – тормозных.

И мы видим, что появляются такие волны активности, которые концентрически разбегаются, такая сбалансированная активность. Причем часто в прессе появляются такие высказывания: «IBM смоделировал мозг кошки», – они просто взяли нейронов столько, сколько в мозге кошки, соединили их таким образом, и у них там бегают какие-то спайки. Ижикевич был первым в мире, кто смог смоделировать такую нейронную сеть, в которой нейронов было столько же, сколько в человеческом мозге – 1011 нейронов и 1015 синапсов. Так что знайте, если кто расскажет вам, что смоделировали модель мозга человека, Ижикевич уже сделал это в 2005 году.

Но эти слова – «Евгений Ижикевич смоделировал мозг человека» – имеют какое-либо отношение к реальному мозгу человека? Мне кажется, что эту сюрреалистическую ситуацию с масштабными моделями мозга очень хорошо иллюстрирует эта картинка Рене Магритта, известного сюрреалиста, которая, кстати, была создана в 1960 году, как раз на заре искусственного интеллекта, и, как ни странно, ее Магритт назвал «Обнаженный нерв»». Я долго не знал, почему же он так назвал свою картинку, но потом, когда я увидел эти модели мозга, я понял, что они очень хорошо вписываются в эту картину. Смотрите: видите, здесь проступили очертания мозга – в этом облаке.

Это значит, что в этих моделях мозг оторван от тела, от реальности, в которой он живет. Эта модель – это мозг, замкнутый в себе, в котором протекает какая-то активность, неизвестно, способен ли этот мозг мыслить, способен ли сгенерировать какое-то адаптивное поведение, способен ли он рассуждать, – он похож на это облако, которое находится в бокале, в какой-то прекрасной горной долине. Выглядит очень красиво, но насколько это приближает нас к пониманию реального интеллекта и созданию искусственного – большой вопрос.

Хорошо, так какова же проблема, почему прошло 50 лет, а мы до сих пор не создали хороший искусственный интеллект, который приближался бы к естественному?

Мне кажется, что это связано с той проблемой, что исследователи все время пытаются создать модель интеллекта сразу же человека целиком. Либо мы пытаемся смоделировать, как человек рассуждает, либо мы пытаемся собрать вместе много нейронов и сделать мозг человека, и мы ожидаем, что этот мозг что-то нам скажет о том, как работает интеллект. Но интеллект человека является очень сложным объектом, поэтому придумать такую теорию и создать такую модель напрямую очень сложно, у нас не хватает ни биологических знаний, ни знаний моделирования.

Я хотел бы эту проблему временно оставить и рассказать, что происходило параллельно в других областях компьютерных наук – кибернетики, информатики – в области создания искусственных систем.

«Могут ли машины воспроизводить себе подобных и может ли в процессе самовоспроизведения происходить прогрессивная эволюция, приводящая к созданию машин, существенно более совершенных, чем исходная? Могут ли, наконец, машины сами ставить перед собой задачи, не поставленные конструкторами?». Это опять Андрей Николаевич Колмогоров. И эти две его идеи фактически легли в основу тех направлений, хотя, может быть, те люди, которые их развивают, даже и не знают об этих словах Колмогорова, но все равно подсознательно руководствуются этими признаками, про которые я сейчас расскажу. Незадолго до того, как Андрей Николаевич сказал эти слова, работы по созданию самовоспроизводящихся автоматов вел Джон фон Нейман, фактически это были последние работы его жизни.

Как вы, наверное, знаете, Джон фон Нейман (вместе с Аланом Тьюрингом) – это один из основателей архитектуры всех современных компьютеров, и в конце жизни он пришел к созданию самовоспроизводящихся автоматов. И эту задачу он попытался решить при помощи т.н. клеточных автоматов.

Клеточный автомат – это такое поле из клеток (здесь оно покрашено черным), каждая клеточка может находиться в разном состоянии, все клеточки абсолютно одинаковые, состояние клеточки определяется некоторыми правилами и зависит от состояния соседних клеток. Здесь цветом показано состояние соседней клетки. И он придумал такой клеточный автомат, в котором можно создать начальную конфигурацию, которая будет сама себя воспроизводить, и он выделил основные этапы такого самовоспроизведения.

Здесь показана современная компьютерная реализация такого клеточного автомата, где вот этот вот автомат создает копию при помощи программы, которая была в нем записана, потом он переписывает программу в этот новый автомат, чтобы он тоже мог создать следующую копию.

И мы видим, как это красиво выглядит, как двигаются клеточки, и все это такая забавная игра, но если представить себе, что Джон фон Нейман все это делал без компьютера, на листке бумаги и что каждая клетка в его модели могла иметь 49 разных состояний, то мы поймем, какую работу этот человек должен был проделать, чтобы придумать архитектуру такого вот автомата.

Поразительно, но примерно в то же время, когда Джон фон Нейман придумал эти автоматы, Уотсоном и Криком была открыта структура ДНК и были в общих чертах поняты механизмы наследственности. И те этапы и основные черты этих механизмов поразительно похожи на основные принципы самовоспроизводящихся автоматов, которые описал Джон фон Нейман.

Автоматы, подобные клеточным, могут самовоспроизводиться – но откуда появляется что-то новое? Могут ли эти автоматы эволюционировать? К сожалению, такие автоматы очень неустойчивы, т.е. любая ошибка, аналогичная мутации в биологической эволюции, приведет к тому, что автомат не сможет воспроизводиться, и поэтому встала проблема, как создать такие программы, которые могли бы модифицироваться, эволюционировать, в которых появлялось бы что-то новое, при этом эволюция не останавливалась бы, была бы прогрессивной.

Такими задачами стало заниматься направление под названием «искусственная жизнь». И основным девизом его стало воспроизведение не только той жизни, которую мы знаем, но и такой, какой она могла бы быть. Т.е. мы хотим воспроизвести эволюцию, понять ее принципы, может ли она протекать на другом материальном носителе, не только биологическом, и к чему это приведет.

Вот здесь справа вы видите типичный вид модели искусственной жизни, что они из себя представляют сегодня. Здесь это такая плоскость, есть некая популяция агентов (каждое существо в такой модели называется агентом), эти агенты совершают какие-то действия, перемещаются в среде, есть какие-то другие объекты, барьеры. Отдельный агент получает извне какую-то информацию (вот здесь сверху показаны поля зрения каждого из агентов) и на ее основе вычисляет, какие действия он будет совершать.

При этом агенты могут размножаться различными способами – бесполым, половым, приносить потомство, и это потомство хотя и будет напоминать своим поведением родителей, но будет от них несколько отличаться, и это открывает возможности для эволюции. Те агенты, которые наилучшим образом приспособлены к этой модельной среде, будут выживать, давать больше потомства, и таким образом в нашей среде будет происходить искусственная эволюция.

Но эта работа скорее теоретического плана для исследования эволюции, принципов адаптации, но подобные же алгоритмы (эволюционные алгоритмы) можно применить и к робототехнике, и это направление получило название «эволюционная робототехника», или «эволюционная роботика». Вот здесь вы видите модель робота-птицы, которая должна лететь (справа – система, которая управляет роботом), мы видим, что на 20-м поколении этот робот очень неустойчиво себя ведет, плохо летает.

Посмотрим, что на тысячном поколении. Тысяча поколений этих роботов сменилось, и на каждом поколении отбираются те роботы, которые лучше выполняют поставленные задачи, т.е. те, кто устойчивее всего может лететь (стрелочка – это некоторые пертурбации, воздушный поток, который пытается сбить с курса этого робота), и вы видите, что уже к тысячному поколению наша система достаточно успешно справляется с полетом и робот может достаточно устойчиво лететь.

Если мы замедленно посмотрим на четырехтысячном поколении, то движение роботов  (хотя мы изначально не закладывали никаких принципов того, как они будут лететь), будет уже очень похоже на то, как летят птицы, т.е. эволюция в нашем симуляторе нашла то же решение, что и природа в окружающем нас мире.

Появление таких подходов, как эволюционная роботика, искусственная жизнь, привело к тому, что в стане таких классических «искусственных интеллектуалов» стали появляться отступники, в частности, например, Родни Брукс, который сменил на посту главы заведующего лабораторией искусственного интеллекта MIT (это ведущий вуз мира с точки зрения инженерии и технологии) Марвина Минского. Вот он назвал этот искусственный интеллект старомодным и предложил другой подход, который он назвал «поведенческая роботика», и она заключается в том, что не нужно рассуждать, а нужно действовать, и давайте попытаемся смоделировать какие-то конкретные поведенческие программы животных и собрать робота из этих поведенческих программ.

И вот к чему это привело. Это пылесос, детище лаборатории Родни Брукса, сейчас такие пылесосы можно купить в Москве, они уже существуют несколько лет, вот он выезжает и собирает мусор, это очень удобно, потому что пылесос можно запрограммировать, он стоит у вас под кроватью, а когда уходите из дома, он выезжает, начинает пылесосить, объезжая все препятствия, ножки.

Вот кошка вам свалила горшок, он там пропылесосит. Он не падает со ступенек, т.е. он обладает набором поведенческих стратегий. Если сильно грязно – несколько раз на этом месте покрутится, уже такой достаточно сообразительный, на уровне таких пятисотмиллионолетней давности животных может демонстрировать интеллект (Родни Брукс свою книжку назвал «Кембрийский интеллект»).

Но очевидно, что такие замечательные роботы, не очень умные, но достаточно смышленые, могут пригодиться не только на кухне, но и в каких-то более экстремальных условиях. Вот тот же Родни Брукс на основании тех же самых алгоритмов предлагает другую платформу – роботы, частично автономные, частично управляемые издалека, которые могут использоваться в горячих точках, его можно послать в какое-то помещение, куда человеку не стоит заходить, которое может быть заминировано и куда можно скрытно проникнуть. Вот такие достижения на сегодня у самых лучших представителей искусственного интеллекта.

А теперь я хотел бы сделать такое небольшое лирическое отступление и показать мой самый любимый видеоролик, который я представляю на всех лекциях, который поможет вам почувствовать всю творческую силу искусственной эволюции.

Здесь ставилась задача проплыть как можно дольше, эволюционировала не только нейронная сеть, которая управляла существами, но и морфология, т.е. размер параллелепипедов, как у них что сочленяется – все это было заложено в эволюционный алгоритм. Вы видите, какие причудливые способы передвижения открыла эволюция в компьютере. Что немаловажно, они очень сильно напоминают те, что мы видим в реальной природе. Здесь задача была передвижение по плоскости. Здесь – подпрыгнуть как можно выше. Здесь – приблизиться к красной точке. Мы воспринимаем это поведение как очень целенаправленное, видите, как оно стремится к этой точке.

Это был краткий рассказ об истории искусственного интеллекта и его настоящем, но что же нас ждет в будущем, что нам делать с теми проблемами, которые накопились в искусственном интеллекте?

На мой взгляд, нам требуется перезагрузить, не выбрасывая тот багаж знаний, которые накопились за 50 лет исследования искусственного интеллекта и создания интеллектуальных систем, попробовать вернуться к тем основам искусственного интеллекта, к тем идеям, которые лежали в его основании, пытаться их переосмыслить и подумать, что же нам делать дальше. Возможно, какие-то направления были упущены в той гонке, которая началась в 50-е годы и которая привела к выделению двух направлений в искусственном интеллекте (символьный и искусственные нейронные сети).

Для того чтобы как-то показать мой подход, я хотел бы напомнить ту проблему, которую я называл, эта проблема заключается в том, что целостное понимание интеллекта очень сложно, поэтому сейчас очень сложно сделать полную модель искусственного интеллекта. И я хотел бы эту проблему переформулировать таким образом, чтобы стал очевидным подход для ее решения, который можно было бы использовать.

Интеллект человека – это продукт эволюции, и тогда, возможно, ответ на вопрос, как возрастала сложность познавательных способностей организма в эволюции, которая привела к появлению человека, поможет нам в понимании естественного и построении искусственного интеллекта.

Возможные решения. Исследование основных этапов эволюции интеллекта: от рыб через амфибий, приматов к самому высшему звену эволюции интеллекта – программисту. Интересно, что подобные мысли, идеи возникали уже на заре искусственного интеллекта. В частности, такой ученый, как Валентин Федорович Турчин, предложил кибернетическую теорию метасистемных переходов, которая говорит о том, что в эволюции происходит размножение некоторых кибернетических систем низшего уровня, и потом при появлении новой системы, которая может их интегрировать, управлять этими системами низшего уровня, появляется качественно новый уровень в этой системе – метасистемный переход, т.е. переход от одного уровня системы к иерархии систем.

И он рисовал такую вот достаточно наивную шкалу: управление положением – движение, управление движением – раздражимость и т.д. Сегодня мы понимаем, что это очень наивный физиологический подход. Интересно, что в то же время существовала физиологическая теория, которая рассматривала поведение и физиологию организма, можно сказать, с кибернетической точки зрения и которая, мне кажется, была очень совместима с теорией Турчина.

На этой фотографии представлены участники очень представительного международного симпозиума, который проходил в 1962 году (опять год, когда в этом зале была лекция и когда был очень высок интерес к искусственному интеллекту, когда он только зарождался). Этот симпозиум назывался «Обработка информации в нервной системе», вот здесь вот Умберто Матурана, известный теоретик, создатель автопоэзиса, такой молодой совсем; вот это Гордон Паск, английский кибернетик, которого называли «мистер Кибернетик»; это Хейнц фон Ферстер, человек, который вместе с Норбертом Винером был одним из отцов кибернетики; вот Аллен Ньюэлл, чью цитату я приводил вначале, тот человек, который стоял у истоков символьного искусственного интеллекта, разработал программу «Логик-теоретик», которая впервые доказала математическую теорему, которую до этого человек не рассматривал; Джон Эклс, очень известный австралийский физиолог, получил Нобелевскую премию за исследования синапсов, причем он был не просто нейрофизиолог-экспериментатор, а очень глубокий теоретик; а вот Марвин Минский, улыбается.

Как вы думаете, кто вот этот человек в самом центре? Это Петр Кузьмич Анохин, создатель теории функциональных систем. Я привел эту фотографию, чтобы показать, что теория функциональных систем – это не случайная теория, и она имеет глубокое отношение к данной проблеме. Она как раз появилась за несколько десятков лет до бурного интереса к моделированию кибернетических живых существ, но уже в себе содержала предпосылки, чтобы его облегчить, но она не была вовлечена в исследования подобных систем.

Что такое теория функциональных систем? Теория функциональных систем рассматривает организм как набор функциональных систем; каждая функциональная система – это система некоторых морфологических элементов, которые могут быть разбросаны по всему телу, – это и нейроны в голове, мышцы тела. Когда организм существует в среде, он постоянно решает какие-то задачи, пытается достичь какого-то адаптивного результата, и система эта направлена на получение этого адаптивного результата, и эти элементы взаимодействуют друг с другом для достижения этого результата.

Очень важное понятие здесь, которое Петр Кузьмич называл системообразующим фактором, – это адаптивный результат. Его важность в том, что оно позволяет связать эволюцию с интеллектом, т.е. дать промежуточное звено, через которое интеллект понимает, что служит эволюции, и эволюция может влиять на интеллект.

И мне кажется, что, используя старые идеи 60-х годов и новые накопленные за 50 лет методы, можно предложить исследовательскую программу, которую я назвал бы «К интеллекту по лестнице эволюции». Из чего состоит эта исследовательская программа: мы можем рассматривать адаптивность одноклеточных, изучать, адаптивны (обучаемы) нейроны или нет, как кооперация нейронов создает целый мозг и управляет целостным поведением, как динамика мозга ведет к естественному интеллекту и как понимание естественного интеллекта позволит нам создать искусственный интеллект. И очевидно, что совсем не обязательно двигаться по этой лестнице последовательно, можно двигаться по всем ступеням параллельно и пытаться понять какие-то механизмы, которые лежат на этих переходах, на некоторых эволюционных этапах.

Итак, первая часть проекта – клеточный интеллект. Смотрите: это фаг, который гонится за бактерией, он защищает организм от вредоносных бактерий. Он вполне целенаправленно пытается ее догнать и уничтожить. Вопрос: это одноклеточное обладает какой-нибудь целенаправленностью? Может ли обучаться? Можем ли мы это как-то исследовать? И каковы генетически-молекулярные механизмы этой адаптивности?

Мы можем проводить эксперимент с одноклеточными. В середине 50-х годов такие эксперименты проводились, в частности, Беатрис Гелбер (по обучению инфузорий), но потом были забыты. Сейчас можем брать компьютерное моделирование коопераций в моделях искусственной жизни, смотреть, как одноклеточные могут кооперироваться, чтобы создавать группы, которые решают адаптивные задачи. И такие работы действительно появляются в последнее время.

Вы видите ссылку на статью в Science «Прогнозирующее поведение в микробиологических кинетических сетях». Вот картинка с этой моделью, можем рассмотреть некоторые кинетические сети, позволяющие одноклеточным адаптироваться, как эти сети эволюционируют, какова их динамика, которая вызывает адаптацию, – можем исследовать в компьютерном моделировании, а потом попытаться либо создать генетически модифицированных одноклеточных, либо провести эксперименты по искусственной эволюции в пробирке.

Интересно, что эти модели основаны на том же самом математическом аппарате, том же классе моделей, что и искусственные нейронные сети. Это говорит о том, что в принципе внутри клеток может работать нечто похожее на то, что мы видим в каких-то частях моделей искусственных нейронных сетей.

Следующая часть программы: здесь приведены различные видео поведения нейронов в культуре. Они себя очень активно ведут, могут перемещаться по культуре, пытаются установить друг с другом связи – вот тело клетки, вот отростки, и они пытаются установить контакт. Видите, что это поведение достаточно активное, и очевидно, у этих клеток есть какие-то цели их поведения.

В рамках этого проекта мы могли бы исследовать такие вопросы: каковы цели поведения этих отдельных нейронов, как они узнают о том, что надо адаптироваться, надо учиться или нет? Как происходит коллективное решение задач большими популяциями нейронов? В культуре могут быть тысячи и десятки тысяч нейронов. И это исследуется при помощи таких современных методов, как мультиэлектронная регистрация активности в культурах нейронов, т.е. в чашке, на срезах мозга или активности многих клеток мозга в свободном поведении.

При этом мы можем анализировать всякие молекулярные и генетические механизмы тех изменений, которые происходят у животных в процессе обучения или в культуре. И можем строить биологически адекватные модели. Но если мы будем рассматривать культуру клеток саму по себе, это не поможет ответить на вопрос, откуда же берется интеллект, потому что интеллект связан со способностью решения задач.

И здесь мы можем использовать такие подходы, которые появились только в последние пару-тройку лет, когда искусственные нейронные сети используются для управления какими-то внешними устройствами. Т.е. у нас есть внешний робот или какой-то компьютерный симулятор, и мы хотим, чтобы искусственная нейронная сеть управляла этим роботом или симулятором и адаптировалась и обучалась. Если мы добьемся, чтобы она обучалась, тогда мы сможем понять, как это происходит в реальном мозге.

Вот здесь вот попытка такое исследование провести: берем мышку, берем из мозга нейроны, высаживаем их на мультиэлектронную матрицу, розовое – это питательная среда для клеток, клетки живут в ней, вот это контакты, электроды, которые могут как активировать клетки, электрически стимулировать их, так и записывать их активность.

Эта матрица вставляется в предусилитель, подключается к компьютеру, вот ученый смотрит в микроскоп и видит там нейроны. Показана модель, что у нас есть вот наша культура, а не как бы вариант мозга, и есть симулятор, и есть сигналы, которые идут как от симулятора истребителя к культуре, так и от культуры к симулятору. Но у них использован достаточно примитивный алгоритм (задача – поддержание функциональной устойчивости), что чем сильнее отклонение от курса, тем сильнее активируются культуры, и при этом чем выше активность культуры, тем сильнее обратная связь. Мы видим, что при таком подходе, который, конечно, слегка искусственный, результат все равно получается, и нейронная сеть может управлять истребителем, летящим над некоторой местностью.

Хорошо. Если мы хотим понять эволюцию мозга, как образуются различные части мозга, как они вместе эволюционировали, то сегодня у нас появляются новые замечательные инструменты для этого. Пол Аллен, коллега Билла Гейтса по созданию Microsoft, создал в начале 2000-х годов институт по исследованию мозга, где осуществил такой проект: сделал объемную карту экспрессии всех генов в мозге мыши. Показан полупрозрачный мозг мыши, разбитый на разные органические структуры, а эти точки показывают уровень экспрессии того или иного гена. 

Гены переключаются, и мы видим, что экспрессия разных генов локализована в различных областях мозга. Очевидно, что если мы знаем, где и какие гены экспрессируются, и можем сравнивать между собой различные области мозга и найти те гены, которыми они отличаются, и знать историю генов, т.к. современная биоинформатика позволяет нам сказать, когда и какие гены появились, то мы можем вычислить, когда и какие области мозга появились, какие области мозга развивались вместе, какие развивались быстрее, какие медленнее.

Таким образом, это позволит нам понять как раз ту лестницу, то усложнение мозга и лучше понять, как эволюционировала архитектура мозга. И, естественно, конечный итог нашей работы, к чему мы должны стремиться, – это нейроморфные системы искусственного интеллекта. Чтобы их создать, мы должны понять, как самоорганизация миллиардов адаптивных элементов приводит к возникновению системы когнитивных процессов, т.е. связанных с психикой, сознанием человека, например.

И если мы сможем создать такие модели, которые похожи на те крупномасштабные модели мозга, которые я показывал, мы тогда, возможно, сможем создать искусственный интеллект, основанный на принципах работы мозга, но также мы поймем лучше и естественный интеллект, и это даст нам возможности для повышения эффективности нашего естественного интеллекта.

Ну, вот такой финальный призыв: «К интеллекту по лестнице эволюции». Это была техническая часть лекции – о том, как развивался искусственный интеллект, какие в нем существуют проблемы. Но я думаю, что всем вам интересны и другие вопросы – зачем нам нужен искусственный интеллект, какой он должен быть вообще.

Перед вашими вопросами я хотел бы высказать несколько мыслей по поводу того, зачем нужен искусственный интеллект. Лекция называлась «Эволюция искусственного интеллекта». Если посмотрим более широкий контекст – контекст эволюции человека, биологической эволюции, то понятно, что мышление человека – это тоже продукт эволюции, более того, современный человек включает в свой фенотип, т.е. набор функциональных систем, не только то, что ему дано от природы, но и широкий набор инструментов, которыми он пользуется: тракторы, лопаты, компьютеры, автомобили, самолеты.

Это все, в конечном итоге, результат биологической эволюции, эти инструменты позволяют человеку лучше приспосабливаться к окружающей среде. Можно говорить, что у человека – расширенный фенотип, в который включены все инструменты, которыми он может пользоваться.

И более того, сегодня мы подходим к тому моменту, когда человек становится способен управлять дальнейшей эволюцией как своего расширенного фенотипа (т.е. создавая новые инструменты), так и напрямую – биологической эволюцией, внося какие-то генетические модификации в свой геном, своего потомства.

Таким образом, как я говорил, у нас есть две задачи – задача понять естественный интеллект через его моделирование и задача создать искусственный – системы, которые нам будут помогать. И очевидно, что в этом процессе эволюции наши системы искусственного интеллекта будут включаться в расширенный фенотип человека.

Тут встает очень интересный вопрос: эта эволюция – как ее понимать? Это человек расширяет свой фенотип, включая в него искусственный интеллект, или искусственный интеллект – это новый вид, расширением которого будет являться человек?

Обсуждение лекции

Вопрос из зала: Спасибо, Михаил. Мы с вами соседи, факультет психологии МГУ, мы напротив, рядом здание. Слово «интеллект» стало часто использоваться в середине ХVII века, а до этого его Аристотель еще использовал, но если мы посмотрим, где наиболее часто оно используется, мы увидим, что это психология.

Мой первый вопрос: использовали ли вы, другие ученые, работающие в области искусственного интеллекта, данные, которые получены были когнитивными психологами в первую очередь о структуре и функциях когнитивной сферы, структуре и функциях интеллекта, формального интеллекта, академического, социального интеллекта?

Второй вопрос: насчет тормозных нейронов – сейчас есть множество публикаций, что их не существует и тормозных процессов тоже не существует, скорее, это какие-то другие процессы… Что касается эволюции – отдельный вопрос. Все очень красиво выглядит. Но то, что было, так сказать, золотым фондом нашей генетики (Вернадский, Тимофеев-Ресовский),  – концепция мутаций как движущей силы эволюции, – это здесь никак не представлено. Как это вписывается?

Что касается последних слайдов, знакомы ли вы, ваши коллеги с работой Алексея Николаевича Леонтьева «Проблемы развития психики»? Это его докторская диссертация, которая была защищена в 1949 году, где было показано, что интеллект представлен на разных уровнях – на стадии сенсорной психики, персептивной психики, и то, что вы показали, вообще-то не ново, а вы ссылаетесь на какие-то работы современные…

Михаил Бурцев: Первый вопрос, про психологию. Мне кажется, то, что называется «искусственный интеллект» в его классическом виде – Минский, Ньюэлл и большинство людей, которые этим занимаются, – они не пытаются использовать психологические теории для построения моделей рассуждения и мышления человека. Просто те результаты, которые были достигнуты, определяются тем, что, конечно же, наш уровень понимания психики человека до сих пор не настолько хорош, чтобы действительно создать хорошо работающую систему. Т.е. да, эти психологические работы очень активно используются, они являются фундаментом для работ по классическому искусственному интеллекту.

Вопрос про мутации. То, что я не сказал про мутации, не означает, что их нет. В искусственной жизни, моделях эволюционной роботики мутации очень активно используются, на них все практически построено, т.е. у нас есть популяция генов, есть поколения, в эволюционной роботике есть поколения, существуют мутации и производятся новые поколения, в искусственной жизни четких поколений может не быть, потому что агенты могут делиться в любое время, и эти мутации создают ту вариабельность поведения, которую они демонстрируют, то, на что действует отбор.

Есть еще интересная грань. Мутации не есть единственный мотор эволюции. Есть работы еще конца ХIХ века (Болдуин, Морган, Осборн, также подобные взгляды развивались в СССР Шмальгаузеном) о том, что и обучение очень сильно влияет на эволюцию. К сожалению, нет времени, я бы вам показал еще одну модель, которую мы исследовали совместно с Кембриджским университетом, где показывалось, как обучение ускоряет эволюцию. Там показано, что при одной и той же скорости мутаций виды, у которых обучение лучше, быстрее накапливали адаптивные мутации, чем те виды, которые хуже обучаются. Это связано с тем, что если у нас отбирается предрасположенность выучить что-то, то мутации очень быстро закрепляются.

Про Леонтьева. Я не знаком с этими работами, я думаю, что в принципе они дают общие представления о том, что я рассказывал. Другое дело, что мы должны теперь идти глубже в конкретные алгоритмы, конкретные механизмы и их исследовать, т.е. попытаться теорию расширить и пододвинуть к экспериментам. Но я согласен, что их действительно можно использовать, спасибо большое за ссылку.

Вопрос из зала: Большое спасибо за лекцию. Вы не коснулись вопроса о принципиальной возможности использования машин Тьюринга для моделирования интеллекта. У вас были цитаты относительно моделирования сознания, возможности создания машины, которая доказывала бы теоремы математические. В частности, Пенроуз спекулирует на тему, что сознание в принципе обладает существенной невычислимостью. Как вы можете прокомментировать?

Михаил Бурцев: Тут сложно что-то сказать определенное, потому что, как вы говорите, это его гипотеза, которую этот уважаемый человек представляет и защищает, но мне кажется, то, что мы можем исследовать, лежит как раз в области вычислимого, т.е. в тех областях, где можно что-то описать и смоделировать формально. Поэтому мне не очевидно, какой должен быть подход, если интеллект действительно является невычислимым, поэтому мой подход здесь конструктивный, практический. Мы знаем, как моделировать, есть Пенроуз, который говорит, что он невычислимый, но он не доказал, так это или нет.

Вопрос из зала: Вопрос первый: что вы можете сказать по поводу мультиагентного подхода в конструировании искусственных нейронных сетей? Вопрос второй: что вы думаете насчет возможности создания нейроинтерфейса? Вопрос третий: что вы думаете насчет возможности квантовых эффектов, участвующих в порождении сознания и самосознания?

Михаил Бурцев: Я так понимаю, третий вопрос – это примерно то же самое, что вопрос, связанный с вычислимостью и с Пенроузом. Мое мнение – что на уровне мышления квантовые эффекты все усредняются и не играют роли. А по поводу мультиагентного моделирования искусственных нейронных сетей – конечно же, вот эта моя строчка, где нейроны кооперируются, чтобы создать мозг, – это прямая отсылка к мультиагентному моделированию, что у нас есть нейроны как отдельные агенты, у которых есть свои цели и программы поведения, и интеллект рождается на верхнем уровне – уровне взаимодействия этих агентов.

Про нейроинтерфесы – в лекции я касался их с точки зрения культур, т.е. интерфейс между клеткой и каким-то симулятором или роботом, но, конечно же, нейроинтерфейс нужно создавать, им пользоваться, но что-то конкретное сказать по этому вопросу я не могу.

Вопрос из зала: Скажите, пожалуйста, ваше личное мнение: сознание – это есть деятельность мозга или нет?

Михаил Бурцев: Да.

Вопрос из зала: Два вопроса, один принципиальный: может ли программа порождать новое знание, по-вашему?

Михаил Бурцев: Может. Например, вот эти замечательные кубики, которые связаны между собой, добывают программу, которая симулирует эволюцию этих существ, и они получают новые знания о том, как перемещаться в среде. Фактически конструктор не закладывает туда этих знаний, он закладывает среду, возможность собирать из кубиков последовательности, алгоритм, который позволяет этим кубикам как-то изгибаться. Больше ничего не говорит, не говорит, как они конкретно должны быть связаны, изгибаться. С точки зрения программы это новые знания.

Реплика из зала: На самом деле в знании важна рефлексия, здесь рефлексии нет.

Михаил Бурцев: Да, если вы вносите в понимание знания рефлексию, то здесь ее нет. Но мне кажется, что новое знание здесь присутствует, может, не того качества, про которое вы говорите, но, что касается рефлексии, мне кажется, это тоже может быть смоделировано.

Реплика из зала: На самом деле возможны интеллектуальные агенты, которые не понимают, что они выполняют интеллектуальную работу. Еще очень интересно, в США была программа строительства супернейрокомпьютера. Что с ней?

Михаил Бурцев: Сейчас есть программа, которую объявила DARPA вместе с IBM, которая называется SyNAPSE. Это попытка создать систему нейроморфного искусственного интеллекта, причем говорится, мол, выбросите на свалку все искусственные нейронные сети и искусственный интеллект, мы этих людей не позовем к себе в проект, а мы будем делать чипы, т.е. микросхемы, будем на уровне железа моделировать нейроны, и у нас получится нейрокомпьютер. Вот такой проект запущен пару лет назад, к каким результатам он приведет – посмотрим.

Вопрос из зала: Простите за дилетантский вопрос. Насколько я понял из лекции, искусственные нейронные сети больше аппроксимируют информацию, а искусственный интеллект скорее отвечает за логические действия, и это очень похоже на разделение обязанностей между полушариями мозга, которые взаимодействуют друг с другом, правое – аппроксимирует, левое – считает логически. Нет ли каких-то моделей, где взаимодействуют нейронные сети и интеллект, над ними надстроенный?

Михаил Бурцев: Мне кажется, это несколько наивный подход, потому что на самом-то деле в реальном мозге логика вытекает из коллективной динамики нейронов, те. у нас нет такого: в одном полушарии все эти логические автоматы, в другом – нейроны, и они каким-то образом общаются. Т.е. наша задача – построить так, чтобы у нас были внизу нейроны, а сверху логика сама собой, каким-то образом, каким – мы не знаем.

Вопрос из зала: Вами рассмотрены, собственно, действия аниматоров, т.е. того, что относится к компетенции soft artificial life, а в настоящее время бурно развивается направление damp artificial life, т.е. воспроизведение искусственной жизни на биохимических средах, создание искусственной клетки как таковой. Как вы думаете, в рамках парадигмы, принципа эволюционной кибернетики, возможно ли перейти к моделированию in vitro эволюционного процесса и дойти таким образом до нейронов в рамках damp artificial life?

Михаил Бурцев: Мне кажется, это очень интересное направление, и та работа в Science, на которую я ссылался, – это как пример чего-то подобного, там представлена модель, и представлены эксперименты на реальной кишечной палочке, которые показывают, что она действительно перестраивается в сеть в зависимости от условий.

Эта модель не просто теоретическая, она совмещает в себе эксперименты с теорией, хотя не на том уровне, на котором хотелось бы, но все-таки. И, мне кажется, фактически с теми инструментами, которые сейчас появляются, за этим и будущее. Вот те работы про нейронные сети в культурах, про которые я рассказывал, идут в том же направлении. Но мне кажется, что если мы будем идти последовательно по всем этапам этой программы, то это будет какой-то мегапроект, и это невозможно будет скоординировать. Мне представляется, что в каких-то точках, которые сейчас наиболее проблематичны, мы должны делать частные модели, а потом пытаться делать какую-то общую картинку.

Вопрос из зала: Второй вопрос, по машинам Тьюринга: на реакционно-диффузионных процессах, которые лежат в основе принципа Тьюринга, возможно моделировать искусственный интеллект?

Михаил Бурцев: Мне кажется, если они позволяют осуществлять принцип Тьюринга – конечно. Другой вопрос – насколько это эффективно. Мне кажется, что современные компьютерные средства гораздо более эффективны, хотя и менее романтичны, чем диффузионные среды, но пока мы не создали такого диффузионного компьютера, который был бы эффективнее простого компьютера.

Вопрос из зала: Я хотел выяснить, в 1976 году – что, машина математическое открытие сделала? Это сообщение верно?

Михаил Бурцев: Да, программа Ньюэлла «Логик-теоретик» доказала теорему, это верно.

Вопрос из зала: Нет, то была другая программа – АМ, очень сложная…

Михаил Бурцев: Нет, не могу сказать про это ничего.

Вопрос из зала: Хочу задать вопрос, связанный с одной из предыдущих лекций на тему, близкую сегодняшней, это была лекция Константина Владимировича Анохина «Коды мозга».

Одна из тем, которая была поднята в той лекции, и которую мне хотелось бы перенести в сегодняшнюю дискуссию, была следующая. Он показывал опыт, в котором человеку были представлены несколько фотографий кинозвезд и не только, и его определенные нейроны реагировали только на фотографии Холли Берри, причем не только на конкретно актрису, но и на образ Женщины-кошки, где не видно ее лица, и даже просто на ее имя, написанное на бумаге. Говоря о том, что искусственный интеллект может моделировать наше сознание, каким образом это возможно, мы же не можем взять всех киноактеров всего мира и для каждого выделить по нейрону, может быть, есть какие-то другие схемы?

Михаил Бурцев: На этот вопрос ответить очень сложно. Потому что, я думаю, даже Константин Владимирович в своей лекции не дал на него ответа. Мы можем предполагать, с чем связаны такие нейроны, если рассматривать это с точки зрения теории функциональных систем, это значит, они связаны с теми популяциями нейронов, которые представляют функциональную систему, которая связана, с одной стороны, с опытом данного индивидуума в общении с женщинами, и эта система специализирована, надстроена в какой-то своей части таким образом, что она может отличать одних женщин от других, и эту специфичность мы регистрируем с помощью функциональной регистрации. Откуда берется эта специфичность, какие алгоритмы ее построения – это те вопросы, которые мы пытаемся исследовать, смоделировать, понять.

Вопрос из зала: Интеллект вообще является, по современным воззрениям, результатом дарвиновской эволюции, естественного отбора, который подразумевает жестокость, страдания и т.д. Соответственно, хотелось бы услышать об исследованиях в области дружественного искусственного интеллекта и об аспектах, связанных вообще с решением проблем эмоционального характера. Если искусственный интеллект будет создан, то будет ли это интеллект с такой же мрачной эмоциональной сферой, как у среднестатистического современного человека?

Михаил Бурцев: Во-первых, посмотрите, как люди улыбаются в этом зале, мне не кажется, что среднестатистический человек такой угрюмый и депрессивный. На ваш вопрос, видимо, следует дать несколько разных ответов.

По поводу эмоционально дружественного искусственного интеллекта. Мне кажется, что люди, которые занимаются искусственным интеллектом, перебрали все психологические теории, которые у них были, – ничего не получается, давайте теперь попробуем что-нибудь дружественное создать – все как-то вот так выглядит, т.е. раньше у нас был просто робот, у которого были лампочки, глаза и вместо рта – динамик, а теперь мы сделали, чтобы он улыбаться мог, от этого он станет более интеллектуальным. Мне кажется, это просто навязывание бантиков без сути.

С другой стороны, вопрос, почему эволюция не приводит к созданию таких эгоистичных и некооперирующихся существ, почему и как интеллект может быть некооперативным и эгоистичным, – это просто отдельная область исследования эволюции.

Здесь получены достаточно серьезные результаты, которые показывают, что в действительности существуют условия и факторы, и мы видим в природе, что и животные часто кооперируются, и родители следят за своими детьми, хотя им это, кажется, абсолютно невыгодно, животные кооперируются на охоте – и в зависимости от условий мы можем видеть как эгоистичные, так и кооперативные проявления естественного отбора.

И это исследуется, и более или менее понятно, откуда это берется, и мне кажется, здесь никаких проблем нет, мы создадим искусственный интеллект, и он будет кооперироваться с человеком. Тем более, мне кажется, мы не создадим интеллект неожиданно, если мы его сами будем создавать, если он не возникнет из Интернета: мы что-то сделали – бац – и у нас появился искусственный интеллект. Скорее всего, это будет такая длительная череда приближений, все более и более интеллектуальных систем, и на каждом этапе мы будем понимать, что можно сделать, чтобы получить то, что мы хотим.

Вопрос из зала: Мы все говорим о переносе каких-то функций человеческого интеллекта, человеческого мозга на какие-то искусственно созданные объекты… А если наоборот – например, нейропрограммирование, т.е. наши какие-то сведения о методах обработки данных, получении их, формализации применить к человеческому мозгу? Проводятся какие-то такие исследования?

Михаил Бурцев: Я думаю, ведутся, хотя я не являюсь специалистом в психологии. Существуют какие-то техники, которые позволяют что-то лучше запоминать… На том уровне, на котором мы сейчас понимаем эти процессы, мы можем использовать их как-то, чтобы улучшить свой интеллект. Другое дело, что у всех этих приемов есть какие-то свои пределы.

Вопрос из зала: Вы говорили про экспертные системы. Сейчас вот новый бум в этом направлении. Что происходит с автоматическим извлечением знаний?

Михаил Бурцев: Я сам не являюсь специалистом в этой области и не могу квалифицированно ответить на этот вопрос, но, мне кажется, из общих соображений очевиден ответ, что, естественно, эти системы сейчас очень востребованы в связи с тем, что мы имеем очень много информации в цифровом виде, которую нужно анализировать и извлекать в каких-то узкоспециализированных областях.

Например, на Западе существует много проектов по анализу статей, в основном биохимических, которые спонсируют фармацевтические компании, которые пытаются выловить биохимические пути, на которые можно было бы воздействовать, для того чтобы создать какие-то новые лекарства. Такие подходы существуют, я вспоминаю новосибирские работы, которые ведутся тоже по построению таких вот схем биохимической работы клетки.

Вопрос из зала: Томас Гоббс считал, что мышление – это вычислительный процесс. Как вы считаете, такая точка зрения имеет право на жизнь?

Михаил Бурцев: Конечно, эта точка зрения имеет право на существования, более того, насколько я понимаю, я примерно ею и пользуюсь, поскольку построения моделей все основаны на вычислениях, и искусственный интеллект был построен на базе вычислений.

Вопрос из зала: Скажите, пожалуйста, какие кластеры проблем вы выделили бы, где применение искусственного интеллекта действительно необходимо? То есть хотелось бы считать, что мы его создаем, для того чтобы роботы убирали у нас в комнате палас…

Михаил Бурцев: Вот эта вещь очень хорошая, с точки зрения человека, потому что если мы создадим интеллект хотя бы на уровне животного, и эти «животные» будут выполнять квалифицированную работу, или на уровне квалифицированного работника, т.е. сделать аутсорсинг, передать некие рутинные операции внешнему существу – почему бы и нет. Мне кажется, это хороший кластер с точки зрения применения искусственного интеллекта. Какие еще могут быть применения – сложно ответить, это как с Интернетом, когда он существовал на уровне тысячи компьютеров, невозможно было предсказать, как его будут использовать сейчас.

Вопрос из зала: Скажите, пожалуйста, Михаил, каким вы видите проэволюционировавший искусственный интеллект, и как, на ваш взгляд, он может отразиться на людях, к чему может привести?

Михаил Бурцев: Как я говорил, мне кажется, есть два сценария, первый – что мы будем включены в искусственный интеллект и сами его создадим, т.е. мы будем являться, грубо говоря, теми нейронами в мозге, только вместо каждого нейрона будет отдельный человек, это такая очень спекулятивная картина, и вообще непонятно, это будет искусственный интеллект или естественный интеллект, и сможет ли он проявлять себя как личность.

Другой вопрос – если мы сами создадим такой искусственный интеллект, который в какой-то момент станет умнее человека, и раз человек смог создать искусственный интеллект, то этот искусственный интеллект уж точно сможет создать искусственный интеллект, даже еще умнее, чем он сам. Вопрос, будет ли этот искусственный интеллект дружественным нам, и сможем ли мы контролировать его. Мне кажется, до этого еще очень далеко, а во-вторых, все-таки на первоначальных стадиях мы сможем ресурсы для такого искусственного интеллекта контролировать, поэтому, скорее всего, моя большая надежда, что мы будем двигаться в сторону симбиоза с искусственным интеллектом.

Вопрос из зала: Меня зовут Илья, у меня вопрос по поводу нейросети, которая управляла истребителем. Собственно, как получалась такая нейросеть? Это была некая популяция, из которой потом отобрали ту, которая умеет это делать, или одиночную сеть можно методом обратного подкрепления научить этому?

Михаил Бурцев: Это очень сложный вопрос, потому что эти опыты пока плохо воспроизводились, и, судя по тому, как напечатано в работах этих авторов, была применена такая уловка, что чем сильнее истребитель отклонялся от курса, тем сильнее стимулировалась наша нейрональная культура. И в некотором пределе чем сильнее мы его стимулируем, тем сильнее он отвечает. А обратный сигнал был такой: чем сильнее он отвечает, тем сильнее обратная связь и коррекция курса. Таким образом, получалось, что интеллектуально искусственные сети не использовались, а просто сеть использовалась в качестве такого промежуточного звена.

Вопрос из зала: У меня вопрос такого абстрактного плана. Очевидно, что наша мораль является некоторой функцией нашего естественного интеллекта, который мы приобрели в эволюции. Соответственно, если следовать логике, что некий созданный искусственный интеллект также придет к духовному развитию в ходе эволюции и станет т.н. сильным искусственным интеллектом, морально ли, с нашей точки зрения, отключать или включать эту систему искусственного интеллекта и использовать некие законы, регулирующие наше человеческое поведение, применительно к той системе, которая будет создана и будет функционировать параллельно нам с аналогичными структурами социального взаимодействия и морально-личностного?

Михаил Бурцев: Очень интересный вопрос. Очевидно, что моральные ценности человека эволюционировали не только в биологической эволюции, но и в культурной, и моральные ценности разных народов сильно отличаются, и вопрос в том, должны ли мы сами создавать моральные ценности для искусственного интеллекта или они сами по себе возникнуть у них должны.

На этот вопрос, мне кажется, сейчас нельзя дать однозначного ответа, но я думаю, самым реалистичным будет такой сценарий: если искусственный интеллект будет разрабатываться разными группами людей, то каждая группа будет решать по-своему этот вопрос. Очевидно, что мы хотим контролировать те цели и те моральные принципы, которые заложены в искусственный интеллект, хотя бы потому, что искусственный интеллект не должен хотеть нас убить. Глупо было бы этого не делать, и это, скорее всего, будет делаться. Вопрос в том, насколько мы сможем считать это существо личностью, и он еще требует своей философской разработки. Спасибо большое.