За последние несколько лет широко распространилось мнение, что сложный искусственный интеллект (ИИ) находится уже на стадии разработки. Билл Гейтс, Стивен Хокинг и другие известные личности предупреждают человечество о грядущем наступлении «сверхразумных машин» - таких механизмов, которые дадут фору не только лучшими умам человечества в их профессиональных сферах, но и в социальных навыках и способности к размышлению. Они предостерегают нас о вероятности того, что сверхинтеллект уничтожит человечество. В отличии от них, у технического директора Google Рэя Курцвейла прогнозы весьма оптимистичны - в своих работах он описывает технологическую утопию, которая повлечёт за собой свободу от болезней, нищеты и нехватки ресурсов.

Но независимо от того, будет ли искусственный интеллект дружественным или враждебным, мы должны усиленно сопротивляться популярному стереотипу, что лучший образец такого интеллекта в 21 веке может быть создан только на кремниевой основе.

Настало время задаться вопросом: могли бы эти гораздо более умные существа обладать сознанием? Могли бы они осознавать собственное существование? Когда мы любуемся тёплыми оттенками заката или слышим звук кофеварки - всё это является свойством нашей психики. Мы сознаём. Сверхразумный искусственный интеллект способен решить проблемы, которые не под силу самым одарённым гениям, но будет ли он иметь сознательный опыт, будучи сделанным из совсем другого субстрата? Сможет ли он чувствовать в себе разгорающееся любопытство или муки страданий? Давайте назовём подобные вопросы «Проблемой сознания искусственного интеллекта».

Если кремний не может служить основой для сознания, значит, сверхразумные машины, хотя и будут очень умными, но не будут обладать субъективным опытом. Они смогут лишь имитировать его подобно прекрасной девушке-андроиду из фильма «Из машины», которая убедила главного героя в том, что влюблена в него, ведь она вела себя так, словно имеет сознание.

В крайнем (и ужасающем) случае люди начнут постепенно замещать части своего мозга кремниевыми чипами, и в конце концов, это приведёт к тому, что осознавать окружающий мир останутся только сознательные животные других видов. Это было бы непостижимой утратой, поэтому малейший риск такого исхода должен заставить нас серьёзно задуматься над тем, возможно ли сознание на искусственном носителе.

Философ Дэвид Чалмерс обозначил «трудную проблему сознания» следующим вопросом: почему физико-химические процессы в материальном мозге сопровождаются определённым чувством восприятия окружающего мира и собственного «Я»? Однако проблема сознания ИИ - это не просто трудная проблема Чалмерса, переложенная на искусственный интеллект. В трудной проблеме сознания заранее предполагается, что мы осознаём. В конце концов, каждый из нас может сказать от своего лица: я сознаю. Трудная проблема ставит вопрос: почему мы осознаём? Почему процессы обработки информации в мозге вызывают определённое чувство осознания?

В противоположность обычной трудной проблеме, «проблема сознания ИИ» задаётся вопросом: может ли искусственный интеллект на кремниевой основе хотя бы быть способным к обладанию сознанием? В этой проблеме не предполагается наличие сознания, ведь под сомнение ставится сама возможность его существования для ИИ. Вот почему это разные проблемы, хотя объединённые тем, что их обе наука решить пока не в состоянии.

Для рассмотрения проблемы сознания ИИ я использовала наиболее простую версию возможного решения. В когнитивистике предполагается, что мозг представляет собой систему обработки информации и что в основе всех психических функций лежат вычисления. Согласно такому представлению, искусственный интеллект может обладать сознанием, ведь он может делать то же самое, что делает мозг, - производить вычисления. Если компьютер, подобно человеку, может передавать информацию, значит, он так же сможет обладать и сознанием.

Однако теперь я подозреваю, что ситуация куда сложнее, чем казалась ранее, ведь остаётся открытым вопрос: будет ли сознание действительно идти рука об руку со сложными вычислениями? Сомнение возникает по двум причинам.

Во-первых, сверхразум ИИ может вовсе обойти сознание. В человеке сознание плотно коррелирует с обучением чему-то новому, что требует концентрации, и когда мысль находится в центре нашего внимания, она обрабатывается медленным и последовательным образом. В каждый конкретный момент времени осознанию подвергается лишь малая доля нашей мыслительной деятельности. Сверхразум со своими молниеносными вычислениями превзойдёт любого эксперта в любой области знаний, ведь в его доступе будут огромные базы данных, возможно, весь Интернет. Поэтому он сможет вообще не нуждаться в таких умственных способностях, которые в мозге человека связаны с сознательным опытом. Сознание может оказаться ненужным пережитком.

Во-вторых, сознание может быть ограничено только углеродным субстратом. Атомы углерода образуют более прочные и стабильные химические связи, чем кремний, и это позволяет ему создавать необычайно большое количество соединений, а ещё он отличается от кремния способностью легко создавать двойные связи. В астробиологии этому различию придаётся огромное значение, потому что, как говорят учёные, именно оно делает углерод более подходящим элементом для развития жизни во Вселенной.

Если химические различия между углеродом и кремнием важны для их способности или неспособности производить жизнь, мы не должны исключать, что это различие также очень важно в вопросе о том, может ли на кремниевой основе существовать сознание, независимо от способности этого вещества превосходно обрабатывать информацию.

Эти два соображения говорят о том, что мы должны рассматривать проблему сознания ИИ как открытый вопрос. Конечно, с этической точки зрения лучше считать ИИ потенциально способным к сознанию, ведь тогда мы будет заранее относиться к ним как к чувствующим существам и таким образом не навлечём на себя их будущую месть за плохое отношение, как продемонстрировано в фильмах «Я робот» или «Из машины».

В самом деле, будущие носители искусственного интеллекта, если они когда-нибудь станут философами, могут подобным вопросом задаться и о нас с вами: «Интересно, обладают ли эти углеродные формы жизни настоящим сознанием?» В конце концов, как ИИ сможет убедиться, что мы сознаём?