?

Log in

No account? Create an account

Символы и знамения

Previous Entry Share Next Entry
Проблемы переноса сознания в компьютер
Think
wampus_999
В современной западной философии нынче модно называть наши ощущения – цвета, звука, запаха или вкуса – словечком "квалиа". Под этим подразумеваются субъективные ментальные состояния и акты восприятия, вызываемые соответствующими органами чувств (чувство "красноты", боли, солености и т.п.). В связи с полнейшей неопределенностью в понимании сущности и принципов работы сознания и "провалом в объяснении" взаимосвязи физической основы работы мозга и нефизического статуса содержимого сознания (психофизиологическая проблема, или по Чалмерсу сложная проблема сознания), в этой области царит полная неразбериха. Предложены десятки теорий, часто полностью противоречащих друг другу, что говорит о том, что реальных знаний у нас пока не существует. Даже понятие информации, краеугольное в понимании работы мозга, толком не проработано ни в физическом, ни тем более в философском плане. Тем не менее в популярной и не очень литературе активно пропагандируется оптимистический взгляд на то, что вот-вот уже завтра все проблемы будут решены и мы запросто сможем связываться с нашим мозгом через электронный интерфейс и даже загружать в компьютер свое сознание.

Чтобы дополнить жиденький хор пессимистических голосов, попробую рассмотреть небольшую часть проблемы, касающуюся создания ощущающих и мыслящих искусственных аналогов человека, а так же переноса человеческого сознания в компьютер – что при этом случится с нашими ощущениями? Возможно ли будет их воспроизвести на другом "харде"? По умолчанию считается, что возможно, ведь это чисто информационные процессы и явления, а раз так, то они не должны зависеть от субстрата.

Ощущения всегда субъективны, мы с младенчества лишь учимся сопоставлять наши ощущения в том виде, как они нам представляются, с реальными предметами и явлениями, которые их вызывают, одновременно развивая и обучая те части нейронных сетей мозга, которые за это отвечают. Мы можем только предполагать, что другие люди точно так же ощущают окружающий мир, основываясь на том, что у них практически идентичное строение организма и они реагируют так же как и мы. Но даже и тут есть поводы для сомнений. Почему разные люди предпочитают те или иные цвета? Почему одним народам нравится есть то, что другим отвратительно до рвоты? Почему один в восторге от классической музыки, а другой воспринимает ее как какофонию? А ведь есть еще и синестезия. Как синестетик может объяснить цвет и форму звуков, вкус слов, цвет букв?

Вопрос "как вы объясните слепому от рождения человеку, на что похож красный цвет?" не имеет смысла, цвет можно "объяснить" только указав на разные предметы одного цвета, но для этого их надо видеть, то есть иметь ощущение цвета, и желательно не иметь при этом дефектов вроде дальтонизма. Создавая электронное подобие разума и сознания мы не сможем воспроизвести точно такого же восприятия, какое имеем сами, даже если снабдим его всеми необходимыми датчиками – для этого нужно сделать нашу полную биологическую копию. Уже не говорим об ощущениях боли или тепла/холода, которые могут изменяться у одного человека в зависимости от обстоятельств.

Тем не менее, такое искусственное существо, снабженное всеми необходимыми датчиками, реально будет иметь все эти чувства и восприятия, но ощущаемые по-своему, они будут ему привычны и восприниматься так же естественно, как воспринимаем их мы, ведь оно обучится пользоваться ими с "рождения". При этом нет разницы, какими будут для него цвет, запах или звук, важно, что оно их будет распознавать, отличать красное от зеленого, "до" от "ре", кислое от соленого. Взглянув на вас, оно точно опишет как вы выглядите, так как слова – лишь обозначения, созданные по взаимному соглашению.

Но в связи с тем, что воспроизвести в точности биологические датчики в электронном аналоге чрезвычайно сложно, слишком уж разные у них принципы работы, невозможно надеяться, что если ваше сознание загрузят в киборга, вы останетесь прежним. Вот такой простой пример. Если человек родился слепым или потерял зрение в детстве, то даже если полностью восстановить ему зрение, он либо вообще не сможет им пользоваться, либо овладеет им в ограниченном диапазоне, хотя сигналы от глаз будут "родными" для мозга. Умение должно сформироваться с младенчества в процессе роста и развития мозга. А что будет, если к копии этого уже обученного мозга будут подключены электронные глаза, действующие вообще на ином принципе? Получается, что этому новому существу придется снова учиться пользоваться органами чувств, как младенцу, и сможет ли он научиться – большой вопрос, ведь ему уже перенесен образ мозга, в котором уже сформировано умение пользоваться биологическим зрением.

То же самое касается и восприятия человеком музыки. Перенести его в киборга будет чрезвычайно непросто, если не невозможно. Почему? Дело в том, что своей конструкции улитка внутреннего уха является механическим измерителем амплитудно-частотных характеристик, и по действию схожа не с микрофоном, а с анализатором спектра, совмещенным с аналого-цифровым преобразователем. Это позволяет мозгу сразу реагировать на конкретный звук, а не производить преобразование Фурье математически (на что, впрочем, у него не хватит вычислительных способностей), с целью разложения воспринимаемого звука на отдельные источники. Особенность дополнительного сжатия акустической информации позволяет значительно сократить время на анализ полученных данных. Закрученность улитки позволяет снимать спектр, совмещая октавы, то есть ось частоты в АЧХ звуковых колебаний закручивается, амплитуды октав совмещаются, что даёт возможность значительно сократить количество необходимых информационных каналов. Эта физическая основа слуха служит причиной восприятия музыки человеком. Воспроизвести подобный обработчик сигналов, вероятно, можно, но, полагаю, это дело весьма далекого будущего, а уж как настроить киборгу нужное восприятие музыки, тут даже и подходов не видно.

А попробуйте настроить такому существу вкусовые или обонятельные ощущения, соответствующие человеческим, если ваши датчики будут не биологическими.

И тем более сложно, а точнее, невозможно будет воспроизвести мир наших эмоций и чувств, который сложнейшим образом зависит от десятков и сотен гормонов и медиаторов, каждый из которых одновременно выполняет в организме несколько ролей, причем, иногда очень разных. Да, теоретически возможно сопоставить каждому нейрону и синапсу его искусственный аналог, и задать первоначальное состояние искусственному мозгу, но как заставить их действовать аналогично тому, как нейроны ведут себя в биологической среде?

Дело в том, что наши чувства, мысли и действия не на 100% предопределены переходом материальных частиц из одного состояния в другое. Это следствие не только квантовой неопределенности, но так же и того, что переключения состояний в синапсах происходят под действием градиентов концентраций (а в последнее время говорят и о возможности оптического механизма нейротрансмиссии), значительно более неопределенных, нежели переключение транзисторных ячеек процессора, поэтому флуктуации концентраций вызывают как неизбежный шум, так и неопределенность во времени срабатывания. То есть наш мозг больше "ламповый", чем цифровой компьютер. Тем, кто захочет перенести сознание человека в искусственную цифровую нейронную сеть, придется предварительно посчитать точное количество гормонов и медиаторов в каждом синапсе и создать точное их соответствие в ее логических элементах. Ясно, что это утопия.

Напрашивается вывод, что мы по мере развития технологий создания нейронных сетей с глубоким обучением возможно и сможем создать мыслящее и осознающее существо, но это будет не тот человек, которого мы пытались скопировать и даже вообще не человек, а его подобие, ощущающее мир может и адекватно, но по-своему (своего рода инопланетянин). Он может так же "волноваться", "злиться", "переживать", но тоже по-своему. Да, мы можем запрограммировать его так, чтобы это было похоже на наши эмоции, но это опять же будет лишь похожесть, а не естественность. Причем не надо думать, что он не будет иметь реальных ощущений и эмоций. Как я уже сказал, они для него будут совершенно естественны (но только в случае его создания и обучения с нуля, а не путем переноса личности), так же как они естественны для нас, хотя теперь мы знаем, что у нас они "включаются" искусственно путем запуска синтеза соответствующих веществ-триггеров, а не потому, что мы что-то "почувствовали". То есть подобный искусственный интеллект вовсе не будет философским зомби, иначе нам придется назвать таковыми и себя. Ведь наши реакции представляются нам "естественными" только потому, что они нам привычны с рождения и мы не чувствуем всей изнанки деятельности нашего организма и мозга.

Ну а перевод человеческого сознания на новую элементную базу на мой взгляд абсолютно утопичен, ибо совместить обученную нейронную сеть с совершенно новым хардом дело совершенно несбыточное. Ведь пока что невозможно даже скопировать обученный искусственный интеллект на другую аналогичную нейронную сеть, ее требуется заново обучать, что уж говорить о переносе на совершенно иной субстрат. Для начала пусть попробуют запустить линуксовую программу на винде без эмулятора.
Tags:


  • 1
Прошу прощения, я тут в комментарии к предыдущему посту упомянул о том, что уже приводил пример с синапсами мозга и логическими элементами компьютеров, но только сейчас заметил, что он был в этой статье, которую я написал больше недели назад, но не стал здесь выкладывать, а сначала попытался опубликовать в песочнице Хабра, чтобы наконец получить там полные права. Но не тут-то было. Промурыжили неделю и заявили, что "материал не соответствует критериям, предъявляемым модераторами к содержанию и проработанности материалов", а дальше многословные настоятельные просьбы "не терроризировать службу поддержки", т.к. они не комментируют причины отказа. Вангую, что редакции, откровенно зацикленной на светлых трансгуманистических перспективах, которые реализуются уже завтра, явно не понравился мой пессимистический настрой. Впрочем, не исключаю и того, что все, что я пишу и вправду бред невежественного дилетанта, по-настоящему не разобравшегося ни в одной из сфер, в которые он лезет.

а я прочитал с большИм интересом про мозг, и всё такое.
Явно очень близко к реальности.
Оосбнно про "ламповый мозг" меня зацепило.

2. А что вас Хабр не пускает, это хороший критерий (вашего текста).
Они вас боятся ))))), вы умнее.)

Спасибо на добром слове ))

По-моему, основная проблема при рассмотрениии восприятий возникает с пространством, поскольку становится совершенно непонятно, где что находится. Потоки инофрмации идут исключительно в одном направлении - в мозг, соотвественно возникает вопрос, а где находится мозг в мире, который человек видит. Либо приходится сказать, что этот видимый мир конструируется мозгом (это соотвествует Канту: пространство создается разумом), либо придется приписать мозгу возможность проекции восприятий в исходное пространство. Оба пути выводят нас за пределы экспериментальной науки.

/* коммент для неопределенного круга читателей, не для призыва к диалогу

оба пути никуда не выводят за пределы экспериментальной науки
мозг построил модель мира и мозг спроектировал свои восприятия в мир в виде проекций объектов
никаких проблем, в том числе и с пространством

Edited at 2019-08-04 10:45 am (UTC)

Не совсем понятно, зачем мозгу что-то куда-то проецировать. Внешний мир не конструируется и не создается мозгом, он им воспринимается, анализируется и исследуется, а результатом исследования является более или менее точная модель (знание), постоянно обновляющаяся в процессе функционирования нейросетей мозга, да еще и фиксирующаяся в изобретенных человеком средствах хранения информации.

Представьте себе боевого робота с искусственным интеллектом, поставленного охранять некий важный объект. Нейросеть его "мозга", получая информацию от камер, создает некую картинку, причем не просто картинку, но полную схему того, что он "видит", с идентификацией всех объектов, расстояний до них, их принадлежности к тому или иному разряду опасности и т.п. Соответственно, он реагирует на происходящее, либо игнорируя, либо совершая какие-то действия по защите. Причем, это не заданный алгоритм, а результат обучения. Он научился распознавать своих – людей, машины; нейтральные объекты – сооружения, птиц, собак, кошек; врагов – незнакомых людей, с оружием и т.п.

Итак, зададим вопрос: в каком месте пространства находится эта его "картинка"? Ответ – ни в каком, ибо это только нематериальная информация, которая базируется на математической обработке материальных сигналов нейросетью. Тем не менее она реальна, и она существует. В физической нейросети нет никаких образов и классификаций, там только распределение уровней сигналов между узлами сети. И все-таки они есть. Роботу не нужен никакой экран, чтобы увидеть все это, никакие посредники, он все видит и действует, анализируя то, что увидел.

Фактически, мы создали довольно близкую модель функционирования нашего мозга, и глядя на робота, мы еще лучше понимаем и как работает наш мозг, и что нужно сделать чтобы усовершенствовать эту нашу модель, чем сейчас активно занимаются тысячи специалистов. Только не нужно сразу же уходить в проблемы того, что робот по-настоящему ничего не видит (мы по сути не можем точно этого сказать и доказать даже про свою кошку или соседа), не имеет сознания и целеполагания (солдат не имеет целеполагания, он действует по приказу и по уставу) и т.п. Этого огромного слона нужно есть по частям, чтобы не подавиться и потом не стоять с выпученными глазами, не зная, что же делать дальше ))

Отсюда вывод только один – вопрос о пространственном размещении воспринятого мозгом образа внешнего мира не имеет смысла, это не вопрос, а псевдовопрос, и вся эта проблема – не проблема, а псевдопроблема. Интересно о подобного рода псевдопроблемах и псевдовопросах рассуждает проф. Н.Н.Непейвода, я как раз собираюсь упомянуть о нем в следующей заметке.

А экспериментальной науке есть чем заняться и без того, чтобы решать вопрос, где находится информация. Наука действительно должна заниматься прежде всего вопросами познания материального мира. Глядишь, когда-нибудь количество накопленной ей нематериальной информации перешагнет некий предел, за которым количество перейдет в качество, и возникнет новый уровень реальности, доступный для ее и нашего понимания.

>Представьте себе боевого робота с искусственным интеллектом

Давайте, пожалуйста, не будем заниматься научной фантастикой. Если вы хотите обсуждать роботов, то давайте обсуждать роботов, которые существует в настоящий момент.

В целом, существует важный вопрос, на который нет ответа без рассмотрения моего вопроса: Как вы узнали то, про что вы написали? Это вам ваш мозг сообщил?

Edited at 2019-08-04 02:54 pm (UTC)

Странно, такой роботизированной техники уже пруд пруди, именно на тех принципах, о которых я написал. Оборонщики недаром хлеб едят.
Извините, вторую часть коммента не понял.

Вот, например, вы написали:

"Внешний мир не конструируется и не создается мозгом, он им воспринимается, анализируется и исследуется, а результатом исследования является более или менее точная модель (знание), постоянно обновляющаяся в процессе функционирования нейросетей мозга, да еще и фиксирующаяся в изобретенных человеком средствах хранения информации."

Вопрос в том, на основе чего вы пришли к такому заключению. Как вы это узнали?

Именно на том основании, что исследования функционирования мозга, как физиологические, так и психологические, а так же моделирование работы нейросетей говорят именно о таком способе его взаимодействия с внешним миром. Нейросети очень эффективно выполняют подобные задачи. А поняв это, мы начали разрабатывать его подобия и весьма преуспели. Именно на этом базируются мнения о скорой разработке аналога человеческого интеллекта. Вот только мозг так сложен, что, вероятно, превышает предел Чейтина, и скопировать его вряд ли удастся. Но что-то подобное – вполне. Самолет и близко не птица, но дело свое делает, причем именно так, как нужно человеку. То же и с ИИ.Одновременно это позволяет нам лучше понять самих себя.

Давайте рассмотрим исследование работы мозга более подробно. Я бы сказал, что нейрофизиолог уверен, что между ним, пациентом и приборами существуют вполне определенные пространственные отношения. Другими словами, нейрофизиолог уверен, что он находится в трехмерном пространстве и что они видит пациента и приборы вне себя и вне своего мозга. Согласны ли в с этим утверждением?

Добавлю, несомненно, ведь он идентифицирует себя со своим телом.

В этом случае возникает вопрос, каким образом перенести на самого нейрофизиолога то воззрение на мозг, который нейрофизиолог озвучивает. Ведь в этом случае мы никак не сможем объяснить, каким образом нейрофизиолог видит пациента и приборы вне себя. И без этого объяснения становится непонятно, как нейрофизиолог пришел к заключению, которое он озвучивает.

Так я же и сказал, что он по опыту (его нейросеть обучена) знает, что вот это тело – его собственное, а все остальное – не он. Он видит это на своей "картинке" и понимает, где что находится. Новорожденный еще не знает, где он и где внешний мир, он все норовит потрогать, взять в рот, т.к. там больше всего рецепторов и таким образом обучается. Щенок гоняется за своим хвостом, а собака не будет, разве что для забавы. Вот и робот-охранник не будет стрелять себе в шасси, он знает, что это он сам. Все дело исключительно в обучении многочисленных взаимосвязанных нейросетей, из которых состоит мозг.

Дополню для ясности. Не следует забывать, что мозг не сосредоточен в черепе, фактически, мозг – это вся нервная система, ведь обработка информации начинается уже на самом нижнем уровне, когда сигнал поступает от клетки рецептора в дендрит нейрона (происходит суммирование информации от всех дендритов прежде чем сигнал поступит по аксону в мозг. Поэтому никак нельзя говорить, что отдельно есть наша "душа" – мышление и сознание – и отдельно тело. Это единая система, в которой все ее компоненты, как физические, так и информационные, взаимозависимы.

С другой стороны, информационные и физические процессы также проходят вне тела. Поэтому возникает вопрос, как провести границу между телом и окружением. Где начинается и заканчивается нейрофизиолог, который изучает мозг пациета, находящегося перед ним.

А разве есть проблема с определением где он начинается и заканчивается? Он с одинаковым успехом может изучать и себя, и другого. И себя он так же может видеть (при необходимости в зеркало или в записи) и различать себя и окружающее. На то и опыт. Нейросеть его мозга обучена этому на опыте (ниже я написал про DeepMind).

Исходя из того, что нейронная сеть является по определению Тьюринг-полной, то есть позволяет вычислить любую вычислимую функцию, можно сделать вывод, что она может решить любую не противоречащую законам природы задачу, все зависит лишь от размера сети и ее структурированности. В мозге триллионы синапсов (фактически синапс – это аналог узла в компьютерной нейронной сети), структурированных чрезвычайно эффективно. Поэтому задача определения пределов тела вообще решается буквально в первые месяцы жизни ребенка.

Можно рассмотреть процесс нахождения нейрофизиолога в туалете. В какой момент выходящее из нейрофизиолога перестает принадлежать нейрофизиологу?

В целом, подобный путь нахождения разума рассмотрен в книге Разум: Путешествие к сердцу человеческого бытия Дэниела Сигела. Ниже мое описание.

Исходной точкой является вопрос, что такое разум. На этом пути Сигел предлагает определение, связанное с возникаемостью и самоорганизацией. В качестве материальной основы Сигел останавливается на потоке энергии и информации. Информация у него является аналогом знака: паттерн энергии, который обозначает что-то, отличное от самого себя. Таким образом разум - это возникающий и самоорганизующийся процесс, который регулирует поток энергии и информации. Следует обратить внимание, что Сигел опирается на так называемыую сильную возникаемость, когда возникающие процессы влияют на нижележащие процессы.

Далее Сигел рассматривает вопрос пространственного нахождения разума. Он считает, что разум как возникающий и самоорганизующийся процесс не ограничен пространством мозга. Поток энергии и информации явно не останавливается при переходе от мозга к другим органам тела, соотвественно, разум как минимум связан со всем телом (embodied mind). Тем не менее, потоки энергии и информации также не прекращаются на границе тела. Также отношения между людьми сильно влияют на разум человека, поэтому Сигел подчеркивает реляционный и социальный характер разума. На этом пути Сигел говорит, что нельзя исключить, что разум не ограничен телом. Другими словами, Сигел является сторонником экстернализма при рассмотрении сознания.

См. http://blog.rudnyi.ru/ru/2017/02/dan-siegel-mind.html

Одна из типичных ошибок редукционистов – представление информационного процесса (нематериальное) как потока энергии (материальное). Отсюда попытки локализовать разум. Да, разум может охватывать всю Вселенную, но он не локализован нигде. Локализован мозг и нервная система отдельного человека.

Да, наш разум в основе своей социален, в основе его обучения лежит именно социальное взаимодействие. Поэтому даже разговаривая в одиночестве с самим собой мы разговариваем со всем человечеством (метафора Ю.И.Александрова).

Сигел прав, что субъективный опыт не сводится к возбуждениям нейронов, но дальше он не идет, западный аналитический подход мешает целостному, холистическому взгляду на проблему. СО – это информационная модель внешнего мира, причем текущий сиюминутный СО – это еще и опережающая его модель. Дубровский недаром называет его субъективной реальностью, для нас это действительно реальность, причем иногда, к сожалению, искаженная. Известно, что галлюцинации настолько реальны, что человек никак не в состоянии распознать их. Мозг физически поддерживает протекание этих информационных процессов (аналогично компьютеру), и тут влияние взаимное одного на другое.

Вот, к примеру партия между человеком и AlphaGo. Нейронные сети работают почти одинаково, меняя либо силу связей между синапсами и нейронами, либо веса узлов компьютерной нейросети (AlphaGo быстрее). Они прогоняют разные варианты и выбирают единственный оптимальный. У человека большая часть работы происходит бессознательно, его сознание видит только результаты, из которых оно логически отбирает лучший. У AlphaGo сознания вообще нет, там только простейший вывод на максимизацию веса данной позиции. Но по сути процессы одинаковые – есть внутренняя (субъективная) реальность игровой доски и хода игры. Где она находится? Ее нет ни в мозге, ни в компьютере, но тем не менее она существует. Импульсы нейронной сети лишь поддерживают информационные процессы, но в то же время зависят от того, какой будет выбран вариант. Постарайтесь для себя дать ответ, где находится доска с позицией у компьютера.

Интересно, что мы сейчас научились создавать не только информационные, но и материальные модели, причем собственного мозга – нейронные сети. Если мы поглубже обдумаем принципы их функционирования, мы поймем и принципы собственного мышления.

И последнее. Медитация – путь к раскрепощению подсознательных процессов (той самой первичной низкоуровневой деятельности нейросети ) и более легкому попаданию их результатов в сознание, минуя его фильтры. Проблема в том, что эти процессы интуитивны и ничем не ограничены в плане логики и даже здравого смысла, доверять им опасно. Тем не менее, можно открыть много интересного.

Прошу прощения за обширный ответ, он – в том числе и на тот пост, на который вы сослались.

В программе доска с позицией представляет собой структуру данных. Соотношение же программы и компьютера - это особый вопрос.

Да сколько же раз об этом говорили. Нет никакой программы, никакого заранее написанного алгоритма. Все алгоритмы возникают в процессе обучения сети. И данные в узлах нейросети это совсем не то, что информационное представление, обеспечиваемое этой нейросетью. Точно такие же данные хранятся и в синапсах (в их роли выступает количество медиатора, выбрасываемого при раздражении). Параллель очень явная.

>Все алгоритмы возникают в процессе обучения сети.

Насколько я знаю, это далеко не так. Основная проблема в том, что технический термин обучение нейронной сети отождествляется с обучением человека. Однако это разные вещи. Нейронная сеть была и остается программой и ее работа остается вычислением.


Есть, кстати, неплохая книга

А. С. Потапов: Искусственный интеллект и универсальное мышление

Она дает хорошую точку отсчета.

Спасибо, гляну. Но двенадцатый год как-то не вдохновляет. Очень сильно все поменялось. Глубокое обучение и обучение без учителя (самообучение) были еще в зачаточном состоянии. Сегодня скорости обработки буквально в сотни раз увеличились, для нейросетей начали использовать видеопроцессоры с их сумасшедшей расчетной производительностью. Да и сам Потапов в то время был совсем молодым человеком, только начинающим путь в науке. Как это он умудрился такую здоровенную книжку написать?
P.S. Да, точно, он там рассматривает именно алгоритмическое программирование. Он спец по распознаванию образов и занимался именно алгоритмами распознавания, но это вчерашний день, уровень ABBYY FineReader.

Edited at 2019-08-10 05:50 pm (UTC)

Согласитесь, ведь весь этот искусственный интеллект на основе нейросетей мы смогли создать только потому, что разобрались в работе мозга. Человек ничего не изобретает, большая часть – плагиат, подражание природе.

Вероятно, мы по-разному понимаем, что такое мозг и нужно ли его отличать и как-то отделять от себя.

>>Это вам ваш мозг сообщил?
Опять неправильный вопрос, не имеющий смысла. Мозг как физиологическая система (первая, физическая ипостась) мне, как его информационной ипостаси, ничего не может сообщать. Я не понимаю его электрохимических импульсов. А вот чувства, образы, мысли – это уже я, они возникают благодаря работе тех же нейросетей мозга, и вот это я это понимаю и использую.

Кстати, насчет робота, который видит окружающее и "понимает" взаимное расположение объектов. Еще в прошлом году гугловский DeepMind создал нейросеть, по одной фотографии строящую трехмерное изображение комнаты. Так что это не научная фантастика а рутинная реальность.

  • 1