Георгий Васильев (wampus_999) wrote,
Георгий Васильев
wampus_999

Categories:

Сознание и информация

Наконец-то всерьез занялся чтением книги проф. Д.И.Дубровского "Сознание, мозг, искусственный интеллект". Как и всегда у меня, чтение идет чрезвычайно медленно, как в связи с моими личными особенностями, так и по другим причинам. А тут еще мне порекомендовали книгу М.Тегмарка "Жизнь 3.0...", пришлось прерваться и на нее тоже потратить время. Но откровенно говоря, она мне показалась просто эмоциональной беллетристикой, написанной так, чтобы ее мог прочесть очень средний американец где-то ужасаясь, но больше радуясь открывающимся "блестящим" перспективам. В ней просто море разливанное полярных мнений, предположений, необоснованных надежд, фантастических прогнозов, наивных интерпретаций, недооценки сложности нейронных сетей мозга, непонимания сложностей масштабирования тех или иных моделей, когда проблемы растут экспоненциально, и лирических отступлений на излюбленные темы – о деньгах, их приобретении и влиянии, а так же о политике, власти и личной безопасности. Интересующие же меня вопросы о сущности информации он аккуратно обходит стороной, хотя они и есть главнейшие в этой области.

Как и многие другие западные философы, при попытках говорить о сознании Тегмарк сваливает в одну кучу и ощущения – вкус, запах, цвет, боль (которые они почему-то называют квалиа и которые присущи и низшим животным), и мышление, и собственно конкретное осознавание происходящего и самого себя, и сознательное выполнение тех или иных действий (не только физических, но и мыслительных). Он, как ребенок с СДВГ, не может сконцентрировать внимание и остановиться на главном, классифицировать явления, и беспрерывно перескакивает от одной мысли к другой, не додумывая ни одну до конца. Такое впечатление, что фонарь его сознания (позже я объясню эту метафору) беспорядочно болтается, на краткий миг выхватывая из темноты кусочки то ли реальности, то ли шизофренического бреда. Он даже толком не объяснил, что он имеет в виду под процессом осознания и каковы его рамки – ну нельзя же всерьез воспринимать подобное краткое определение, что "сознание = субъективные переживания". Уж очень это напоминает платоновского петуха. А уж фраза "сознание – это то, что испытывает информация, когда обрабатывается определенным образом" на мой взгляд вообще не имеет никакого смысла. Разве информация может что-то испытывать? При этом, как я уже сказал, он даже не удосужился объяснить, что он понимает под информацией. Чем-то он мне очень напомнил Чалмерса, чье интервью я уже разбирал раньше.

Хотя из книги все-таки удалось почерпнуть кое-какую полезную информацию, тем не менее в целом я жалею, что потратил столько драгоценного в моем возрасте времени на эту книгу.
Приведу единственное заинтересовавшее меня наблюдение, непосредственно относящееся на мой взгляд к "механике" работы мозга (правда, Тегмарк этого не видит).

Нейронная сеть и интуиция

Искусственная нейронная сеть, использующая глубокое обучение с подкреплением, самостоятельно способна не только обучаться и выдавать верные результаты, используя "сырую" информацию без ее осмысления, но и "интуитивно" находить выигрышные стратегии и вполне творчески использовать их, не обладая при этом тем, что мы называем разумом и сознанием. У Тегмарка в 3 главе упомянутой книги приведены такие примеры, начиная от самостоятельного обучения ИИ игре Breakout на платформе Атари (поначалу система "знает" только, что она должна двигать площадку, отбивающую шарик, и набирать очки) и кончая победой системы AlphaGo над чемпионом мира по игре го (последняя разработанная модель училась всего два часа с нуля, играя с самой собой, и в результате сумела обыграть сначала чемпиона по го, а еще через два часа обучения и прежнюю модель, обучавшуюся на лучших примерах партий, сыгранных людьми). При этом важно отметить тот факт, что в отличие от шахмат, количество вариантов размещения фишек на доске превышает количество атомов во Вселенной. Подобные интуитивные прорывы ранее считались доступными только людям, да и то не всем, а с творческими задатками.

Тем не менее, я пока не встречал работ где бы обсуждались параллели между, с одной стороны, человеческой интуицией и подсознанием, а с другой – функционированием искусственных нейронных сетей с глубоким обучением, хотя сходство более чем очевидное. И главное, отсюда становится более чем понятным для чего у нас два полушария мозга, одно (правое) интуитивное, творческое, а второе рационально-логическое. Правое само в фоновом режиме путем глубокого обучения постоянно ищет и находит оптимальные стратегии и решения, используя получаемую от органов чувств и левого полушария сырую информацию и разгружая наше сознание от избыточной работы, а левое их фильтрует, анализирует, переводит в словесную форму и применяет уже сознательно, видя за этими решениями их смысл, сравнивая предлагаемые варианты и применяя дополнительные фильтры (здравый смысл, логика, мораль, безопасность и т.п.). Недаром исследования человеческого мозга с разделенными полушариями показали, что правое не особенно озабочено моральными критериями и весьма бесшабашно, что бывает чревато неприятными эксцессами в случаях, когда подавляется согласованная работа высших структур левого полушария (например, алкоголем).

Если дать задачу с бесчисленным количеством вариантов логическому сегменту мозга, он будет решать ее вечность, тем более, что ему будет постоянно мешать необходимость отвлекаться и обдумывать массу других текущих задач. Правому же полушарию никто не мешает делать свое дело "в тишине", без использования логических правил, строгих алгоритмов и человеческого языка, занимаясь на символическом уровне максимизацией результатов той или иной стратегии, именно так, как это делают компьютерные нейронные сети. Кстати, понятно теперь, почему в игре го ведут именно азиаты – у них от природы ум именно интуитивный, то есть правое полушарие если не ведущее, то во всяком случае равноправное, а у европейцев оно во многом задавлено вербально-логическим левым.

Сам Тегмарк не сравнивает интуицию машины и человека и не связывает со строением мозга, высказывая лишь частные практические выводы: "Урок, преподанный нам AlphaGo, для меня состоял еще и в другом: объединение интуиции глубокого обучения с логикой «старого доброго искусственного интеллекта» может создавать стратегии на грани возможного". Его больше интересует осуществимость, безопасность, а так же коммерческое, политическое или военное использование создаваемых технологий нежели вопросы фундаментальной науки, гносеологические и нравственные.

Характерно, что такой парный мозг был предусмотрен и реализован на самых ранних стадиях становления животного мира, хотя он практически не нужен никому кроме человека, а значит без планирования на долгий срок в будущее тут не обошлось. Это заставляет вспомнить еще одну заранее предусмотренную особенность – половое размножение. Возможно, сама эта дифференциация по полам была изначально задумана для создания двух таких разных типов людей – мужчины и женщины. Ведь никаких ограничений у такой формы размножения как партеногенез нет (и он не так уж и редок в природе), а скорость размножения выше, да и проще как-то, нежели каждой букашке вкладывать в ее микроскопические мозги, как им спариваться (здесь просто буйство фантазии проявилось!). Мне в этих фактах видятся дополнительные подтверждения сотворенности жизни и человека.

Любопытна классификация сценариев жизни с искусственным интеллектом, приведенная Тегмарком:

Либертарианская утопия – люди, киборги, заливки (оцифрованные личности), сверхразум мирно сосуществуют благодаря правам собственности.

Благодетельный диктатор – все знают, что обществом управляет искусственный интеллект, соблюдающий строгие правила, и большинство считает это благом.

Эгалитарная утопия – люди, киборги и заливки мирно сосуществуют благодаря отказу от собственности и гарантированному доходу.

Шлюзовая оборона – сверхразум был создан с единственной целью предотвращать создание другой сверхразумной машины, чем и исчерпывается необходимый минимум его вмешательства в жизнь людей. Роботы-помощники с субчеловеческим интеллектом имеются в изобилии, есть человеко-машинные киборги. Однако в целом технический прогресс остановлен.

Бог-защитник – фактически всеведущий и всемогущий сверхразум максимизирует человеческое счастье, вмешиваясь в жизнь только так, чтобы у нас сохранилось ощущение власти над судьбой, он прячется настолько хорошо, что многие даже сомневаются в его существовании.

Порабощенный бог – сверхразумный искусственный интеллект полностью контролируется людьми, которые используют его для создания невообразимых технологических новшеств и увеличения своего богатства, употребляя его во зло или благо по своему усмотрению.

Победители – ИИ захватывает власть, приходит к выводу, что люди представляют помеху – множество ненужных иждивенцев, и начинает нас истреблять методами, которые мы даже не в силах понять.

Потомки – разумные машины во всем приходят на смену людям, но предоставляют нам возможность безбедного существования, и мы можем смотреть на них как на достойных потомков с ещё большим основанием, чем родители, которые взирают на своих детей, гордясь их превосходящим умом и чувствуя, что это именно они всему их научили. Теперь дети смогут достичь всего, о чем мечтали их родители, – хотя родителям этого уже не увидеть.

Зоопарк – всемогущий ИИ оставил вокруг себя относительно немного людей, которым кажется, что с ними обращаются как с животными, и они клянут свою судьбу.

1984 – технологический прогресс в сторону создания сверхразума периодически тормозится не ИИ, а возглавляемым людьми оруэлловским государством всеобщей слежки, где любые исследования в области ИИ под запретом.

Возврат к истокам – технологический прогресс в сторону создания сверхразума остановлен возвратом к дотехнологическому обществу.

Самоуничтожение – сверхразум никогда не был создан, потому что человечество истребило себя другим способом.

На мой взгляд все сценарии равноправны и возможны с разной степенью вероятия, разве что не хватает еще одного пункта, в чем-то похожего на пункт "Бог-защитник". Вот только этот всемогущий (разумеется, не абсолютно), всеведущий и необыкновенно скрытный квантовый (или какой-либо другой) сверхразум не создан людьми, а существовал задолго до нас, естественным путем возникнув миллиарды лет назад, и спроектировал человека в качестве очередного этапа осуществления своего проекта создания биологической жизни на Земле (с его точки зрения это тоже будет искусственный разум). Главное отличие – он не может считать нас венцом своего творения, следовательно, на его защиту мы можем полагаться только в весьма ограниченной степени – настолько, насколько соответствуем его замыслам. Поэтому скорее его следует назвать Творец-исследователь. И подобный разум ничуть не менее, а где-то более вероятен, нежели варианты, изложенные Тегмарком.

Кстати, Тегмарк осознает, что такой разум вовсе не будет стремиться во всем потакать человеку, и "ему, возможно, придется даже тормозить естественный технологический прогресс людей, чтобы обеспечить достаточное их отставание в развитии новых технологий, не позволяющее им обнаружить его присутствие". И даже выносит в эпиграф слова Айзека Азимова "Самая печальная сторона жизни сейчас заключается в том, что наука обретает знания быстрее, чем общество обретает мудрость". Об этом я уже писал в "Сотворении из ничего", и это мы можем наблюдать на примерах из истории цивилизаций и особенно науки последнего времени. Вот только на мой взгляд делает он это вовсе не по причине скрытности, а для того, чтобы человек раньше времени не уничтожил себя и все сотворенное на планете.
Tags: мозг, наука и религия, творение
Subscribe
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 2 comments