?

Log in

No account? Create an account

Символы и знамения

Previous Entry Share Next Entry
Сознание и информация
Think
wampus_999
Наконец-то всерьез занялся чтением книги проф. Д.И.Дубровского "Сознание, мозг, искусственный интеллект". Как и всегда у меня, чтение идет чрезвычайно медленно, как в связи с моими личными особенностями, так и по другим причинам. А тут еще мне порекомендовали книгу М.Тегмарка "Жизнь 3.0...", пришлось прерваться и на нее тоже потратить время. Но откровенно говоря, она мне показалась просто эмоциональной беллетристикой, написанной так, чтобы ее мог прочесть очень средний американец где-то ужасаясь, но больше радуясь открывающимся "блестящим" перспективам. В ней просто море разливанное полярных мнений, предположений, необоснованных надежд, фантастических прогнозов, наивных интерпретаций, недооценки сложности нейронных сетей мозга, непонимания сложностей масштабирования тех или иных моделей, когда проблемы растут экспоненциально, и лирических отступлений на излюбленные темы – о деньгах, их приобретении и влиянии, а так же о политике, власти и личной безопасности. Интересующие же меня вопросы о сущности информации он аккуратно обходит стороной, хотя они и есть главнейшие в этой области.

Как и многие другие западные философы, при попытках говорить о сознании Тегмарк сваливает в одну кучу и ощущения – вкус, запах, цвет, боль (которые они почему-то называют квалиа и которые присущи и низшим животным), и мышление, и собственно конкретное осознавание происходящего и самого себя, и сознательное выполнение тех или иных действий (не только физических, но и мыслительных). Он, как ребенок с СДВГ, не может сконцентрировать внимание и остановиться на главном, классифицировать явления, и беспрерывно перескакивает от одной мысли к другой, не додумывая ни одну до конца. Такое впечатление, что фонарь его сознания (позже я объясню эту метафору) беспорядочно болтается, на краткий миг выхватывая из темноты кусочки то ли реальности, то ли шизофренического бреда. Он даже толком не объяснил, что он имеет в виду под процессом осознания и каковы его рамки – ну нельзя же всерьез воспринимать подобное краткое определение, что "сознание = субъективные переживания". Уж очень это напоминает платоновского петуха. А уж фраза "сознание – это то, что испытывает информация, когда обрабатывается определенным образом" на мой взгляд вообще не имеет никакого смысла. Разве информация может что-то испытывать? При этом, как я уже сказал, он даже не удосужился объяснить, что он понимает под информацией. Чем-то он мне очень напомнил Чалмерса, чье интервью я уже разбирал раньше.

Хотя из книги все-таки удалось почерпнуть кое-какую полезную информацию, тем не менее в целом я жалею, что потратил столько драгоценного в моем возрасте времени на эту книгу.
Приведу единственное заинтересовавшее меня наблюдение, непосредственно относящееся на мой взгляд к "механике" работы мозга (правда, Тегмарк этого не видит).

Нейронная сеть и интуиция

Искусственная нейронная сеть, использующая глубокое обучение с подкреплением, самостоятельно способна не только обучаться и выдавать верные результаты, используя "сырую" информацию без ее осмысления, но и "интуитивно" находить выигрышные стратегии и вполне творчески использовать их, не обладая при этом тем, что мы называем разумом и сознанием. У Тегмарка в 3 главе упомянутой книги приведены такие примеры, начиная от самостоятельного обучения ИИ игре Breakout на платформе Атари (поначалу система "знает" только, что она должна двигать площадку, отбивающую шарик, и набирать очки) и кончая победой системы AlphaGo над чемпионом мира по игре го (последняя разработанная модель училась всего два часа с нуля, играя с самой собой, и в результате сумела обыграть сначала чемпиона по го, а еще через два часа обучения и прежнюю модель, обучавшуюся на лучших примерах партий, сыгранных людьми). При этом важно отметить тот факт, что в отличие от шахмат, количество вариантов размещения фишек на доске превышает количество атомов во Вселенной. Подобные интуитивные прорывы ранее считались доступными только людям, да и то не всем, а с творческими задатками.

Тем не менее, я пока не встречал работ где бы обсуждались параллели между, с одной стороны, человеческой интуицией и подсознанием, а с другой – функционированием искусственных нейронных сетей с глубоким обучением, хотя сходство более чем очевидное. И главное, отсюда становится более чем понятным для чего у нас два полушария мозга, одно (правое) интуитивное, творческое, а второе рационально-логическое. Правое само в фоновом режиме путем глубокого обучения постоянно ищет и находит оптимальные стратегии и решения, используя получаемую от органов чувств и левого полушария сырую информацию и разгружая наше сознание от избыточной работы, а левое их фильтрует, анализирует, переводит в словесную форму и применяет уже сознательно, видя за этими решениями их смысл, сравнивая предлагаемые варианты и применяя дополнительные фильтры (здравый смысл, логика, мораль, безопасность и т.п.). Недаром исследования человеческого мозга с разделенными полушариями показали, что правое не особенно озабочено моральными критериями и весьма бесшабашно, что бывает чревато неприятными эксцессами в случаях, когда подавляется согласованная работа высших структур левого полушария (например, алкоголем).

Если дать задачу с бесчисленным количеством вариантов логическому сегменту мозга, он будет решать ее вечность, тем более, что ему будет постоянно мешать необходимость отвлекаться и обдумывать массу других текущих задач. Правому же полушарию никто не мешает делать свое дело "в тишине", без использования логических правил, строгих алгоритмов и человеческого языка, занимаясь на символическом уровне максимизацией результатов той или иной стратегии, именно так, как это делают компьютерные нейронные сети. Кстати, понятно теперь, почему в игре го ведут именно азиаты – у них от природы ум именно интуитивный, то есть правое полушарие если не ведущее, то во всяком случае равноправное, а у европейцев оно во многом задавлено вербально-логическим левым.

Сам Тегмарк не сравнивает интуицию машины и человека и не связывает со строением мозга, высказывая лишь частные практические выводы: "Урок, преподанный нам AlphaGo, для меня состоял еще и в другом: объединение интуиции глубокого обучения с логикой «старого доброго искусственного интеллекта» может создавать стратегии на грани возможного". Его больше интересует осуществимость, безопасность, а так же коммерческое, политическое или военное использование создаваемых технологий нежели вопросы фундаментальной науки, гносеологические и нравственные.

Характерно, что такой парный мозг был предусмотрен и реализован на самых ранних стадиях становления животного мира, хотя он практически не нужен никому кроме человека, а значит без планирования на долгий срок в будущее тут не обошлось. Это заставляет вспомнить еще одну заранее предусмотренную особенность – половое размножение. Возможно, сама эта дифференциация по полам была изначально задумана для создания двух таких разных типов людей – мужчины и женщины. Ведь никаких ограничений у такой формы размножения как партеногенез нет (и он не так уж и редок в природе), а скорость размножения выше, да и проще как-то, нежели каждой букашке вкладывать в ее микроскопические мозги, как им спариваться (здесь просто буйство фантазии проявилось!). Мне в этих фактах видятся дополнительные подтверждения сотворенности жизни и человека.

Любопытна классификация сценариев жизни с искусственным интеллектом, приведенная Тегмарком:

Либертарианская утопия – люди, киборги, заливки (оцифрованные личности), сверхразум мирно сосуществуют благодаря правам собственности.

Благодетельный диктатор – все знают, что обществом управляет искусственный интеллект, соблюдающий строгие правила, и большинство считает это благом.

Эгалитарная утопия – люди, киборги и заливки мирно сосуществуют благодаря отказу от собственности и гарантированному доходу.

Шлюзовая оборона – сверхразум был создан с единственной целью предотвращать создание другой сверхразумной машины, чем и исчерпывается необходимый минимум его вмешательства в жизнь людей. Роботы-помощники с субчеловеческим интеллектом имеются в изобилии, есть человеко-машинные киборги. Однако в целом технический прогресс остановлен.

Бог-защитник – фактически всеведущий и всемогущий сверхразум максимизирует человеческое счастье, вмешиваясь в жизнь только так, чтобы у нас сохранилось ощущение власти над судьбой, он прячется настолько хорошо, что многие даже сомневаются в его существовании.

Порабощенный бог – сверхразумный искусственный интеллект полностью контролируется людьми, которые используют его для создания невообразимых технологических новшеств и увеличения своего богатства, употребляя его во зло или благо по своему усмотрению.

Победители – ИИ захватывает власть, приходит к выводу, что люди представляют помеху – множество ненужных иждивенцев, и начинает нас истреблять методами, которые мы даже не в силах понять.

Потомки – разумные машины во всем приходят на смену людям, но предоставляют нам возможность безбедного существования, и мы можем смотреть на них как на достойных потомков с ещё большим основанием, чем родители, которые взирают на своих детей, гордясь их превосходящим умом и чувствуя, что это именно они всему их научили. Теперь дети смогут достичь всего, о чем мечтали их родители, – хотя родителям этого уже не увидеть.

Зоопарк – всемогущий ИИ оставил вокруг себя относительно немного людей, которым кажется, что с ними обращаются как с животными, и они клянут свою судьбу.

1984 – технологический прогресс в сторону создания сверхразума периодически тормозится не ИИ, а возглавляемым людьми оруэлловским государством всеобщей слежки, где любые исследования в области ИИ под запретом.

Возврат к истокам – технологический прогресс в сторону создания сверхразума остановлен возвратом к дотехнологическому обществу.

Самоуничтожение – сверхразум никогда не был создан, потому что человечество истребило себя другим способом.

На мой взгляд все сценарии равноправны и возможны с разной степенью вероятия, разве что не хватает еще одного пункта, в чем-то похожего на пункт "Бог-защитник". Вот только этот всемогущий (разумеется, не абсолютно), всеведущий и необыкновенно скрытный квантовый (или какой-либо другой) сверхразум не создан людьми, а существовал задолго до нас, естественным путем возникнув миллиарды лет назад, и спроектировал человека в качестве очередного этапа осуществления своего проекта создания биологической жизни на Земле (с его точки зрения это тоже будет искусственный разум). Главное отличие – он не может считать нас венцом своего творения, следовательно, на его защиту мы можем полагаться только в весьма ограниченной степени – настолько, насколько соответствуем его замыслам. Поэтому скорее его следует назвать Творец-исследователь. И подобный разум ничуть не менее, а где-то более вероятен, нежели варианты, изложенные Тегмарком.

Кстати, Тегмарк осознает, что такой разум вовсе не будет стремиться во всем потакать человеку, и "ему, возможно, придется даже тормозить естественный технологический прогресс людей, чтобы обеспечить достаточное их отставание в развитии новых технологий, не позволяющее им обнаружить его присутствие". И даже выносит в эпиграф слова Айзека Азимова "Самая печальная сторона жизни сейчас заключается в том, что наука обретает знания быстрее, чем общество обретает мудрость". Об этом я уже писал в "Сотворении из ничего", и это мы можем наблюдать на примерах из истории цивилизаций и особенно науки последнего времени. Вот только на мой взгляд делает он это вовсе не по причине скрытности, а для того, чтобы человек раньше времени не уничтожил себя и все сотворенное на планете.


  • 1
Я прочитал книгу Тегмарка Наша математическая вселенная и после этого поставил на нем крест. Такое не лечится.

И я того же мнения(с)

  • 1