The Hard Problem

[thedeemon]

У Шона Кэрролла в подкасте вышла отличная беседа с David Chalmers о трудной проблеме сознания (про "легкую проблему" тоже говорят): попытках понять что это (и есть ли оно, здесь же квалиа и пресловутые философские зомби), как оно может соотноситься с физикой, в том числе квантовой, о многочисленных подходах к попыткам дать ответы, и немного на смежные темы - ИИ, симуляции и пр. Хорошо показывают, в чем именно проблема состоит. Никаких определенных ответов не дают, но порадовало, насколько широкий спектр идей специалисты рассматривают, насколько глубоко продумывают, и какие интересные вопросы там получаются. Послушать или скачать можно здесь.

Comments

[chaource]

Слушаю бесѣду. Съ самаго начала мое отношенiе къ "hard problem of consciousness" - крайнiй скептицизмъ. Я считаю, что ни сама "проблема" не сформулирована, ни какiя-то слѣдствiя изъ ея возможнаго рѣшенiя не опредѣлены. Похожее положенiе было бы съ "hard problem о количествѣ ангеловъ на кончикѣ иглы". Если намъ скажутъ, что отвѣтъ - 4096 ангеловъ, то что изъ этого будетъ слѣдовать для нашей жизни и дѣятельности? Ровно ничего. Это чистое философствованiе, т.е. умные и сложные разговоры ни о чемъ, но синтаксически и прагматически построенные такъ, что мозгъ ошибочно воспринимаетъ эти разговоры какъ имѣющiе большое значенiе для нашей жизни.

Проблема - объяснить "субъективное ощущенiе сознанiя". Что это такое и какъ опредѣлить, "объяснили" ли мы его или еще не "объяснили" - неизвѣстно. Какiя настанутъ измѣненiя въ нашей жизни, если нѣкогда придетъ мудрый философъ Н.Н. и "по-настоящему рѣшитъ эту проблему" - тоже неизвѣстно.

Кажется, въ 1970-хъ или 80-хъ годахъ была диссертацiя въ MIT, гдѣ была написана программа, моделирующая "размышленiя" компьютера о его собственныхъ "мысляхъ". И что, эта программа уже рѣшила hard problem of consciousness или еще не рѣшила? Отвѣта пока нѣтъ.

Прослушаю бесѣду до конца и допишу впечатленiя.

[chaource]

Да, этотъ философъ мало понимаетъ въ наукѣ, хоть и училъ физику. Онъ не видитъ, что дѣлаетъ ничемъ не обоснованное предположенiе - "если мы думаемъ, что мы что-то чувствуемъ, то есть нѣкая сущность, которая этому соотвѣтствуетъ". Мы можемъ сказать такую фразу, "А каково это - быть летучей мышью" и значитъ, есть такая сущность - "сознанiе летучей мыши" - которая должна быть въ чемъ-то похожа и въ чемъ-то непохожа на "наше сознанiе". Разъ мы сказали такую фразу, и разъ мы чувствуемъ, что эта фраза значитъ что-то важное, то слѣдовательно тамъ надо что-то изучать и рѣшать какую-то важную проблему.

Т.е. на самомъ дѣлѣ главный вопросъ - какъ объяснить тѣ слова, которыя люди обычно употребляютъ, говоря о "сознанiи". Въ такой постановкѣ вопроса есть сразу двѣ проблемы. Во-первыхъ, слова зависятъ отъ языка и культуры, и будутъ разными для разныхъ эпохъ и разныхъ странъ. Ни изъ чего не слѣдуетъ, что понятiе "сознанiя" или "субъективныхъ ощущенiй" должно имѣть какой-то объективный смыслъ, независимый отъ традицiи употребленiя словъ, отъ языка, отъ культуры, традицiй и эпохи. Во-вторыхъ, предполагается, что люди не могутъ ошибаться, что человѣческая интуицiя всегда права - а вѣдь опытъ физики 19-20 вѣковъ показываетъ, насколько это далеко отъ истины.

Вотъ предположимъ, что мы пытаемся объяснить, что тѣла падаютъ съ одинаковымъ ускоренiемъ, но люди традицiонно по интуицiи считаютъ, что этого не можетъ быть, и что тяжелыя тѣла всегда падаютъ быстрѣе. Но экспериментовъ мы по какой-то причинѣ поставить не можемъ, мы ограничены лишь словесными обсужденiями. Вотъ и получатся разныя "школы философiи", и безконечные споры о "hard problem of gravitation".

[pbl]

Вся философия сознания вызывает у меня редкостное остервенение. Я пытался подойти к этой области с открытым рассудком, и где-то даже предвкушал. Но мне крайне трудно воспринимать дуалистов всерьез, вот всех этих восхитительных товарищей, напыщенно рассуждающих о философских зомби и китайских комнатах.

[sassa_nf]

Can the brain do only things that are computable?

[pbl]

s/do/compute/

[thedeemon]

По-моему, все сказанное тут ему хорошо известно и понятно, и это тоже один из подходов к вопросу. У него большая коллекция подходов уже собралась. Он там упоминал "иллюзионизм" и "иллюзионистов", вот это близко.

[thedeemon]

Тем интереснее послушать, что кроме дуалистов есть много других интересных подходов к проблеме.

[thedeemon]

Ангелов я не видел, они меня мало волнуют. А субъективные переживания имею, и вопросы о том, что это, вполне легитимны.

[pbl]

Возможно, мне не повезло с подходом. Это метафизическое словоблудие лезло изо всех щелей по принципу "только стало интересно, и тут..."

[sassa_nf]

Like implied in this audio, a machine passing Turing test would mean that human-like brain activity is computable. Then the distinction between "compute" and "do" is moot.

Also, it is odd Turing believed there could be machines that can pass Turing test, and at the same time prove there are problems that are not computable.

If the brain can solve problems that are not computable, then it can't be reduced to just the known "clock-work" laws of physics.

[pbl]

> If the brain can solve problems that are not computable...

Like what? A brain can find the first digit of Chaitin's number?

Uuuuhhhh, lemme try... yeah, it's deffo a seven. Like, totally a seven. Beat THAT, you dirty godless monists!

Yeah, it's all bushwah.

[sassa_nf]

:) no, like inventing the diagonal argument.

[pbl]

And in what formal sense is "inventing the diagonal argument" non-computable?

[sassa_nf]

Is there an algorithm for inventing it? :) (not even asking if it terminates)

Maybe there is, but we can't claim that it is computable until such time.

[pbl]

> Is there an algorithm for inventing it? :) (not even asking if it terminates)

You're saying this as if brains have been reproducibly inventing diagonalization arguments throughout the human history.

Would "thrashing around in the proof space" satisfy you as an answer? Because that totally could work.

[sassa_nf]

But doesn't that mean it is doing something that is not computable?

[pbl]

First time I hear random walk (or random directed walk) is non-computable.

[sassa_nf]

:-) Not in the sense Turing intended!

[pbl]

> Not in the sense Turing intended!

>>>> You're saying this as if brains have been reproducibly inventing diagonalization arguments throughout the human history.

Seriously, before talking about brains doing something non-computable I, personally, would require a much higher standard that it (whatever it is) is 1) actually reproducible 2) actually non-computable. This would have been a shattering scientific - not philosophical - breakthrough, and I find it very hard to even imagine that happening. We can compute the non-computable, like BB(4). It's no big deal, if you thrash around long enough. But let's say the brain can compute something unknowable, like BB(2000)... We can't even verify that "computation", so, like... how would that actually happen apart from the "deffo a seven" scenario? How would we convince ourselves that the result is, in fact, correct?

And barring such a result, that I can't even properly imagine, all discussions about brains possibly "doing" something non-computable are, in my humble opinion, morally equivalent to discussions of there possibly being an almighty creator of all that is, who might even possibly have a bushy white beard. It's very unockhamic. (Hey, is invention of stupid words on the fly non-computable? TAKE THAT YOU STUPID ROBOT IDIOTS.)

[sassa_nf]

That sure would have been stunning. Convincing ourselves is required in many more cases than we'd like to admit. Where was that article that even superexponentiation cannot be proven to work for all natural numbers - because all that we have is induction.

But Turing defines computability in a very specific sense, which unfortunately excludes things like "thrashing around long enough". No?

[chaource]

Вотъ въ этомъ и загвоздка. Разныхъ людей волнуютъ разныя вещи. Мнѣ хотелось бы узнать, существуютъ ли ангелы или демоны, гдѣ я нахожусь, когда я сплю и вижу сны (т.е. гдѣ происходитъ то, что происходитъ во снѣ), что такое "везенiе" - заслужилъ я его или нѣтъ, и кто посылаетъ мнѣ унынiе духа или наоборотъ поднятiе духа. Всѣ эти вопросы, однако, совершенно нелигитимны, потому что нѣтъ и не ожидается критерiевъ истинности отвѣта. Почему-то господинъ философъ ни разу не упомянулъ этого, хотя Шонъ Кэрроллъ и намекалъ нѣсколько разъ. Для господина философа одинаково допустимо имѣть или не имѣть критерiй истинности отвѣтовъ на вопросы, это всего лишь получаются разныя философскiя школы.

[chaource]

Меня удивляетъ, что вродѣ бы господинъ философъ училъ математику, физику и знаетъ, что бываютъ объективно провѣряемые критерiи истинности, не основанные на вѣрѣ - но ему это по барабану. Критерiй истинности - это "лишь одинъ изъ подходовъ". Возможность долго и безъ послѣдствiй трепать языкомъ - вотъ это для него главный подходъ.

Я также не услышалъ обсужденiя вопроса о томъ, правы ли люди, требующiе какой-то ощутимый практическiй выводъ изъ всѣхъ этихъ обсужденiй. Это тоже "одинъ изъ подходовъ", а деньги господину философу надо платить все равно?

[chaource]

У меня есть свой подходъ къ проблемѣ сознанiя и свой операцiонный критерiй наличiя сознанiя у произвольнаго объекта, причемъ съ совершенно явными практическими и этическими слѣдствiями. Пока что я нигдѣ не слышалъ, чтобы этотъ подходъ обсуждали. Мой критерiй очень сложно примѣнить на практикѣ, это требуетъ десятилѣтiй работы и экспериментовъ, но по крайней мѣрѣ это эмпирическiй критерiй. Надо выяснить, какiя внѣшнiя воздѣйствiя наиболѣе эффективны для контроля поведенiя объекта, и одновременно продуктивны, т.е. не приводятъ къ сильному сокращенiю возможныхъ варiантовъ поведенiя и не слишкомъ портятъ объектъ. Если эти воздѣйствiя заключаются въ нажатiи кнопокъ, то этотъ объектъ является роботомъ. А если эти воздѣйствiя заключаются въ разговорѣ и въ передачѣ объекту информацiи о возможныхъ варiантахъ поведенiя въ какихъ-то воображаемыхъ мiрахъ, то этотъ объектъ обладаетъ сознанiемъ. То-есть, объектъ обладаетъ сознанiемъ, если наиболѣе эффективный способъ его какъ-то контролировать и направлять - это представить себѣ, что у объекта есть свои мысли и свой внутреннiй мiръ, и контактировать съ этимъ мiромъ посредствомъ передачи информацiи.

https://chaource.dreamwidth.org/146643.html

Выясненiе, какiе именно способы воздѣйствiя наиболѣе цѣлесообразны - занимаетъ очень долгое время и въ каждомъ обществѣ могло длиться вѣками. Напримѣръ, считать-ли людоѣдовъ-папуасовъ полноцѣнными людьми, имѣютъ-ли они "сознанiе", "душу", давать-ли имъ гражданскiя права и обязанности или дѣлать ихъ пожизненными рабами и держать на цѣпи, какъ животныхъ? Выясненiе этого вопроса заняло нѣкоторое историческое время и происходило эмпирически - сначала сдѣлали такъ, потомъ иначе и т.д. Это является примѣромъ того, какъ сформулированный мной критерiй истинности уже реально примѣнялся на практикѣ, и убѣждаетъ меня, что человѣчество въ своей практической дѣятельности давно уже рѣшило "трудную проблему сознанiя" именно такимъ образомъ.

[chaource]

Еще что не упоминалось - современные методы deep learning примѣняются уже къ ЭЭГ мозга, и позволяютъ различать состоянiя бодрствованiя и различныя фазы сна. Можно ожидать, что эта технологiя станетъ коммерчески доступной, и у насъ будетъ приборчикъ, который надо приставить ко лбу пацiента. Приборчикъ быстро измѣряетъ ЭЭГ и показываетъ, есть ли тамъ у пацiента во лбу мысли или нѣтъ (т.е. пацiентъ лежитъ безъ сознанiя).

https://academic.oup.com/brain/article-abstract/141/11/3095/5144660?redirectedFrom=fulltext

Вотъ теперь вопросъ - этотъ приборчикъ измѣряетъ-таки наличiе NCC ("нейрокоррелята сознанiя") или нѣтъ? Т.е. мы уже нашли NCC или мы его еще не нашли, а нашли что-то другое, похожее, но "неправильное"? На этотъ вопросъ господинъ философъ никогда не сможетъ отвѣтить.

[pbl]

> which unfortunately excludes things like "thrashing around long enough"

In what sense? Are you claiming that constraint satisfaction problems are not computable? Are you claiming that the fact that Cantor found that proof somehow makes human brain the perfect, ultimate oracle for theorem proving? Are you claiming that the fact that we solve discrete optimization problems by approximate and/or probabilistic methods somehow makes them non-computable? What's so magic about diagonalization argument? Can you prove that it's impossible to find by exploring the derivation space in an appropriate axiomatic system? I just don't get what the gist of your argument is.

[thedeemon]

Он, вроде, не сомневается в успехах физиологов по нахождению NCC. Он лишь не считает NCC окончательным и удовлетворительным ответом.

[thedeemon]

Это почти тест Тьюринга, больше похоже не проверку на интеллект, нежели сознание.

[sassa_nf]

"Thrashing around long enough" and "constraint satisfaction problems" are different. Some CSP may even have an algorithm (but we resort to "thrashing around long enough", because of the size of the problem; and then - pseudo-random thrashing does not necessarily explore the whole solution space, so there goes "are computable" out the window; and "real" random thrashing cannot be described algorithmically, so there goes "are computable" out the other window).


"what the gist of your argument is"

I don't know if my argument even makes much sense. But I think the problem is that we do not even know for sure whether "thrashing around long enough" explains it (like, can we show exactly how the intelligent behaviour emerges from such thrashing), or there is a better explanation. It is not necessarily "dualism", but perhaps "more-information-needed-ism".

Whatever Cantor showed, is not necessarily the indication of a perfect brain. It is an indication of a problem that we clearly do not know how to solve, except through "thrashing long enough".

My argument is that if it is indeed "thrashing long enough", then it is not computable in the sense Turing introduced the term. If we can't systematically solve problems, then how can we hope to build anything artificial that can do that systematically? (Don't we need that something to demonstrate some property systematically, so we can state the said thing has been accomplished?)

[chaource]

Я какъ-то не услышалъ изъ его словъ, что онъ не сомнѣвается. Но предположимъ, что такъ. А вотъ интересно, почему онъ увѣренъ, что нашли NCC, а не что-то другое? Просто потому, что ему такъ нравится думать? Я не услышалъ у него никакихъ способовъ разрѣшить этотъ вопросъ.

[chaource]

Диспуты велись въ терминахъ "есть ли у дикарей душа". Но, въ общемъ, я не противъ называть это тестомъ Тьюринга, хотя у Тьюринга все довольно ограничено - просто разговоръ - а въ реальности надо не просто разговаривать, а еще и вмѣстѣ строить общество и жить въ немъ.

[pbl]

> If we can't systematically solve problems, then how can we hope to build anything artificial that can do that systematically?

What does this have to do with "Can the brain do only things that are computable?"? Humans suck at proving theorems (especially if we consider population as a whole). So do computers. So what?

I've yet to observe anything that would incline me towards dignifying the hypothesis of our brains doing something supra-Turing in nature with serious consideration. Quite the contrary, what little evidence I could obtain and process indicates the opposite. Or we wouldn't be so prone to seeing Virgin Mary on some random piece of toast. And yet we have the gall to ridicule our poor computer slaves and minions when they mistakenly label foo as bar, or censor someone's face as "obscene". Ha ha, those damn stupid robots. They can never imitate what we luminous creatures can do.

> we do not even know for sure whether "thrashing around long enough" explains it

I'm not a mathematician. I'm fine with not knowing things for sure. Ockhamic and bayesian reasons for believing something, are a good enough substitute of surety for me.

Seriously, that's the whole point of my argument. The fact that there are two possibilities does not yet mean they deserve equal consideration.

[pbl]

> WHAT LITTLE EVIDENCE I COULD OBTAIN AND PROCESS INDICATES THE OPPOSITE

Damn, that's /r/totallynotrobots material right there.