Self-awareness

[thedeemon]

C детства интересовала тема искусственного интеллекта, но описанные в литературе успехи исследователей всегда разочаровывали, т.к. до разумных машин из фантастических книжек и фильмов все еще очень далеко. И это понятно: сам объект моделирования (интеллект и особенно сознание) слишком малоизвестен и малопонятен исследователям. Однако однажды мне довелось иметь дело с системой, которая была удивительно близка к самосознающей. Дело было лет шесть назад, когда мои друзья, работавшие админами небольшого shared хостинга, поехали летом на пару недель на море и попросили меня присмотреть за их серверами. Перед этим они провели инструктаж о том, как там все устроено и как этим управлять. А устроено было довольно интересно. Первый год существования их хостинга время от времени случались досадные случаи, когда хакеры через какой-нибудь эксплойт получали доступ к системе и хулиганили. Дырку, конечно, находили и залатывали, хулиганства отменяли, восстанавливая данные из бэкапа, но осадок оставался. Тогда в систему был добавлен очень полезный скрипт. Он постоянно отслеживал все дерево работающих процессов в системе и искал подозрительные - с неизвестным или странным родителем. Хакеры обычно использовали уязвимости в апаче и других сервисах, чтобы запустить шелл, через который уже лазить по системе и что-то делать. Подобным образом запущенный шелл или другой процесс быстро опознавался скриптом мониторинга и тут же прибивался. Помогло, взломы прекратились. Кроме того, каждую минуту дерево всех процессов сохранялось в лог, хранившийся несколько дней, чтобы можно было увидеть кто что делал. В результате в системе кроме обычной долговременной "памяти о внешних событиях" - логах вебсервера, почты и т.п. было постоянное самонаблюдение, осознавание происходящего внутри, и кратковременная "память" о том, что происходило "в уме" за последнее время, рефлексия. Мне кажется, это очень близко к самосознанию, насколько оно вообще может существовать в компьютере.

Comments

[thedeemon.livejournal.com]

Младенец чувствует голод (говорят, даже в утробе при недостатке питания чувствует дискомфорт и начинает буянить), но может не знать, как "проблема" решается. Программа же может быть просто не в курсе истории с электричеством, соответственно потребности в нем может не осознавать, если ее не заложить извне. Более того, даже если она будет знать о последствиях недостатка питания, если не заложить в нее инстинкт самосохранения, то мотива делать что-либо для удовлетворения потребности не будет. Т.е. нужны заложенные извне инстинкты, аксиомы.

>Соответственно, "стимулировать" мышление нашего deux ex machina можно было бы путем отключения электричества от UPS:)

Опять же при наличии у него стремления продолжать работу. Это стремление должно откуда-то взяться.

>А вот с самопознанием дело туго: нервная система тут устроена совсем иначе, чем в человеках, в платах и блоке питания нет нервных окончаний.

Самопознание можно иметь на другом уровне: не столь важно, какие есть провода, важно как работает сама программа (недаром программы на языках не самого низкого уровня переносимы между платформами - детали работы железа для них не имеют значения). Можно представить дизассемблер, дизассемблирующий сам себя. :) Или вспомнить идею проектов PyPy и Rubinius - интерпретаторы языка на том же языке, интерпретирующие сами себя.

>Кстати, с самопознанием дело обстоит туго и у человеков. Более-менее стойкий и бурный прогресс начался только в XIX веке.

Это в Европе. ;)

>- чувство времени (таймер)
- температура

Негусто. Далеко на этом явно не уедешь. :)
Эксперименты с искусственной жизнью в моделируемых мирах с эволюцией показывают, что в бедном и несложном мире у агентов не возникает сложных стратегий поведения, ибо они там просто не нужны. Для появления сложного интеллекта нужны сложные задачи, сложное окружение.

[nealar.livejournal.com]

Можно представить дизассемблер, дизассемблирующий сам себя. :)
Я такой писал :D