Self-awareness
Oct. 6th, 2010 02:37 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
thedeemonC детства интересовала тема искусственного интеллекта, но описанные в литературе успехи исследователей всегда разочаровывали, т.к. до разумных машин из фантастических книжек и фильмов все еще очень далеко. И это понятно: сам объект моделирования (интеллект и особенно сознание) слишком малоизвестен и малопонятен исследователям. Однако однажды мне довелось иметь дело с системой, которая была удивительно близка к самосознающей. Дело было лет шесть назад, когда мои друзья, работавшие админами небольшого shared хостинга, поехали летом на пару недель на море и попросили меня присмотреть за их серверами. Перед этим они провели инструктаж о том, как там все устроено и как этим управлять. А устроено было довольно интересно. Первый год существования их хостинга время от времени случались досадные случаи, когда хакеры через какой-нибудь эксплойт получали доступ к системе и хулиганили. Дырку, конечно, находили и залатывали, хулиганства отменяли, восстанавливая данные из бэкапа, но осадок оставался. Тогда в систему был добавлен очень полезный скрипт. Он постоянно отслеживал все дерево работающих процессов в системе и искал подозрительные - с неизвестным или странным родителем. Хакеры обычно использовали уязвимости в апаче и других сервисах, чтобы запустить шелл, через который уже лазить по системе и что-то делать. Подобным образом запущенный шелл или другой процесс быстро опознавался скриптом мониторинга и тут же прибивался. Помогло, взломы прекратились. Кроме того, каждую минуту дерево всех процессов сохранялось в лог, хранившийся несколько дней, чтобы можно было увидеть кто что делал. В результате в системе кроме обычной долговременной "памяти о внешних событиях" - логах вебсервера, почты и т.п. было постоянное самонаблюдение, осознавание происходящего внутри, и кратковременная "память" о том, что происходило "в уме" за последнее время, рефлексия. Мне кажется, это очень близко к самосознанию, насколько оно вообще может существовать в компьютере.
no subject
Date: 2010-10-06 03:28 pm (UTC)Это, кстати, важный момент в создании искусственного разума - откуда он будет черпать мотивацию и побуждения к действию. У людей есть хотя бы организм с потребностями, а у чистого разума в машине своих естественных потребностей изначально нет.
no subject
Date: 2010-10-06 05:28 pm (UTC)>Соответственно, "стимулировать" мышление нашего deux ex machina можно было бы путем отключения электричества от UPS:)
Опять же при наличии у него стремления продолжать работу. Это стремление должно откуда-то взяться.
>А вот с самопознанием дело туго: нервная система тут устроена совсем иначе, чем в человеках, в платах и блоке питания нет нервных окончаний.
Самопознание можно иметь на другом уровне: не столь важно, какие есть провода, важно как работает сама программа (недаром программы на языках не самого низкого уровня переносимы между платформами - детали работы железа для них не имеют значения). Можно представить дизассемблер, дизассемблирующий сам себя. :) Или вспомнить идею проектов PyPy и Rubinius - интерпретаторы языка на том же языке, интерпретирующие сами себя.
>Кстати, с самопознанием дело обстоит туго и у человеков. Более-менее стойкий и бурный прогресс начался только в XIX веке.
Это в Европе. ;)
>- чувство времени (таймер)
- температура
Негусто. Далеко на этом явно не уедешь. :)
Эксперименты с искусственной жизнью в моделируемых мирах с эволюцией показывают, что в бедном и несложном мире у агентов не возникает сложных стратегий поведения, ибо они там просто не нужны. Для появления сложного интеллекта нужны сложные задачи, сложное окружение.
no subject
Date: 2010-10-06 06:15 pm (UTC)Я такой писал :D
no subject
Date: 2011-11-30 05:09 pm (UTC)что касается мотивации, то я кажется могу доказать, что она может иметь только один источник - естественный отбор