да, хорошо. А что если мы имеем бесконечный алфавит, в котором вначале идет один набор букв, а потом в произвольный момент времени он сменятся вообще на другой.Собственно это я и назвал отсутствием детерминизма.
Очевидно, что первое время, пока система не наработает статистику, извлекать информацию из входяшего потока она будет неважно.
В макросистемах как раз такие вещи часто и происходят.

А во многих физических моделях, насколько я могу припомнить, очень часто болтается какой-нибудь "довесок", чтобы все сходилось. Вот этот "довесок" часто представляет самое интересное.