1、每天早上张三都要出门跑步,张三的家有前后两个门,门口都有一些鞋,两个门口鞋
的数目之和为 。张三出门时,如果门口有鞋时则穿上,如果没有,就只好光脚跑了;
跑步回来进门时,如果穿着鞋,则将鞋脱下放在门口。假定张三出门时选择前后门的
概率相同,回家时也同样。试将此情况提炼成一马氏链,并请计算充分长时间以后,
张三出门时不幸要光脚跑步的概率。
2、设商店建立如下的某商品的 存货策略以满足持续不断的需求:假设在时刻 到
间隔内的总需求为 , 为独立同分布随机变量,且与起始的库
存 也独立。存货的补充在 时刻之后立刻开始进行,采用如下的 补充策略
(其中 ),即如果在 时刻发现库存等于或低于 ,则在 时刻将库存补
充到 ;如果高于 ,则不补充(这里库存取负值是允许的,因为暂时无法满足的需
求可以有立刻的补充给以满足)。试证明库存序列 构成 Markov 链。如
果 , , 的 分 布 为 , 试 写 出
的状态空间以及一步转移概率矩阵,讨论状态性质,计算平稳分布以及
补充库存数的数学期望。
3、某数字通信系统中,由一串 0/1 码按照下列规则编译成 0、1、-1 序列,若输入串某
位置出现 0,则输出串中在该位置也相应为 0;若输入串中某位置出现 1,则在输出串
中同一位置出现 1 或者-1,且规定输出串中 1、-1 交替出现,输出串中第一个出现
1/-1 的位置设为 1。举例来说,如果输入串为 ,那么输出串即为
。如果输入串出现的码为独立同分布的随机变量,且 0、1 出现
的概率相同,则输出串 为 Markov 链,试确定其状态空间以及写出一步
转移概率矩阵 和 步转移概率矩阵 ,并在到达平稳后,求 的期望
和相关函数。
4、设有状态空间为 的 Markov 链,其一步转移概率为
讨论该链的各个状态的性质(正常返、零常返、非常返、周期性),若为正常返,求
其平稳分布。如果一步转移概率为
情况又会是如何?