舟山 网站制作,北京顺义网站建设,苏州网站建设设计公司哪家好,大型网站制作平台笔记主要基于中文版《应用随机过程 Introduction to Probability Models 》(Sheldon M. Ross)#xff0c;只有非常少的一部分是我自己的注解。写这个笔记的目的是自己复习用#xff0c;阅读需要一定的微积分和概率论基础。本人为初学者#xff0c;且全部为自学#xff0c;如…笔记主要基于中文版《应用随机过程 Introduction to Probability Models 》(Sheldon M. Ross)只有非常少的一部分是我自己的注解。写这个笔记的目的是自己复习用阅读需要一定的微积分和概率论基础。本人为初学者且全部为自学如果笔记中有错误欢迎指正。 https://zhuanlan.zhihu.com/p/165909489 提示概率论和指数分布作为本节的基础我把一些重要公式写在开头但是可以直接从泊松过程开始阅读在泊松过程中用到相关知识点的时候再回头阅读。当然从头读到尾也许理解得更好。
1. 概率论复习
随机过程是概率论的延申。因为我本科并没有系统学过概率论所以有必要把一些概率论常用公式罗列在开头。
1.1 指数分布及其重要性质 1.2 泊松过程
要理解泊松过程我们还有一些概念要理清楚。
首先什么是随机过程随机过程可以看成随机变量的集合X(t),t∈T{X(t),t\in T}X(t),t∈T或者说是一连串的随机变量T是指标集t可以理解为时间也就是某个时刻有着对应的随机变量取值X(t)X(t)称为状态(state)。一个系统在不同的时刻可能会有不同的状态这些状态是随机的你按照时间顺序观察到的状态就是随机过程了。
具体一点你可以想象一个黑盒子黑盒子里面有个数字你每隔一段时间打开黑盒子看一下会看到不同的数字你把看到的数字按照时间顺序记录下来就是随机过程。随机过程就是假定你观察到的数字是有规律的可以用概率论的模型去描述的。 平稳过程保证了随着时间变动泊松过程产生的随机变量是同分布的而独立增量过程则保证了随着时间变动前后过程的独立性所以平稳独立增量就就可以理解成连续情形下的 i.i.d。在随机过程中基于平稳独立增量过程的条件我们往往可以通过类似在一个小区间 (t,th]中发生事件的个数能够推出整个随机过程的信息。
2. 更新过程
Renewal theory is the branch of probability theory that generalizes the Poisson process for arbitrary holding times. Instead of exponentially distributed holding times, a renewal process may have any independent and identically distributed (IID) holding times that have finite mean. A renewal-reward process additionally has a random sequence of rewards incurred at each holding time, which are IID but need not be independent of the holding times.
A renewal process has asymptotic properties analogous to the strong law of large numbers and central limit theorem. The renewal function m(t)m(t)m(t) (expected number of arrivals) and reward function g(t)g(t)g(t) (expected reward value) are of key importance in renewal theory. The renewal function satisfies a recursive integral equation, the renewal equation. The key renewal equation gives the limiting value of the convolution of m′(t)m(t)m′(t) with a suitable non-negative function. The superposition of renewal processes can be studied as a special case of Markov renewal processes.
Applications include calculating the best strategy for replacing worn-out machinery in a factory and comparing the long-term benefits of different insurance policies. The inspection paradox relates to the fact that observing a renewal interval at time t gives an interval with average value larger than that of an average renewal interval.
一个泊松过程可以分解成一系列 i.i.d 的指数分布随机变量相加如果把指数分布换成其他 i.i.d 的分布就得到了更新过程。
更新过程本身是泊松过程的一种扩长同时更新过程也可以发展出一套更新理论包括更新方程等。
更新过程renewal process是一类随机过程是描述元件或设备更新现象的一类随机过程。 设对某元件的工作进行观测。假定元件的使用寿命是一随机变量当元件发生故障时就进行修理或换上新的同类元件而且元件的更新是即时的(修理或更换元件所需的时间为零)。如果每次更新后元件的工作是相互独立且有相同的寿命分布令N(t)为在区间(0t]中的更新次数则称计数过程{N(t)t≥0}为更新过程。
2.1 N(t)的分布 2.2 更新过程分类
在数学上更新过程可简单地定义为相邻两个点事件(即更新)的间距是相互独立同分布(但从原点到第一次更新的间距T1可以有不同分布)的计数过程。 根据T1的分布情形更新过程分为以下三类
普通更新过程延迟更新过程平衡更新过程
更新过程也可用过程的事件间距序列{Tnn≥1}给定这时N(t)和Tn有如下关系 其中 是第n次更新时间(n≥1再定义S00)。
对于普通更新过程Sn是n个相互独立同分布的非负随机变量之和因此在数学上更新过程也可以看做是一类特殊的独立随机变量和。
2.2.1 普通更新过程ordinary renewal process
一类特殊的延迟更新过程。
指所有更新间距T1T2T3…都具有相同分布的更新过程有时也简称更新过程。
2.2.2 延迟更新过程delayed renewal process
亦称变形更新过程。一种更新过程指允许第一个更新间距T1(即从原点到第一次更新的间距)的分布G和其后的更新间距T2T3…的(共同)分布F相异的更新过程。
这类过程产生的背景和得名的原因如下设想对一个元件更新模型开始观测的时刻t0并不恰好是一个新元件开始工作的时刻因而过程第一个元件的寿命(从开始观测时算起)分布G和新元件的寿命分布F一般是不相同的。由于在上述模型中是当一个元件已经工作了一段时间才开始观测的所以人们称之为延迟更新过程。因为普通更新过程和平衡更新过程都可看做延迟更新过程的特殊情形故也有人把延迟更新过程称为一般更新过程。
2.2.3 平衡更新过程equilibrium renewal process
一类特殊的延迟更新过程。它的第一个更新间距T1有分布 这里A(t)和Y(t)分别是过程在时刻t的年龄和剩余寿命(参见“年龄”和“剩余寿命”)。
2.2.4 交替更新过程alternating renewal process
如果考虑更换时间即考虑机器的开与关两种状态称作交替更新过程。设系统最初是开的持续时间是Z1而后关闭时间是Y1之后再打开时间为Z2又关闭时间为Y2……交替进行。假设ZnYn,n1是独立同分布的。
一类特殊的两状态马尔可夫更新过程。其特征是两类型的更新区间交替出现。确切地说交替更新过程就是非负随机向量序列{(ZnYn)n≥1}其中各(ZnYn)是独立同分布的(因而随机变量序列{Zn}和{Yn}也各自是独立同分布的)但Zn和Yn(对于任一正整数n)可以是相依的。在元件更新模型中若更新时间不恒等于零而是一个随机变量令Zn和Yn分别表示第n个元件的使用寿命和它的更新时间人们就得到一个交替更新过程(参见“马尔可夫更新过程”)。
2.2.5 一些说明
所谓更新过程就是更新
间隔虽然是i.i.d 但是可以服从一般分布包括指数分布的泊松计数过程。 我们一般把更新过程的更新间隔的均值命名为μ\muμ把更新过程的均值命名为更新函数m(t)。 1/μ1/\mu1/μ我们称为更新速率。
2.3 更新定理
2.3.1 更新基本定理
更新数与时间之比趋近于更新速率。 另外更新函数与时间之比也趋近于更新速率。 这里的趋近是说当时间趋于无穷的时候。
2.3.2 关键更新定理
一个黎曼可积的函数与更新函数的增量的卷积等于该函数在正区间的积分乘以更新速率。 定义格点更新过程更新只在一个正数的正整数周期的倍数时刻发生的更新过程。否则叫做非格点的更新过程。 非格点的更新过程有如下定理 非格点的更新过程的差分与时间之比趋近于更新速率。 格点的更新过程有如下定理 在极限时刻发生的更新数与周期之比趋近于更新速率。
所以可以看出更新过程的定理基本都是和更新基本定理类似的。 但是最有用的定理还是关键更新定理。
2.4 补充一些
更新函数是n个更新间隔的和的分布的对n的累加。
dm(y)dm(y)dm(y)是更新发生在(y,ydy)(y,ydy)(y,ydy)期间的概率。
F(t−y)dyF(t-y)dyF(t−y)dy是更新间隔大于t-y的概率。
所以dm(y)F(t−y)dydm(y)F(t-y)dydm(y)F(t−y)dy就是dFSN(t)dF_{S_{N(t)}}dFSN(t)的概率也就是第N(t)个更新发生在t时刻的概率。
我们定义在t时间内发生了N(t)N(t)N(t)个更新那么SN(t)S_{N(t)}SN(t)即第N(t)个更新发生的时刻与t的时间差叫做“零件”的年龄。把SN(t)1S_{N(t)1}SN(t)1即第N(t)1N(t)1N(t)1个更新发生的时刻与t的时间差叫做“零件”的剩余寿命。
“零件”的年龄和剩余寿命在时间趋于无穷大的时候有相同的分布且都等于int0tF(y)dy/μint_{0}^{t}F(y)dy/\muint0tF(y)dy/μ
2.5 更新过程的推广
2.5.1 交错更新过程
就是忙时和停时更替进行的一种更新过程我们把一个忙时和紧接着的一个停时叫做一个循环。 则机器在时刻t是处于忙时的概率随时间趋近于
EZn/(EZnEYn)EZn/EXnE{Z_{n}}/(E{Z_{n}}E{Y_{n}})E{Z_{n}}/E{X_{n}}EZn/(EZnEYn)EZn/EXn
这里XnX_{n}Xn表示第n个循环的长度。ZnZ_{n}Zn表示第n个忙时的长度。YnY_{n}Yn表示第n个停时的长度。
2.5.2 延迟更新过程
也称为一般更新过程就是初次间隔并不和其后的间隔分布相同。 前面出现过的这个分布函数int0tF(y)dy/muint_{0}^{t}F(y)dy/muint0tF(y)dy/mu称为平衡分布函数。
如果首次间隔分布服从平衡分布函数则这样的一般更新过程就称为平衡更新过程。
2.5.3 酬劳更新过程
如果每次更新有一次酬劳酬劳也可以是penalty也就是说酬劳可以为负那么这样的更新过程叫做酬劳更新过程。 每次的酬劳我们记为R_{n}并用R(t)记直到t时刻的所有酬劳之和。
那么有如下和基本更新定理类似的定理 R(t)/tR(t)/tR(t)/t总酬劳的平均 趋近于平均一个更新间隔内的平均酬劳。 或者总酬劳的均值的平均趋近于平均一个更新间隔内的平均酬劳。 这里的趋近于都是时间上趋近无穷大的涵义下。
排队论可以说是最重要的定理
更新过程的来到率定义为更新间隔的均值的倒数也就是更新速率。记为λ\lambdaλ。
则排队论的重要定理可以叙述为 系统中按时间的平均人数等于来到率更新速率乘以每个顾客在系统中度过的时间。 或者排队中按时间的平均人数等于来到率更新速率乘以每个顾客在排队中度过的时间。 因为来到率是更新间隔的倒数所以至少在单位上是不成问题的。也比较容易理解。
2.6 再生过程(regenerative process)
再生过程是说存在一个时刻在这个时刻之后系统又从0时刻开始重复。
系统可以处于很多状态上两个时刻之间算一个循环。
与交错交替更新过程类似 系统处于第j个状态上的概率在时间上趋近于在一个更新间隔循环的均值时间内系统处于状态j的时间的均值。即处于状态j的时间的均值比一个更新间隔循环的均值。
2.7 平稳点过程
顾名思义平稳点过程就是一个具有平稳增量的计数过程。
平稳点过程的重要定理如下 平稳点过程计数N(t)大于0的概率与时间t之比等于一个正数。 也就是说平稳点过程N(t)的期望均值等于时间t乘以更新速率。
3. 大数定律
在数学与统计学中大数定律又称大数法则、大数律是描述相当多次数重复实验的结果的定律。根据这个定律知道样本数量越多则其算术平均值就有越高的概率接近期望值。
大数定律很重要因为它“说明”了一些随机事件的均值的长期稳定性。人们发现在重复试验中随着试验次数的增加事件发生的频率趋于一个稳定值人们同时也发现在对物理量的测量实践中测定值的算术平均也具有稳定性。比如我们向上抛一枚硬币硬币落下后哪一面朝上是偶然的但当我们上抛硬币的次数足够多后达到上万次甚至几十万几百万次以后我们就会发现硬币每一面向上的次数约占总次数的二分之一亦即偶然之中包含着必然。
上述现象是切比雪夫不等式的一个特殊应用情况辛钦定理和伯努利大数定律也都概括了这一现象它们统称为大数定律。
大数定理简单来说指得是某个随机事件在单次试验中可能发生也可能不发生但在大量重复实验中往往呈现出明显的规律性即该随机事件发生的频率会向某个常数值收敛该常数值即为该事件发生的概率。
另一种表达方式为当样本数据无限大时样本均值趋于总体均值。
因为现实生活中我们无法进行无穷多次试验也很难估计出总体的参数。
大数定律告诉我们能用频率近似代替概率能用样本均值近似代替总体均值。
很好得解决了现实问题。
3.1 举例
例如抛掷一颗均匀的6面的骰子123456应等概率出现所以每次扔出骰子后出现点数的期望值是 12345663.5\frac{123456}{6}3.561234563.5
根据大数定理如果多次抛掷骰子随着抛掷次数的增加平均值样本平均值应该接近3.5根据大数定理在多次伯努利实验中实验概率最后收敛于理论推断的概率值对于伯努利随机变量理论推断的成功概率就是期望值而若对n个相互独立的随机变量的平均值频率越多则相对越精准。
例如硬币投掷即伯努利实验当投掷一枚均匀的硬币理论上得出的正面向上的概率应是1/2。因此根据大数定理正面朝上的比例在相对“大”的数字下“理应”接近为1/2尤其是正面朝上的概率在n次实验n接近无限大时后应几近收敛到1/2。
即使正面朝上或背面朝上的比例接近1/2几乎很自然的正面与负面朝上的绝对差值absolute difference差值范围应该相应随着抛掷次数的增加而增加。换句话说绝对差值的概率应该是会随着抛掷次数而接近于0。直观的来看绝对差值的期望会增加只是慢于抛掷次数增加的速度。
3.2 表现形式
大数定律主要有两种表现形式弱大数定律和强大数定律。
定律的两种形式都肯定无疑地表明样本均值 相较于辛钦大数定律切比雪夫大数定理并未要求同分布更具一般性。
4. non-renewal
In real stochastic systems, the arrival and service processes may not be renewal processes. For example, in many telecommunication systems such as internet traffic where data traffic is bursty, the sequence of inter-arrival times and service times are often correlated and dependent. One way to model this non-renewal behavior is to use Markovian Arrival Processes (MAPs) and Markovian Service Processes (MSPs). MAPs and MSPs allow for inter-arrival and service times to be dependent, while providing the analytical tractability of simple Markov processes. Young Myoung Ko Jamol Pender (2018) Strong approximations for timevarying infinite-server queues with non-renewal arrival and service processes, Stochastic Models, 34:2, 186-206, DOI: 10.1080/15326349.2018.1425886 https://www.cnblogs.com/sddai/p/6094837.html https://zhuanlan.zhihu.com/p/59876036 https://wenku.baidu.com/view/199c386cb84ae45c3b358c8a.html https://zh.wikipedia.org/wiki/%E5%A4%A7%E6%95%B0%E5%AE%9A%E5%BE%8B https://zhuanlan.zhihu.com/p/77312635
