"01概率論篇
　　1.1全是不可測(cè)集惹的麻煩
　　隨機(jī)事件(簡(jiǎn)稱為事件)、概率、隨機(jī)變量是概率論中最基本的三個(gè)概念，它們是逐步形成與完善起來的。其中事件與隨機(jī)變量這兩個(gè)概念與不可測(cè)集合的關(guān)系非常緊密。如果不存在不可測(cè)集合，事件與隨機(jī)變量的定義將會(huì)非常簡(jiǎn)潔易懂。由于不可測(cè)集合的存在，給這兩個(gè)概念的定義帶來了很大的麻煩，使初學(xué)者感到很困難。
　　學(xué)過初等概率論的人都知道，隨機(jī)事件是樣本空間(由所有樣本點(diǎn)或基本事件組成的集合)的子集，但是樣本空間的子集卻未必是隨機(jī)事件。為什么？一般教科書均不作解釋，因?yàn)榇藛栴}說起來話長(zhǎng)，又涉及較多的數(shù)學(xué)知識(shí)，一兩句話是說不清楚的。
　　如果樣本空間Ω中的樣本點(diǎn)只有可數(shù)(可列)多個(gè)，則Ω中的任一個(gè)子集都可測(cè)；如果Ω中的樣本點(diǎn)有無窮不可數(shù)多個(gè)(如一個(gè)區(qū)間或一個(gè)區(qū)域)，則可人為地構(gòu)造出Ω的不可測(cè)子集。什么叫做(集合)可測(cè)？這涉及較深的測(cè)度論知識(shí)。通俗地說，所謂集合A可測(cè)，就是可以求出A的測(cè)度。什么叫做測(cè)度？如果A是離散可數(shù)集合，則把A中的元素個(gè)數(shù)作為A的測(cè)度，如果A是非離散的區(qū)域而且是一維的(二維的、三維的)，就把A的長(zhǎng)度(面積、體積)作為A的測(cè)度。關(guān)于如何構(gòu)造Ω的不可測(cè)子集，有興趣的讀者可以參閱鄭維行和王聲望著的《實(shí)變函數(shù)與泛函分析概要》。初學(xué)者很難理解，一條曲線為什么會(huì)不可以測(cè)量它的長(zhǎng)度呢？美籍華人鐘開來說，讀者可以這樣設(shè)想，這條曲線彎曲得非常厲害，我們無法測(cè)準(zhǔn)它的長(zhǎng)度，或者設(shè)想它離我們非常遙遠(yuǎn)，即使用最先進(jìn)的儀器也無法對(duì)它進(jìn)行測(cè)量。
　　由于樣本空間中的子集不一定都可測(cè)，那些不可測(cè)子集我們是無法求其概率的，當(dāng)然，就不把它們看成事件，這是因?yàn)槲覀冄芯渴录�的主要目的是求其出現(xiàn)(發(fā)生)的概率。又因?yàn)樵趯?shí)際問題中我們往往要對(duì)事件進(jìn)行各種運(yùn)算(或變換)，我們自然會(huì)問：可測(cè)事件運(yùn)算(或變換)的結(jié)果是否仍為可測(cè)？為了保證可測(cè)事件運(yùn)算(或變換)的結(jié)果仍為可測(cè)，我們?cè)诙�義事件中引進(jìn)了σ代數(shù)的概念。
　　定義1.1設(shè)Ω為一個(gè)集合，如果Ω中的一些子集組成的集類(以集合為元素的集合)F滿足：
　　(i)Ω∈F。
　　(ii)如果A∈F，則A的補(bǔ)集∈F。
　　(iii)如果An∈F，n=1，2，3，，則∪∞n=1An∈F。
　　則稱F為Ω中的σ代數(shù)。
　　有了σ代數(shù)的概念，可引入事件的如下的嚴(yán)密定義。
　　定義1.2如果F是由樣本空間Ω中一些(可測(cè))子集組成的σ代數(shù)，則稱F為事件域，稱且僅稱F中的元素為事件。通常稱(Ω，F(xiàn))為可測(cè)空間。
　　由此定義可知：
　　(i)σ代數(shù)未必是事件域，但是事件域一定是σ代數(shù)。
　　(ii)｛，Ω｝為最小事件域(其中為不可能事件，即為不含有任何樣本點(diǎn)的空集)。如果A為Ω中的可測(cè)子集，則｛，A，A，Ω｝是包含事件A的最小事件域。如果Ω中的子集都可測(cè)，則取事件域?yàn)椋鸄：AΩ｝(即如果AΩ，則稱A為事件)，它也是最大的事件域。因此，事件域不是唯一的。
　　(iii)在實(shí)際問題中，如果Ω中的樣本點(diǎn)是可數(shù)的，通常就取事件域?yàn)椋鸄：AΩ｝，否則，通常取事件域?yàn)榘�含我們所關(guān)心的事件的σ代數(shù)。在一個(gè)問題中，事件域一經(jīng)取定就不再變動(dòng)
　　如果不存在樣本空間Ω中的不可測(cè)子集，隨機(jī)變量就可以簡(jiǎn)單定義為：如果X(ω)是Ω上的單值實(shí)函數(shù)，則稱X(ω)為隨機(jī)變量。而現(xiàn)在隨機(jī)變量的定義不僅復(fù)雜得多，而且使初學(xué)者很不容易理解。
　　定義1.3設(shè)(Ω，F(xiàn))是一個(gè)可測(cè)空間，X(ω)為定義于Ω上的單值實(shí)函數(shù)，如果對(duì)任意實(shí)數(shù)x，均有
　�。�ω：X(ω)≤x，ω∈Ω｝∈F
　　則稱X(ω)為(Ω，F(xiàn))上的一個(gè)隨機(jī)變量。
　　通常簡(jiǎn)記X(ω)為X，簡(jiǎn)記｛ω：X(ω)≤x，ω∈Ω｝為｛X≤x｝。｛ω：X(ω)≤x，ω∈Ω｝表示使得X(ω)≤x成立的那些樣本點(diǎn)ω組成的集合。如果這個(gè)集合為可測(cè)的事件，即｛X≤x｝∈F，我們才稱X為隨機(jī)變量。
　　由定義1.3知隨機(jī)變量不是簡(jiǎn)單的變量，而是定義于樣本空間Ω上的滿足條件｛X≤x｝∈F的單值實(shí)函數(shù)。不過在實(shí)際問題中如果用定義1.3去驗(yàn)證一個(gè)量是否為隨機(jī)變量那將是件很麻煩的事情。通常不用定義1.3去驗(yàn)證一個(gè)量是否為隨機(jī)變量，而是去驗(yàn)證該量取值是否為隨機(jī)的。如果是，則該量是隨機(jī)變量；否則，它就不是隨機(jī)變量。何為隨機(jī)的？所謂隨機(jī)的是指：該量至少能取兩個(gè)值，而且事前(試驗(yàn)之前)無法準(zhǔn)確預(yù)言它取哪個(gè)值。
　　1.2概率概念的完善
　　概率是描述事件發(fā)生(出現(xiàn))可能性大小的數(shù)量指標(biāo)，它是逐步形成和完善起來的。最初人們討論的是古典概型(隨機(jī))試驗(yàn)中事件發(fā)生的概率。所謂古典概型試驗(yàn)是指樣本空間中的樣本點(diǎn)的個(gè)數(shù)是有限的且每個(gè)樣本點(diǎn)(組成的事件)發(fā)生的可能性是相同的，簡(jiǎn)稱為有限性與等可能性。例如，擲一顆均勻骰子的試驗(yàn)與從一個(gè)裝有n個(gè)相同(編了號(hào))球的袋中隨機(jī)摸一個(gè)球的試驗(yàn)都是古典概型試驗(yàn)。對(duì)于古典概型試驗(yàn)，人們給出概率的如下定義。
　　定義1.4設(shè)試驗(yàn)E是古典概型的，其樣本空間Ω由n個(gè)樣本點(diǎn)組成，其一事件A由r個(gè)樣本點(diǎn)組成，則定義A(發(fā)生)的概率為rn，記為P(A)，即
　　P(A)=A中樣本點(diǎn)數(shù)Ω中樣本點(diǎn)數(shù)=rn
　　并稱這樣定義的概率為古典概率，稱概率的這樣的定義為古典定義。
　　古典概率有如下3個(gè)性質(zhì)：
　　(i)對(duì)任意事件A，有0≤P(A)≤1。
　　(ii)P(Ω)=1。
　　(iii)設(shè)A1，A2，，Am為兩兩互斥的m個(gè)事件，則
　　P(∪mi=1Ai)=∑mi=1P(Ai)
　　(i)、(ii)、(iii)分別稱為概率的有界性、規(guī)范性與有限可加性。
　　古典概率的定義要求試驗(yàn)滿足有限性與等可能性，這使得它在實(shí)際應(yīng)用中受到了很大的限制。例如，對(duì)于旋轉(zhuǎn)均勻陀螺的試驗(yàn)：在一個(gè)均勻的陀螺圓周上均勻地刻上區(qū)間［0，3)內(nèi)諸數(shù)字，旋轉(zhuǎn)陀螺，當(dāng)它停下時(shí)，其圓周上與桌面接觸處的刻度位于某區(qū)間［a，b)［［0，3)］內(nèi)的概率有多大？對(duì)于這樣的試驗(yàn)，古典概率的定義就不適用。因?yàn)榇嗽囼?yàn)的樣本點(diǎn)不是有限的，而是區(qū)間［0，3］中的每個(gè)點(diǎn)，它有無窮不可數(shù)多個(gè)。為了克服定義1.4的局限性，人們又引入概率的如下定義。
　　定義1.5設(shè)試驗(yàn)E的樣本空間為某可度量的區(qū)域Ω，且Ω中任一區(qū)域出現(xiàn)的可能性大小與該區(qū)域的幾何度量成正比，而與該區(qū)域的位置與形狀無關(guān)，則稱E為幾何概型的試驗(yàn)。且定義E的事件A的概率為
　　P(A)=A的幾何度量/Ω的幾何度量
　　其中，如果Ω是一維的、二維的、三維的，則Ω的幾何度量分別為長(zhǎng)度、面積、體積。并稱這樣定義的概率為幾何概率，而稱概率的這樣的定義為幾何定義。
　　幾何概率除了具有古典概率的3個(gè)性質(zhì)外，它還具有如下的可列可加性(或完全可加性)：
　　(iv)設(shè)A1，A2，A3，為兩兩互斥的無窮多個(gè)事件，則
　　概率的幾何定義雖然去掉了有限性的限制，但是它仍然要試驗(yàn)滿足等可能性，這在實(shí)際問題中仍有很大的局限性。例如，擲一枚不均勻的硬幣的試驗(yàn)就不具有等可能性，這樣上述兩個(gè)定義對(duì)這個(gè)非常簡(jiǎn)單的試驗(yàn)都不適用。同時(shí)我們還注意到上述兩個(gè)定義中的等可能性嚴(yán)格地說都是近似的，而不是真正的等可能。因此，我們必須再一次推廣概率的定義，以滿足實(shí)際問題要求。為此，人們?cè)陬l率的基礎(chǔ)上又引進(jìn)了概率的統(tǒng)計(jì)定義。
　　通過長(zhǎng)期的實(shí)踐，人們逐步發(fā)現(xiàn)，當(dāng)重復(fù)試驗(yàn)的次數(shù)很多時(shí)，事件出現(xiàn)的頻率都具有穩(wěn)定性。即對(duì)于某個(gè)固定的事件，當(dāng)重復(fù)試驗(yàn)次數(shù)增加時(shí)，該事件出現(xiàn)的頻率總在0與1之間某個(gè)數(shù)字p附近擺動(dòng)，且越來越接近p。例如，擲一枚均勻硬幣的試驗(yàn)，歷史上曾經(jīng)有很多數(shù)學(xué)家做過。下表是幾位數(shù)學(xué)家做此試驗(yàn)的結(jié)果。由此表可以看到，當(dāng)試驗(yàn)次數(shù)越來越多時(shí)，正面出現(xiàn)的頻率越來越靠近0.5(表1-1)。由此，人們又引入概率的統(tǒng)計(jì)定義。
　　表1-1擲均勻硬幣的試驗(yàn)
　　定義1.6設(shè)A為試驗(yàn)E的一個(gè)事件，如果隨著重復(fù)試驗(yàn)次數(shù)的增加A出現(xiàn)的頻率在0與1之間某個(gè)數(shù)p附近擺動(dòng)，則定義A的概率為p，記為P(A)，即
　　P(A)=p
　　稱這樣定義的概率為統(tǒng)計(jì)概率，稱概率的這樣的定義為統(tǒng)計(jì)定義。
　　統(tǒng)計(jì)概率也有古典概率的3個(gè)性質(zhì)，即有界性、規(guī)范性、有限可加性。
　　概率的統(tǒng)計(jì)定義對(duì)試驗(yàn)不作任何要求，它適合所有試驗(yàn)，也比較直觀。但是在數(shù)學(xué)上很不嚴(yán)密。因?yàn)槠湟罁?jù)是重復(fù)試驗(yàn)次數(shù)很多時(shí)頻率呈現(xiàn)出的穩(wěn)定性。何為“很多”？1萬次相對(duì)于1000次來說是很多了，但是相對(duì)于10萬次來說它又是很少了。試驗(yàn)次數(shù)究竟要多到怎樣的程度才能算“很多”定義中沒有說明；又如定義中的“擺動(dòng)”又如何理解，也沒有數(shù)學(xué)說明，再如定義中的“p”又如何確定？不同的人可能會(huì)確定不同的值。這樣，一個(gè)事件將有多個(gè)概率。例如，在表1-1中，正面出現(xiàn)的頻率顯然在0.5附近擺動(dòng)，因此可以認(rèn)為正面出現(xiàn)的概率為0.5。但是由于硬幣不會(huì)絕對(duì)均勻的，也可以認(rèn)為正面出現(xiàn)的概率為0.50001或0.4999。因此，概率的上述3個(gè)定義都有缺陷，與其說它們是定義，不如說它們僅是對(duì)不同的情況給出概率的3種計(jì)算方法。所以我們有必要給出概率的一個(gè)嚴(yán)密的對(duì)各種情況都適用的定義，以使得概率論這座大廈有牢固的基礎(chǔ)。
　　20世紀(jì)30年代初，馮.米富斯(R.VonMises)給出樣本空間的概念，使得有可能把概率的嚴(yán)密的數(shù)學(xué)理論建立在測(cè)度論上。20世紀(jì)30年代中期柯爾莫哥洛夫(A.N.Kolmogorov)以上述3個(gè)定義的性質(zhì)為背景給出概率的嚴(yán)密的公理化定義。
　　定義1.7設(shè)(Ω，F(xiàn))為一個(gè)可測(cè)空間，P為定義于F上的實(shí)值集合函數(shù)，如果P滿足下列3個(gè)條件：
　　(i)對(duì)每個(gè)A∈F，有P(A)≥0；
　　(ii)P(Ω)=1；
　　(iii)如果Ai∈F，i=1，2，3，，且當(dāng)i≠j時(shí)，AiAj=，則P(∪∞i=1Ai)=∑∞i=1P(Ai)。
　　那么，就稱P為概率測(cè)度，簡(jiǎn)稱為概率。
　　一般把Ω，F(xiàn)，P寫在一起成(Ω，F(xiàn)，P)，并稱(Ω，F(xiàn)，P)為概率空間。以后總用Ω表示樣本空間，用F表示Ω中的固定的事件域，用P表示相應(yīng)于Ω與F的概率。此定義的3個(gè)條件稱為3個(gè)公理。這3個(gè)公理分別稱為概率的非負(fù)性、規(guī)范性與完全可加性(或可列可加性)。
　　概率的公理化定義中沒有要求定義于F上的實(shí)值集合函數(shù)P滿足有界性與有限可加性，為什么？這是因?yàn)橛薪缧耘c有限可加性可以由3個(gè)公理推導(dǎo)出來，而且，一個(gè)概念的定義(自然)要求所滿足的條件越少越好，這樣才便于應(yīng)用。設(shè)想，如果一個(gè)定義要求滿足10個(gè)條件，則每次應(yīng)用前都要逐一驗(yàn)證這10個(gè)條件是否滿足(如果不滿足，則不能應(yīng)用該定義)，這將是很麻煩的事情。其次，概率的公理化定義是嚴(yán)密的數(shù)學(xué)定義，且對(duì)試驗(yàn)不作任何要求，我們很自然地會(huì)問，前述的三個(gè)定義是否可以不要了？不可以。這是因?yàn)楣�理化定義雖然在數(shù)學(xué)上很嚴(yán)密，但是它沒有給出事件概率的計(jì)算方法。要計(jì)算一個(gè)具體事件的概率，還得根據(jù)不同的情況，利用上述3個(gè)定義之一來計(jì)算。

 　　……