研究隨機(jī)現(xiàn)象， 什么是隨機(jī)現(xiàn)象呢？在某種特定情況下，或者某個(gè)環(huán)境中，不總是出現(xiàn)同一個(gè)結(jié)果的現(xiàn)象就是隨機(jī)現(xiàn)象。研究某個(gè)隨機(jī)現(xiàn)象的時(shí)候，隨機(jī)現(xiàn)象所有可能結(jié)果組成的集合稱為樣本空間。 隨機(jī)現(xiàn)象的每種基本結(jié)果被定義為樣本點(diǎn)。我們可以理解這種隸屬關(guān)系，隨機(jī)現(xiàn)象擁有樣本空間和樣本點(diǎn)這兩個(gè)屬性。 某些樣本點(diǎn)組成的集合稱為事件。事件本質(zhì)是集合，我們可以研究事件間的關(guān)系、事件間的運(yùn)算。在事件上定義一個(gè)叫做概率的函數(shù)，這就給我們 研究某些隨機(jī)現(xiàn)象結(jié)果的可能性 提供了數(shù)學(xué)基礎(chǔ)。給出概率的定義，通過(guò)事件的相互關(guān)系、運(yùn)算性質(zhì)，我們可以得到一些事件間的概率性質(zhì)，或者事件本身的概率性質(zhì)。?
研究隨機(jī)現(xiàn)象，首先應(yīng)該明確我們研究的是什么現(xiàn)象！樣本空間是什么！我們對(duì)哪些事件感興趣！如何確定這些事件的概率！
在研究過(guò)程中，大家會(huì)不自然的用到一些符號(hào)來(lái)表示隨機(jī)現(xiàn)象的結(jié)果，這就是我們內(nèi)心對(duì)隨機(jī)變量的訴求。隨機(jī)變量已經(jīng)深入我們的內(nèi)心，很難去分離理解他了。 如果能區(qū)分他，明確的理解他，我們有理由相信這會(huì)幫助我們解決實(shí)際問(wèn)題。 所以我們?cè)O(shè)法理解或者說(shuō)重新理解隨機(jī)變量。 我們把隨機(jī)現(xiàn)象結(jié)果用數(shù)量表示，這種數(shù)量表示就是隨機(jī)變量。更理論一點(diǎn)理解就是，隨機(jī)變量是定義在樣本空間上的一個(gè)函數(shù)！我沒(méi)有見(jiàn)過(guò)函數(shù)值是復(fù)數(shù)的，很多書(shū)中也是這樣定義的，就是這個(gè)函數(shù)是實(shí)值函數(shù)！
隨機(jī)變量一般用大寫(xiě)字母來(lái)表示，X，Y，Z等， 每一個(gè)樣本點(diǎn)對(duì)應(yīng)唯一一個(gè)隨機(jī)變量值，那么就可以用隨機(jī)變量的條件限制出樣本點(diǎn)的集合，那么這就是事件了。 例如，我們研究投擲硬幣這個(gè)隨機(jī)現(xiàn)象，出現(xiàn)的結(jié)果有兩種，一種是正面，一種是反面，這兩種結(jié)果組成樣本空間，每一個(gè)結(jié)果是一個(gè)樣本點(diǎn)，定義一個(gè)隨機(jī)變量X，當(dāng)隨機(jī)現(xiàn)象的結(jié)果為正面時(shí)，X=1，當(dāng)結(jié)果為反面時(shí)，X=0，這些定義都滿足 隨機(jī)變量的定義，那么X=0就是一個(gè)基本事件了，概率是定義在事件上的，那么P(X=0)便是一個(gè)概率，它表示了“投擲硬幣這種隨機(jī)現(xiàn)象出現(xiàn)反面這種結(jié)果組成的事件的概率”。 這里我們考慮的是離散的情況，所謂離散，指的是 隨機(jī)變量的值是有限的或者可列的，注意可列是無(wú)限的特殊形式。還有一種情況，例如生小孩現(xiàn)象，這種現(xiàn)象的結(jié)果又很多種情況，比如新生兒的性別，新生兒的體重，新生兒的身高，新生兒的眼睛間距都可以用來(lái)表示這個(gè)現(xiàn)象的結(jié)果，比如，某某生了一個(gè)小孩，往往我們會(huì)說(shuō)某某生了一個(gè)女孩，或者某某生了一個(gè)8斤的小家伙，我們已經(jīng)潛移默化的說(shuō)出了我們關(guān)心的是某個(gè)指標(biāo)。生小孩這種隨機(jī)現(xiàn)象的結(jié)果有無(wú)窮多個(gè)，盡管我們無(wú)法確定，但是在我們有生之年，也許人類會(huì)永遠(yuǎn)活在地球上，所以新生兒一直會(huì)出現(xiàn)，這種現(xiàn)象的樣本點(diǎn)就是每個(gè)新生兒，樣本空間就是所有新生兒的全體，新生兒有無(wú)限多個(gè)。 我們?cè)谶@個(gè)樣本空間上定義隨機(jī)變量，新生兒性別為男孩時(shí)X=0，新生兒性別為女孩時(shí)，X=1，這里不考慮其它情況，盡管還有其它可能；在同一個(gè)樣本空間上，在繼續(xù)定義另一個(gè)隨機(jī)變量Y，它表示新生兒的體重；隨機(jī)變量Z表示新生兒的身高。如果我們認(rèn)為概率反應(yīng)的是事物內(nèi)部本質(zhì)的話，X=0或者=1應(yīng)該可以用某個(gè)穩(wěn)定值來(lái)表示他的可能性，我們就說(shuō)這個(gè)是他們的概率了。如何確定這個(gè)概率呢？用古典方法，我們認(rèn)為男女有相同的可能；又可以用統(tǒng)計(jì)的方法，在某一段時(shí)間內(nèi)，統(tǒng)計(jì)某個(gè)地區(qū)的新生兒性別，可以用相應(yīng)性別出生的頻率來(lái)估計(jì)為某個(gè)性別的概率。對(duì)于Y和Z，這顯然是連續(xù)的隨機(jī)變量，我們很難用古典概率方法研究每個(gè)值出現(xiàn)的可能性，依然可以使用頻率來(lái)表示，在保留誤差的條件下，比如，我們搞一些區(qū)間，(0,1] (1,2] ....等等，如果觀測(cè)值（得到的某個(gè)樣本點(diǎn)的相應(yīng)隨機(jī)變量值）比較少，我們可以把區(qū)間劃的大一點(diǎn)，如果比較多，相應(yīng)劃多一點(diǎn)，這種劃分沒(méi)有嚴(yán)格的規(guī)則，至少我現(xiàn)在沒(méi)有想到，只是根據(jù)實(shí)際情況設(shè)置就可以了。統(tǒng)計(jì)能獲得的樣本點(diǎn)的相應(yīng)觀測(cè)值落在對(duì)應(yīng)區(qū)間的個(gè)數(shù)，這樣就會(huì)得到一個(gè)區(qū)域的頻率分布了，如果觀測(cè)值增多，我們就減小區(qū)間的寬度，當(dāng)觀測(cè)值得個(gè)數(shù)趨近無(wú)窮了，我們區(qū)間的長(zhǎng)度相應(yīng)也趨近于無(wú)窮了，這樣我們就但是每個(gè)觀測(cè)值還保留著某個(gè)值，這個(gè)值不再是概率了，我們可以用密度來(lái)理解他。很多情況下，我們研究的隨機(jī)現(xiàn)象的樣本空間上定義的隨機(jī)變量連續(xù)的時(shí)候，我們會(huì)有一些相應(yīng)的分布來(lái)研究它，比如正態(tài)分布！什么是分布呢？ 離散隨機(jī)變量場(chǎng)合，隨機(jī)變量的取值概率都知道，這就是分布了。 連續(xù)場(chǎng)合，隨機(jī)變量的概率密度知道，他的分布就曉得了。?
問(wèn)題想多了，我們會(huì)發(fā)現(xiàn)，實(shí)際上，很容易知道隨機(jī)變量后面的問(wèn)題，不好去拿出我們研究的到底是什么現(xiàn)象，這個(gè)現(xiàn)象是隨機(jī)現(xiàn)象，他的樣本點(diǎn)是什么??！
知道了這些之后，我們還會(huì)研究相同樣本空間上不同隨機(jī)變量的關(guān)系問(wèn)題！ 將問(wèn)題再提升一個(gè)等級(jí)了。 就是我們前面描述過(guò)的問(wèn)題，新生兒的性別，體重，身高等隨機(jī)變量是同一個(gè)樣本空間上的不同隨機(jī)變量啊。?
回到魚(yú)的問(wèn)題上來(lái)先，我們逮了好多魚(yú)，很湊巧，這些魚(yú)只有兩種，假設(shè)為鱸魚(yú)和鮭魚(yú)，我們考慮任意在這些魚(yú)里面拿出一條，它是什么魚(yú)。 顯然樣本空間有限，某種魚(yú)也是有限的，如果我拿到每一條魚(yú)的條件相等，拿出一條魚(yú)，他是鱸魚(yú)的概率就是鱸魚(yú)的數(shù)量除以所有魚(yú)的數(shù)量。用隨機(jī)變量X=0，表示鱸魚(yú)，X=1表示鮭魚(yú)。我們?cè)僖胍粋€(gè)隨機(jī)變量Y表示魚(yú)的長(zhǎng)度。研究有限的魚(yú)，Y這個(gè)隨機(jī)變量我們只能用落在某個(gè)區(qū)間的魚(yú)的頻率來(lái)表示Y的分布列。如果我們把研究對(duì)象擴(kuò)大，自然界中我們認(rèn)為兩種魚(yú)的數(shù)量是穩(wěn)定的，如果我們捕到的魚(yú)作為自然界中魚(yú)的一個(gè)隨機(jī)樣本，我們完全可以認(rèn)為Y是連續(xù)分布的，而且與自然界中這兩種魚(yú)的長(zhǎng)度分布一致，事實(shí)上我們補(bǔ)到的魚(yú)很難作為自然界的一個(gè)隨機(jī)樣本。也就是說(shuō)這個(gè)樣本不一定能很好的反應(yīng)自然界的真是情況。但是很多情況下，我們認(rèn)為自然界中的某些隨機(jī)變量符合正太分布，盡管某個(gè)樣本不一定服從這個(gè)分布，我們還是估計(jì)他的期望和方差，并把它作為正太分布研究。
?我們不考慮擴(kuò)大的情況繼續(xù)思考這個(gè)問(wèn)題，在我們捕到魚(yú)中繼續(xù)考慮呀，假設(shè)我們捕到的魚(yú)足夠多，我們暫且用連續(xù)的密度函數(shù)來(lái)描述Y的分布情況。p(X,y)表示的是什么意思呢？先假設(shè)有限樣本點(diǎn)，那么每個(gè)樣本點(diǎn)對(duì)應(yīng)X和Y都有一個(gè)值，這兩個(gè)值為在二維歐式空間中是一個(gè)點(diǎn)，我們?cè)赮上用區(qū)間劃分，這樣出現(xiàn)在X=x，Y屬于某個(gè)區(qū)間的魚(yú)的個(gè)數(shù)除以所補(bǔ)到魚(yú)的總數(shù)就是這個(gè)區(qū)間的頻率，如果魚(yú)足夠多，那么我們就認(rèn)為p(X,y)是關(guān)于y的連續(xù)函數(shù)了。p(X,y)就是X,Y的聯(lián)合密度函數(shù)了。 再加個(gè)條件的問(wèn)題來(lái)思考下，p(y|X)，這個(gè)是X某個(gè)值時(shí)，Y的概率密度，條件概率也是概率呀，不要跟聯(lián)合概率密度弄混了。例如，p(y|X=0)表示所捕的魚(yú)中所有鱸魚(yú)構(gòu)成的集合中，Y的分布情況。實(shí)際上條件概率是縮小了研究的范圍。
思考了這么多，我們?cè)谔岢鲆粋€(gè)問(wèn)題。當(dāng)拿到了一個(gè)魚(yú)，我們不能計(jì)算它的種類，我們可以計(jì)算它的長(zhǎng)度，那么長(zhǎng)度一定，這條魚(yú)它屬于鱸魚(yú)或者鮭魚(yú)的概率有多大呢？ P(X|y)就可以來(lái)解決這個(gè)問(wèn)題了。我們可以使用貝葉斯公式來(lái)求解這個(gè)問(wèn)題，P(X|y) = p(X,y) /p(y) = p(y|X)P(X) / p(y), p(y) = P(X=0)p(y|X=0) + P(X=1)p(y|X=1) 。
我們想找一個(gè)比較好的t值，使得我們誤判的概率最小化，所以要考慮誤判的情況。 假設(shè)我們將Y
p(X=1, Y
我們想要這個(gè)錯(cuò)誤概率最小化，那么我們會(huì)得到一個(gè)優(yōu)化問(wèn)題，順便求出目標(biāo)函數(shù)的導(dǎo)數(shù)。
令導(dǎo)數(shù)等于0，便可以求出最佳的t的位置了。?
接下來(lái)，再繼續(xù)考慮幾個(gè)問(wèn)題，首先即使給出一個(gè)最優(yōu)的t，目標(biāo)函數(shù)的值仍然很大，比如0.5，這個(gè)值可以理解為，我們的分類錯(cuò)誤率是50%，確實(shí)有些大了。我們可以怎么改進(jìn)呢？ 我們可以引入更多的特征，從概率上就是說(shuō)我們?cè)倮^續(xù)尋找同一些樣本空間上的函數(shù)，使得總體上誤差函數(shù)的最優(yōu)值盡量的小。?
另外一個(gè)問(wèn)題就是，我們?nèi)绾未_定針對(duì)某一中魚(yú)的某個(gè)特征的分布情況，一般情況下，我們會(huì)用統(tǒng)計(jì)的方法進(jìn)行估計(jì)，這個(gè)需要分布已知，往往我們會(huì)假設(shè)他為某個(gè)分布，然后再根據(jù)有限樣本容量的樣本進(jìn)行參數(shù)估計(jì)，這樣會(huì)帶來(lái)兩部分誤差，1、他是否真的滿足我們給定的分布，這一步的錯(cuò)誤直接導(dǎo)致所有錯(cuò)誤。2、我們的樣本是否可以很好的描述總體分布情況，這部分表示的參數(shù)估計(jì)的誤差。 這兩個(gè)問(wèn)題帶來(lái)的是，如何明確某個(gè)隨機(jī)變量的分布，以及如何找到一個(gè)可以估計(jì)總體分布的樣本。
?
這篇文章我沒(méi)有嚴(yán)格的分章節(jié)敘述，只是在順序，基于我自己的思考邏輯慢慢展開(kāi)的，不管怎樣，我相信，并不會(huì)有很多人會(huì)認(rèn)真讀完這篇文章，所以我也就不用不好意思了。哈哈。
下載文檔
