Lec08 統計學

NYCU OCW
75粉絲
2023年12月3日
點估計介紹
授課教師:統計研究所 陳鄰安老師
課程資訊:http://ocw.nctu.edu.tw/course_detail.php?bgid=1&gid=1&nid=270
授權條款:Creative Commons BY-NC-SA
更多課程歡迎瀏覽交大開放式課程網站:http://ocw.nctu.edu.tw/ 本課程同時收錄至國立交通大學機構典藏,詳情請見:
http://ir.nctu.edu.tw/handle/11536/108205
好 我們上一次
我們在講這個東西
我們假設 x 是 uniform 0,1
對不對 它是 uniform 0,1
然後我們定義 y 是等於
符號 log x
這是一個一對一的函數
y 的 pdf 是長這個樣子
我們導出來是這個樣子
你要能夠判斷
它是什麼分配
有時候它是什麼分配是知道的
如果是知道的 你就要知道是什麼
有時候是不知道 不知道就沒有關係
你就寫那樣子
但是有時候你要判斷它是什麼分配
那我們現在寫出來是這個樣子
如果是這種樣子
1的負什麼東西多少
這種東西一定跟
伽摩分配有關係
或是卡方
這當然是 chi-square
為什麼 因為伽摩是這樣子
比如說 x 是伽摩
伽摩 alpha beta
它的 pdf 是什麼
是伽摩 alpha
beta alpha x alpha
減於1的負
beta分之x
x大一點
density function
長得這個樣子的
一定是伽摩
你如果發現說這一項不見了
那就是因為什麼
因為 alpha 等於1
alpha 如果等於1 這一項就變成1
就沒有了 就變成1
那這個 beta 如果是 all 的話
你就要知道它是卡方
這 beta 如果是 all 它就是卡方
所以你看這個式子
1的負 all 之 y
這個 all 就表示
這個 all 其實是 beta
所以表示說
這個分配一定是卡方
那卡方的分配是什麼
卡方是 gamma
all 分之 r
所以這個 all 就是 r
自由度
因為 gamma all 分之 all 是多少
all 分之 all 就是 1
這裡面沒有這個東西
那你把它當成是 1 乘以 all
1 等於多少
all 分之 all 是 gamma 1
gamma 1 是 1
那這裡是 all
我這裡寫錯
這裡是 all 分之 all
因為這裡是 all
all 就是 all 的
all 分之 all 之方
all 就是 all 的 all 分之 all 之方
all 分之 all 就是 1
就是 1
然後這個 這邊沒有
沒有就是因為它是 y 的
all 分之 r 減 1
所以變成 1 減 1 等於 0
1 減 1 是 y 的 0 之方
是正 1
因為卡方是這樣子
你要知道 x 如果是卡方
high square r
它 pdf 是這樣子
gamma all 分之 r
all 的 all 分之 r 之方
分之 1
x 的 all 分之 r 減 1
1 的負 all 分之 x
x 大於 0
所以
卡方你要知道它的 density 是
gamma all 分之 r
all 的 all 分之 r 次方
整個的分之 1
x 的 all 分之 r 次方
all 分之 r 減 1 次方
乘以 1 的負 all 分之 x
所以你就要
你要記得這個 density function
不然你不會判斷
所以你看到這個式子這麼簡單
all 分之 1 乘以 1 的負 all 分之 y
你就要去對照
這個其實就是卡方
所以寫下來
這個式子表示什麼
這是卡方的 pdf
y 的分配是什麼 是卡方 all
y 的分配是卡方 all
有時候你必須要知道它是什麼分配
它是什麼分配
我們現在講的是什麼
我們現在講的是
一個隨機變數轉換成
另外一個隨機變數
一對一轉換
這個東西不常發生
最常發生的是這樣子
我們現在
常發生的是這樣子
我們有
比如說有一個 S1
S2 這都是 random variables
你有兩個隨機變數
就會有什麼東西
它一定會有什麼
它一定會有 join pdf
S1 S2 的 join pdf
因為你有 S1 S2
一定會有 join pdf
一定會有 marginal pdf
就是 f x1 of x1
f x2 of x2
假定你有兩個隨機變數
既然兩個是隨機變數
隨機變數一定有分配的
一定有分配
那個分配可能是離散的
也可能是連續的
所以個別都會有分配
個別的分配我們叫 marginal
Marginal pdf
f x1 of x1
這是 S1 pdf
f x2 of x2 就是 S2 pdf
那它們兩個合在一起
也會有一個 pdf
這個叫 join pdf
join pdf
那我們通常會定這樣子
比如說我定 y 常常這樣子
y 就是 S1 x S2
比如說這樣子
我兩個把它乘起來
我想要知道 pdf
of y 是什麼
我們想知道它的 pdf 是長什麼樣子
當然你為什麼 S x y
S1 x S2
也許是 S1 x S2
也許可能 S1 x S2
所以你可能兩個函數相乘
可能相加相除
都可能
但是你要知道它的 pdf 長什麼樣子
當然也有可能你給兩個函數
你給兩個函數
所以
S1 x2 都是隨機變數
表示它們兩個都是實數函數
什麼叫隨機變數
從樣本空間到實數空間的函數
就叫做隨機變數
所以這兩個是隨機變數
所以它們兩個都是實數函數
實數函數跟實數函數相乘
當然還是實數函數
所以這個還是一個
所以 y 既然是隨機變數
一定有 pdf
我們要你把它找出來
也許是 S1 x S2
也許是別的
很多隨機變數
所以我們現在考慮的是這樣子
我們有 n 個隨機變數
我們有 n 個 random variable
n 個隨機變數
這 n 個隨機變數
每一個都是隨機變數
所以每一個都是實數函數
那你要把它轉換成
m 的隨機變數
當然在這裡我們 m 是小於 n
我們在這裡 m 是比較小
比較小
就好像這個兩個隨機變數
兩個轉換成一個
我們想要這樣子
我們可能是 n 個隨機變數
我們轉換成 m 個隨機變數
那我們這個轉換
就像前面這個我們用的是什麼
是連續型我們纔有辦法做
連續型我們纔有辦法做
所以我們現在考慮的是 continuous
continuous 的 random variable
連續型的 n 個隨機變數
怎麼轉換成 m 個隨機變數
那我們要的當然是
我轉換成 m 我就是要它們的分配
這 m 個隨機變數的分配
是長什麼樣子
我們想要知道這樣子
比如說我們有 x1 到 xn
這是 n 個隨機變數
那你就要想知道
這 n 個隨機變數
它個別都有 pdf
它們合起來一定有 join pdf
那我們現在定義一個東西
我們這裡轉換
這個轉換其實你就是 g1 到 gm
我們有一個 g1 到 gm
這樣的 m 尾的把它轉換
轉換過來
y1 就是 g1 到 x1 到 xn
y2 是 g2 到 x1 到 xn
到 ym 是 gm 到 x1 到 xn
我們做這樣轉換
所以就是這個 g1 到 gm
是從 rn 印到 rm 的函數
所以你從
n 尾的空間
印到 m 尾的空間
那我們轉換之後
我們想要的是
這個 m 個隨機變數
就是 y1 到 ym
我們想要他們的 join pdf
長什麼樣子
他們 join pdf 長什麼樣子
這個怎麼去解決這個問題
怎麼去解決這個問題
因為我們假設 m 小於 n
我們假設 m 小於 n
那處理這個事情的時候要怎麼辦
我們沒有辦法
直接從 n 個轉換成 m 個
去找它的分配
我們必須幫它擴充
就是說原來我們要的是 m 個
但是我們本來
全部有 n 個
所以你要把這 m 個擴充到 n 個
擴充到 n 個
所以我們必須要去定義
這個等於說
比如說你要做題目的時候
給你這個
原來有 x1 x2
這是兩個隨機變數
所以 y 等於什麼
y 是從 r2 印到 r
因為 r2
x1 x2 是 r2 印到 r
所以你要 y 這個隨機變數
我們想知道它的分配
你想知道它的分配你沒有辦法直接找
所以你必須去幫它
定義另外一個
所以你必須定義一個
你要把這個叫做 y1 你定義一個 y2
那 y2 也許
x1 x2 也許你要定成
x1 加 x2 也可以
隨便你定
但是隨便你定
你要定得怎麼樣
要定得讓 y1 y2
所以你就會有 y1 y2
它是什麼
從 r2 印到 r2
但是你一定要怎麼樣
我加到一個 y2
要讓這個 y1 y2 從這邊
這個對應必須要是一對一的
一對一我們纔能夠轉換
纔能夠轉換
所以原來
x1 到 xn 有 n 個隨機變數
那我們現在想要的是 m 個
那你要幫它加
加 m 加 1 開始
對不對 我們要幫它定義
ym 加 1
原來是 g1 到 gm
所以這個函數就把它叫 gm 加 1
我們 x1 到 xn 到 yn
就是 gn 我們 x1 到 xn
所以你必須幫它加剩下的
n 減 m
n 減 m 個隨機變數
這個是我們必須去幫它定的
定出來之後你要讓什麼
你定出來之後
你原來有 g1 到 gm
但現在我們又有 gm 加 1 到 gn
所以我們就會有
g1 到 gn
所以我們幫它加了
n 減 m 個函數
加了這個函數所以整個就有
m 個函數 我們希望
這 n 個函數
它從 rn 印到 rn
是一對一的 mapping
一對一的轉換
是一對一的轉換
如果這樣子的話
我們就有辦法做了
有辦法做就根據下面的定理
下面的理論
我們這個就怎麼去找
y1 到 yn 的理論
我們這個是比較粗糙的一個說明
這個說明是這樣子
你看
就是說你原來有
x1 到 xn
這個是什麼
這是 random variables
你可以說是 n 個隨機變數
也可以說是一個 n 尾的向量
n 尾的隨機向量
這 n 尾的隨機向量
它們一定會有分配的
它一定會有分配
分配長什麼樣子
如果是連續型的
就是說它落在任何一個範圍的機率
這個 a 當然是
包含你 rn
在 n 尾的空間裡面的
因為這是 n 個隨機變數
在 n 尾空間的任何一個集合
任何一個子集合
它落在裡面的機率
如果剛好是某一個函數
剛好是某一個函數
大於或等於零的函數的積分
積分剛好是對這個
a 這個範圍積分
剛好對 a 這個範圍積分
這個是對所有的 a
對所有的 a 在 n 尾空間裡面的一部分
它的落在這裡面的機率
都剛好等於這個函數的積分
我們就說
這個函數就是他們的 pdf
連續型的隨機變數
或是好多隨機變數
怎麼去定義它的 pdf
或是怎麼去定義它的 join pdf
是這樣定義的
我們以前其實用分配函數定義
但是你可以這個理論上可以擴充到
任何一個集合
就是說
你 x1 到 xn
x1 到 xn
如果是連續型的隨機變數
假定它有 join pdf
那它落在任何一個範圍的機率
落在任何一個範圍的機率
Rn 裡面的部分集合的機率
一定會剛好等於
它的 join pdf 的積分
對這個範圍的積分
所以這個解釋是這樣子
如果你不曉得 join pdf
它的落在某一個範圍的積分
剛好是這個函數的積分
這個函數就是它的 join pdf
反過來
你如果知道它是 join pdf
反過來 你如果知道這是 join pdf
你想算它
如果它落在某一個範圍的機率
那就對這個 join pdf 積分就好
如果你知道它是 join pdf
你想知道 x1 到 xn
落在某一個範圍的機率
那就是對那個 join pdf 的積分
如果你不知道 join pdf
它落在某一個範圍的機率
剛好是那個函數的積分
那個函數就是它的 join pdf
就是它的 join pdf
連續型是這樣的意思
這個是機率的理論
機率的觀念
我們是這樣定義什麼叫連續型隨機變數
是這樣定義的
那我們現在
有 y1 到 ym
我們幫它增加了
ym 加 1 到 yn
所以就變成是 n 個隨機變數
印到 n 個隨機變數
因為我們希望這 n 個隨機變數的轉換
n 個到 n 個的轉換
它是一對一
既然是一對一 就會有反函數
就會有反函數
給它
這個
y1 是 g1 of x1-n
y2 是 g2 of x1-n
你現在給一個 x1-n
那 y1 就是 g1 of x1-n
y2 就是 g2 of x1-n
到 yn 是 gn of x1-n
這是一個一對一的 mapping
既然是一對一的話
就一定會有反函數
原來是由 x1-n 去決定 y
決定 y1 到 yn
這樣反過來
我給你 y1 到 yn
我們就可以找反函數
我可以找到 x1 是 w1 of y1-yn
x2 是 w2 of y1-yn
xn 是 wn of y1-yn
因為你原來是
x1-xn 印成 y1-yn
反過來就是
給定 y1-yn
我們去找 x1-xn
這個就是反函數
因為它是一對一的 mapping
所以這個反函數一定存在的
一定存在的
反函數存在的話
我們就可以定義 Jacobian
Jacobian 就是
x1 是 w1 of y1-yn
x1 是 y1-yn 的函數
x1 對 y1 的微分
x1 對 y2 的微分
x1 對 yn 的微分
這是第一類
第二類就是 x2 對 y1 的微分
x2 對 y2 到 x2 對 yn 的微分
最後一類就是 xn 對 y1
xn 對 y2 到 xn 對 yn 的微分
這個你們在微集物裡面
在現代數裡面常常算這個矩陣
這個是一個矩陣
n 乘 n 的矩陣
就是 n 乘 n 的 matrix
n 乘 n 的矩陣
然後我們取 determinant
我們取行類式
這是 n 乘 n 的矩陣
然後我們取行類式
取了行類式的東西就叫做 Jacobian
就叫做 Jacobian
這個 Jacobian
有時候是正的 有時候是負的
那我們在算
我們在算這個機率
本來你現在看
S1 到 Sn 原來落在 a 裡面的機率
應該是什麼
因為 S1 到 Sn 有 join pdf
所以他落在 a 的機率
應該是 join pdf 的積分
你看是 S1 到 S1
S1 到 Sn
所以這個是 join pdf
因為他們是連續型的
所以他落在這裡面的機率應該是
join pdf 的積分
他落在 a 就是對 a 的積分
那這個機率
現在這個積分
從數學上
這個積分可以寫成下面的積分
下面你就是把
S1 到 Sn 轉換成法蘭數
你看 S1 現在就轉換成
W1 到 Yn
X2 變成
W2 of Y1 到 Yn
這 Xn 變成 Wn of Y1 到 Yn
那這個函數還是什麼
還是 S1 到 Sn 的函數
你看 F S1 到 Sn
所以這個函數還是
S1 到 Sn 的 join pdf
所以這整個函數
基本上還是
S1 到 Sn 的 join pdf
只是說裡面的 S1 換成法蘭數
X2 換成法蘭數
到 Sn 換成法蘭數
後面必須乘以
乘以這個 Jacobin
要去絕對值
因為他可能有正也有負
原來對 S1 到 Sn
你現在這裡積分
是對 S1 到 Sn 積分
你轉換成 Yn 到 Yn 之後
你要對 Yn 到 Yn 積分
這裡是對 Yn 到 Yn 積分
積分就不是積 S1 到 Sn 的範圍
積 Yn 到 Yn 的範圍
Yn Yn 的範圍是什麼
就是把 A 轉換成
Y1 到
Y1 到 Yn
他把 A 印過去之後
是什麼 就是他的執意
他的 mapping
所以這個範圍就是
Y1 到 Yn 把 A 印過去
就是 G1 到 Gn 把 A 印過去的集合
印過去的集合
這個集合會落在哪裡
落在 S1 到 Sn 的範圍
S1 到 Sn 落在 Y1 到 Yn 的範圍裡面
所以這個 A
也要跟著
已經對 Y1 到 Yn 積分了
所以就把 A 印到
Y1 到 Yn 的那個 space 裡面
所以我們就把他寫成
G1 到 Gn of A
就是把 A 裡面的點通通印過去
這個基本上是這樣子
G1 到 Gn
of A
就是什麼
就是 Y1 到 Yn
但他是什麼
他是 G1 到 Gn
of S1 到 Sn
對哪些點
S1 到 Sn 落在哪裡
S1 到 Sn 落在 A 裡面
在 A 裡面的所有的
S1 到 Sn 都把他取一個函數值
函數值就變成 Y1 到 Yn
很多的這個 Y1 到 Yn 的集合
就是他印過去的那個集合
原來是 A 嘛
A 裡面的每一個點
你都取這個函數
你就得到一個 Y1 到 Yn
這個 Y1 到 Yn 的集合
這個就是把 A 印到
Y1 到 Yn 裡面的那個集合
就是這個集合
所以對這個 G1 到 Gn
把 A 印過去這個集合的積分
等於這個東西
那你現在看
現在這個東西代表什麼
裡面是一個正的函數
因為這個 S1 到 Sn 是什麼
是 S1 到 Sn 的 join pdf
join pdf 一定是正的
這是 join pdf
這個 Jacobin 本來可能正也可能負的
一起絕對值以後是正的
所以這相乘之後
他是大以後等於零的
所以這是一個大以後等於零的
函數我們積分
積哪一塊 積這一塊
但是因為你對什麼積分呢
你對 Y1 到 Yn 積分
因為你對 Y1 到 Yn 積分就代表什麼
這個代表的就是 Y1 到 Yn
落在哪一個範圍
落在這一塊
這個就是印過去的那個集合
Y1 到 Yn 落在這一塊的積粒
剛好等於這個函數的積分
然後這個函數是正的
是大以後等於零
所以就表示什麼
Y1 到 Yn 落在這個集合的積粒
剛好這個積分
所以這個函數
這個 S1 到 Sn 的 join pdf
再乘以 Jacobin 的絕對值
必然就是 Y1 到 Yn 的 join pdf
必然就是
因為原來在這裡
S1 到 Sn 落在一個集合的積粒
等於這個函數的積分
所以這個函數是他們的 join pdf
對不對 S1 到 Sn
S1 到 Sn 它是連續型的隨機變數
落在這個集合的積粒
一定是他們的 join pdf
對這個集合積分
現在
Y1 到 Yn 積分
對這個範圍積分
然後這個函數積分
這個積分剛好就是 Y1 到 Yn
落在這個集合的積粒
所以 Y1 到 Yn 落在這個集合的積粒
等於這個函數的積分
這個函數就是他的 join pdf
因為本來 join pdf 連續型的 join pdf
就代表
他落在任何一個範圍的積粒
就是等於對那個範圍積分
所以
我們就得到裡面那個函數
相乘之後
就是他們的 join pdf
這個是你們在高危裡面
在多重積分應該是這樣做的
對不對
所以就是因為有這樣的理論
所以裡面這個函數
就是他的 join pdf
我先解釋了
你們等一下還沒抄的再抄完
我們剛剛
我們算
X1 到 Xn 在 A 的積粒
剛好是什麼
剛好是 Y1 到 Yn 的
這個函數的積分
G A 轉換過去以後的集合
也就是說
Y1 到 Yn
Yn 到 Yn 落在
任何一個集合的積粒
那個集合的積粒剛好是
這個函數的積分
Y1 到 Yn 落在任何一個
集合的積粒
剛好就是這個函數的積分
所以這個函數就是什麼
就是 Y1 到 Yn 的 join pdf
join pdf
那所以這個是 F Y1 到 Yn
在他的 join pdf
就長這樣子
雖然說他屬於 Rn
但是某些點他會等於零的
真正他不等於零的點是什麼
不等於零的點是
G1 到 Gn
把 A 印過去的
A 當然就是 space
X1 到 Xn
X1 到 Xn 的 space
是 A 的話
他把它印過來
他只在這裡面會大一點
其他點會等於零
好
所以這個裡面這個函數
就是 Yn 到 Yn 的 join pdf
但是我們原來要的是什麼
我們原來要的是 Y1 到 Ym
我們並不是要全部
我們只要 M 個
那很簡單嘛
這是 join pdf
所以現在這整個東西已經是 Y1 到 Ym 的 join pdf
所以你把 join pdf
把 Ym 加一到 Yn
把他積分積掉
都是從負無窮到正無窮把他積掉
積掉以後他就不見了
剩下的就是 Y1 到 Ym 的 join pdf
所以你看這裡面只剩下 Yn 到 Ym
因為 Ym 加一到 Yn
已經積分積掉了
積掉就沒有了
我們要寫這個兩個隨機變數
因為這個比較常發生
我們剛剛寫的是比較一般的
M 個隨機變數轉換成
N 個轉換成 M 個
我們現在通常是發生的是兩個
比較常的是兩個
假定你有 X1 X2
是兩個隨機變數
假定是連續型的
所以他會有 join pdf
join pdf 他會有一個
他會有一個 space
這個 space 是指說
在這個範圍裡面他才大一連
這個範圍以外他是等於連的
所以你要把這個 space 找出來
他在哪一個範圍裡面
他是大一連
他大一連會在這個 space 裡面
那我們因為
我們假定這個函數
假定做一個轉換
Y1 是 X1 代謝的函數
所以叫 G1
Y2 是 X1 X2 的函數叫 G2
假定這兩個函數
所以是兩個隨機變數轉換成
兩個隨機變數 假定是一對一轉換
一對一轉換的話就會有反函數
所以 X1 就是 W1 Y2
X2 就是 W2 Y2
這是反函數
有了反函數之後我們就可以算夾口餅
夾口餅就是
X1 對 Y1 為分
X1 對 Y2 為分
X2 對 Y1
X2 對 Y2 為分
這是一個二乘二的矩陣
再取行列式
有了這個東西之後
因為他們是一對一轉換
你就會有 Y1 到 Y2 的 join pdf
Y1 到 Y2 的 join pdf 就是
X1 到 X2 的 join pdf
本來這裡是 X1
那你把他換成反函數
本來這裡是 X2 把他換成反函數
再乘以夾口餅是絕對值
Y1 Y2 屬於什麼
A 印過去的
所以 G1 G2 of A
就把 A 印過去的那個集合
那我現在告訴你說
這個是因為我們下面我們會舉一個例子
就是你在做這種問題的時候
你要先處理什麼東西
你要先把 join pdf 找出來
為什麼要先把 join pdf 找出來
有時候告訴你 S1 S2 個別的 pdf
沒有告訴你 join pdf
你怎麼去找他的 join pdf
所以你要先把 join pdf 找出來
你要把 X1 到 X2
他們落在哪一個範圍
join pdf 是大愛臉
那個叫做他的 space
他在哪一個範圍 他是大愛臉
那個叫他的 space 因為他大愛臉的部分
那你經過
你現在我們定義一個 Y1 Y2
你要確定他是不是一對一的轉換
是不是一對一的 mapping
如果是的話
你就把反函數找出來
要把反函數找出來
找出來以後你就可以找夾口餅
你還要找 Y1 Y2 把他印過去
在哪一個集合
為什麼要把他找
原來 S1 S2 落在 A 裡面
你要看 Y1 Y2 印過去以後在哪一個集合
為什麼要
因為你要確定他在哪一個範圍裡面
他 density 是大愛臉的
如果不在這個範圍以外的
他 density 應該是零
因為尤其是你要算
比如說你要算 Y1 的 marginal pdf
你要對 Y2 積分
你不能每一次都從負負窮到正負窮積分
因為他那個函數可能在某一部分裡面
他是大愛臉
你不能把他等於零的部分也把他積分
那你會弄錯範圍
那積出來以後的 Y1
比如你要找的 Y1 你積出來的 pdf
他的範圍的積分可能就不是1了
不是1了就表示說你積錯了
因為他已經不再是 pdf
所以這個範圍
我在這邊強調的就是說
S1 S2 在哪一個範圍裡面
他 density 是大愛臉
這個要確定
確定之後你要找 Y1 Y2 在哪一個範圍
他是大愛臉
那個就是他的質慾
因為 A 是 S1 S2 大愛臉的部分
Y1 Y2 會大愛臉就是他的質慾
他把 A 印過去以後
印到哪一個集合
這是他的質慾
我們下一次舉那個例子你就會知道
我們下課
by bwd6
