Bài giảng Xác suất thống kê - Chương 6: Ước lượng tham số - Trường Đại học Kinh tế quốc dân

Chương 7. ƯỚC LƯỢNG THAM SỐ
▪ Tham số tổng thể (cũng là tham số của biến ngẫu
nhiên) là chưa biết
▪ Có thông tin của mẫu, ước lượng các tham số tổng
thể bằng các phương pháp
▪ Ba tham số cơ bản:
• Trung bình tổng thể
• Tỷ lệ tổng thể
• Phương sai tổng thể
LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 168
Chương 7. 
NỘI DUNG CỦA CHƯƠNG 7
▪ 7.1. Khái niệm
▪ 7.2. Phương pháp ước lượng điểm
▪ 7.3. Phương pháp ước lượng khoảng
▪ 7.4. Ước lượng tham số 
▪ 7.5. Ước lượng tham số σ2
▪ 7.6. Ước lượng tham số p
LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 169
Chương 7. Ước lượng tham số
7.1. KHÁI NIỆM
▪ Trong tổng thể biến ngẫu nhiên X được đặc trưng
bởi tham số 
▪ Không biết đủ thông tin tổng thể,  chưa biết, cần
ước lượng tham số (parameter estimate)
▪ Sử dụng thông tin từ mẫu
▪ Mẫu ngẫu nhiên: xây dựng ước lượng ngẫu nhiên
(estimator)
▪ Mẫu cụ thể: được ước lượng cụ thể (estimate), hay 
giá trị quan sát (observed value)
LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 170
Chương 7. Ước lượng tham số 7.1
7.2. PHƯƠNG PHÁP ƯỚC LƯỢNG ĐIỂM
▪ Dùng một giá trị መ𝜃 ước lượng cho tham số 
▪ Sử dụng mẫu W = (X1, X2, , Xn)
▪ Lập thống kê tương ứng với , là một hàm trên mẫu
መ𝜃 = G(X1, X2, , Xn)
▪ Gọi là hàm ước lượng của 
▪ Có nhiều hàm ước lượng có thể sử dụng, cần có tiêu
chí lựa chọn “tốt nhất”
LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 171
Chương 7. Ước lượng tham số 7.2
Tiêu chí lựa chọn hàm ước lượng
▪ Tính không chệch (unbiased)
• መ𝜃 là ước lượng không chệch của  E( መ𝜃) = 
• Nếu E( መ𝜃)   : ước lượng chệch
▪ Tính hiệu quả (efficient)
• መ𝜃1, መ𝜃2 là ước lượng không chệch
• 𝑉( መ𝜃1) < 𝑉( መ𝜃2) thì መ𝜃1 là ước lượng hiệu quả hơn መ𝜃2
• 𝑉( መ𝜃1) là nhỏ nhất thì መ𝜃1 là ước lượng hiệu quả nhất
▪ Ước lượng không chệch hiệu quả nhất: tốt nhất
LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 172
Chương 7. Ước lượng tham số 7.2. Phương pháp ước lượng điểm
Bất đẳng thức Cramer-Rao
▪ Nếu BNN X có công thức tính xác suất hoặc hàm mật
độ là f(x,  ) thì với mọi መ𝜃 là ước lượng không chệch
của , luôn có:
▪ Do đó nếu መ𝜃∗ là ước lượng không chệch và có
phương sai bằng vế phải thì nó là ước lượng hiệu
quả nhất
LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 173
ˆ( )
ln ( , )
2
1
V
f x
nE
 
 
θ
θ
θ
Chương 7. Ước lượng tham số 7.2. Phương pháp ước lượng điểm
Tiêu chí lựa chọn hàm ước lượng
▪ Tính vững (consistent): khi kích thước mẫu tiến đến
vô cùng thì ước lượng hội tụ đến tham số (theo
nghĩa xác suất)
▪ Tính đủ (sufficient): ước lượng sử dụng toàn bộ các
thông tin trong mẫu
LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 174
Chương 7. Ước lượng tham số 7.2. Phương pháp ước lượng điểm
Ước lượng điểm
▪ Khi X ~ N( , σ2) thì
• ത𝑋 là ước lượng không chệch, hiệu quả của 
• S*2 là ước lượng không chệch, hiệu quả của σ2
• S2 là ước lượng không chệch của σ2
• MS là ước lượng chệch của σ2
▪ Khi X ~ A(p) thì f là ước lượng không chệch, hiệu
quả của p.
LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 175
Chương 7. Ước lượng tham số 7.2. Phương pháp ước lượng điểm
Ví dụ 7.1
▪ Trung bình tổng thể là m, phương sai là 2
▪ Với mẫu kích thước n = 3, trong các thống kê sau, 
đâu là ước lượng không chệch, hiệu quả cho m:
LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 176
;
;
G X X X G X X X
G X X X G X X X
1 1 2 3 2 1 2 3
3 1 2 3 4 1 2 3
1 1 1 1 1 1
2 2 2 2 3 6
1 1 1 1 1 1
2 4 4 3 3 3
Chương 7. Ước lượng tham số 7.2. Phương pháp ước lượng điểm
Ước lượng hợp lý tối đa
▪ Mẫu W = (X1, X2, , Xn), tại giá trị cụ thể (x1, x2, , xn)
▪ Hàm hợp lý: 
L(x1, x2, , xn, ) = f(x1,  ). f(x2,  ) f(xn,  )
▪ L gọi là hàm hợp lý (likelihood function) của 
▪ Giá trị መ𝜃 làm L đạt max gọi là ước lượng hợp lý tối
đa của  (maximum likelihood estimator: MLE)
▪ Nếu hàm L không dễ tìm cực đại thì tính thông qua 
hàm logarit của L (maximum log-likelihood)
LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 177
Chương 7. Ước lượng tham số 7.2. Phương pháp ước lượng điểm
Ví dụ 7.2
▪ (a) Xác suất sinh viên đi làm ngoài giờ p = 0,4. Trong
các mẫu sau, mẫu nào hợp lý nhất, giá trị 1 ứng với
có đi làm và 0 nếu ngược lại:
w1 = (1, 0, 0, 1, 1) w2 = (1, 0, 1, 1, 1)
w3 = (0, 1, 0, 0, 1) w4 = (1, 0, 1, 0, 0)
▪ (b) Có mẫu (0, 1, 1, 0, 1) rút từ biến A(p). Trong các
giá trị ước lượng cho p sau, giá trị nào hợp lý nhất?
Ƹ𝑝1 = 0,4 Ƹ𝑝2 = 0,5
Ƹ𝑝3 = 0,6 Ƹ𝑝4 = 0,7
LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 178
Chương 7. Ước lượng tham số 7.2. Phương pháp ước lượng điểm
Ước lượng hợp lý tối đa
▪ Khi X ~ N(, σ2) thì
• ത𝑋 là ước lượng hợp lý tối đa của 
• Biết  thì S*2 là ước lượng hợp lý tối đa của σ2
• Không biết  và thay bởi ത𝑋 thì MS là ước lượng
hợp lý tối đa của σ2
▪ Khi X ~ A(p) thì f là ước lượng hợp lý tối đa của p.
LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 179
Chương 7. Ước lượng tham số 7.2. Phương pháp ước lượng điểm
7.3. PHƯƠNG PHÁP ƯỚC LƯỢNG KHOẢNG
▪ Còn gọi là ước lượng bằng khoảng tin cậy
▪ Với mẫu ngẫu nhiên, tìm khoảng ngẫu nhiên để khả
năng khoảng đó chứa  bằng một mức cho trước
P(G1 <  < G2) = 1 – 
▪ Mức xác suất (1 – ) là độ tin cậy (confidence level)
▪ (G1, G2) là khoảng tin cậy (confidence interval)
▪ I = G2 – G1 là độ dài khoảng tin cậy
LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 180
Chương 7. Ước lượng tham số 7.3. 
Xây dựng khoảng tin cậy
▪ Xét thống kê G liên kết giữa tham số và thống kê
trong mẫu, G có quy luật phân phối xác suất xác
định
▪ Với độ tin cậy (1 − 𝛼), 
▪ Hai giá trị 𝛼1 và 𝛼2 sao cho: 𝛼1 + 𝛼2 = �