Mô hình thống kê là một phép chiếu toán học thể hiện một tập hợp các giả định khác nhau về việc tạo ra một số dữ liệu mẫu. Thuật ngữ này thường được trình bày dưới dạng lý tưởng hóa nhiều.
Các giả định được thể hiện trong mô hình thống kê cho thấy một tập hợp các phân phối xác suất. Nhiều trong số đó nhằm ước tính chính xác sự phân phối mà từ đó một tập hợp thông tin cụ thể đang được rút ra. Các phân phối xác suất vốn có trong các mô hình thống kê là yếu tố phân biệt phép chiếu với các sửa đổi toán học khác.
Chiếu chung
Mô hình toán học là mô tả hệ thống bằng cách sử dụng các khái niệm và ngôn ngữ nhất định. Chúng áp dụng cho các ngành khoa học tự nhiên (như vật lý, sinh học, khoa học trái đất, hóa học) và các ngành kỹ thuật (như khoa học máy tính, kỹ thuật điện), cũng như khoa học xã hội (như kinh tế học, tâm lý học, xã hội học, khoa học chính trị).
Mô hình có thể giúp giải thích hệ thống vànghiên cứu ảnh hưởng của các thành phần khác nhau và đưa ra dự đoán về hành vi.
Mô hình toán học có thể có nhiều dạng, bao gồm hệ thống động lực học, phép chiếu thống kê, phương trình vi phân hoặc các tham số lý thuyết trò chơi. Các kiểu này và các kiểu khác có thể chồng chéo lên nhau và mô hình này bao gồm nhiều cấu trúc trừu tượng. Nói chung, các phép chiếu toán học cũng có thể bao gồm các thành phần logic. Trong nhiều trường hợp, chất lượng của một lĩnh vực khoa học phụ thuộc vào mức độ phù hợp của các mô hình toán học được phát triển về mặt lý thuyết với kết quả của các thí nghiệm lặp đi lặp lại. Thiếu sự thống nhất giữa các quá trình lý thuyết và các phép đo thực nghiệm thường dẫn đến những tiến bộ quan trọng khi các lý thuyết tốt hơn được phát triển.
Trong khoa học vật lý, mô hình toán học truyền thống chứa một số lượng lớn các yếu tố sau:
- Phương trình điều khiển.
- Mẫu phụ bổ sung.
- Xác định phương trình.
- Phương trình cấu thành.
- Giả định và hạn chế.
- Điều kiện ban đầu và ranh giới.
- Ràng buộc cổ điển và phương trình động học.
Công thức
Một mô hình thống kê, theo quy luật, được thiết lập bằng các phương trình toán học kết hợp một hoặc nhiều biến ngẫu nhiên và có thể là các biến xuất hiện tự nhiên khác. Tương tự, phép chiếu được coi là "khái niệm chính thức của một khái niệm."
Tất cả các thử nghiệm giả thuyết thống kê và đánh giá thống kê đều kiếm được từ các mô hình toán học.
Giới thiệu
Một cách không chính thức, một mô hình thống kê có thể được xem như một giả định (hoặc một tập hợp các giả định) với một thuộc tính cụ thể: nó cho phép người ta tính toán xác suất của bất kỳ sự kiện nào. Ví dụ, hãy xem xét một cặp xúc xắc sáu mặt thông thường. Hai giả định thống kê khác nhau về xương cần được khám phá.
Giả định đầu tiên là:
Với mỗi con xúc xắc, xác suất nhận được một trong các số (1, 2, 3, 4, 5 và 6) là: 1 / 6.
Từ giả thiết này, chúng ta có thể tính xác suất xuất hiện của cả hai viên xúc xắc: 1: 1/6 × 1/6=1 / 36.
Nói chung, bạn có thể tính toán xác suất của bất kỳ sự kiện nào. Tuy nhiên, cần hiểu rằng không thể tính xác suất của bất kỳ sự kiện không tầm thường nào khác.
Chỉ có ý kiến đầu tiên thu thập một mô hình toán học thống kê: do thực tế là chỉ với một giả thiết, có thể xác định xác suất của mỗi hành động.
Trong mẫu trên với sự cho phép ban đầu, có thể dễ dàng xác định khả năng xảy ra sự kiện. Với một số ví dụ khác, việc tính toán có thể khó hoặc thậm chí không thực tế (ví dụ, có thể phải tính toán nhiều năm). Đối với một người thiết kế mô hình phân tích thống kê, sự phức tạp như vậy được coi là không thể chấp nhận được: việc thực hiện các phép tính không được thực tế và về mặt lý thuyết là không thể thực hiện được.
Định nghĩa trang trọng
Trong thuật ngữ toán học, mô hình thống kê của một hệ thống thường được coi là một cặp (S, P), trong đó S làtập hợp các quan sát có thể có, tức là không gian mẫu và P là tập hợp các phân phối xác suất trên S.
Trực giác của định nghĩa này như sau. Giả định rằng có một phân phối xác suất "đúng" do quá trình tạo ra dữ liệu nhất định gây ra.
Đặt
Chính anh ấy là người xác định các thông số của mô hình. Thông số hóa thường yêu cầu các giá trị khác nhau để dẫn đến các phân phối khác nhau, tức là
phải giữ (nói cách khác, nó phải bị thương). Thông số đáp ứng yêu cầu được cho là có thể nhận dạng được.
Ví dụ
Giả sử rằng có một số học sinh ở các độ tuổi khác nhau. Chiều cao của trẻ sẽ liên quan ngẫu nhiên đến năm sinh: ví dụ, khi một học sinh 7 tuổi, điều này ảnh hưởng đến xác suất tăng trưởng, chỉ vì vậy người đó sẽ cao hơn 3 cm.
Bạn có thể chính thức hóa cách tiếp cận này thành một mô hình hồi quy tuyến tính, chẳng hạn như sau: height i=b 0 + b 1agei + εi, trong đó b 0 là giao điểm, b 1 là tham số theo đó tuổi nhân khi thu được quan trắc độ cao. Đây là một thuật ngữ lỗi. Có nghĩa là, nó giả định rằng chiều cao được dự đoán theo độ tuổi với một sai số nhất định.
Mẫu hợp lệ phải khớp với tất cả các điểm thông tin. Do đó, hướng tuyến tính (mức i=b 0 + b 1agei) không có khả năng trở thành phương trình cho mô hình dữ liệu - nếu nó không trả lời rõ ràng tuyệt đối tất cả các điểm. I Ekhông có ngoại lệ, tất cả thông tin nằm trên dòng hoàn hảo. Biên sai số εi phải được nhập vào phương trình để biểu mẫu khớp hoàn toàn với tất cả các mục thông tin.
Để thực hiện một suy luận thống kê, trước tiên chúng ta cần giả sử một số phân phối xác suất cho ε i. Ví dụ, người ta có thể giả định rằng các phân phối của ε i có dạng Gaussian với giá trị trung bình bằng không. Trong trường hợp này, mô hình sẽ có 3 tham số: b 0, b 1 và phương sai của phân phối Gauss.
Bạn có thể chính thức chỉ định mô hình là (S, P).
Trong ví dụ này, mô hình được xác định bằng cách chỉ định S và do đó có thể đưa ra một số giả định về P. Có hai tùy chọn:
Sự tăng trưởng này có thể được tính gần đúng bằng một hàm tuyến tính của tuổi;
Rằng sai số trong ước lượng được phân phối như bên trong Gaussian.
Nhận xét chung
Tham số thống kê của mô hình là một loại phép chiếu toán học đặc biệt. Điều gì làm cho loài này khác với loài khác? Vì vậy, nó là mô hình thống kê là không xác định. Như vậy, trong nó, không giống như các phương trình toán học, các biến số nhất định không có giá trị nhất định, mà thay vào đó là sự phân bố của các khả năng. Đó là, các biến riêng lẻ được coi là ngẫu nhiên. Trong ví dụ trên, ε là một biến ngẫu nhiên. Nếu không có nó, dự báo sẽ mang tính xác định.
Xây dựng mô hình thống kê thường được sử dụng, ngay cả khi quy trình vật chất được coi là xác định. Ví dụ, về nguyên tắc, tung đồng xu là một hành động xác định trước. Tuy nhiên, trong hầu hết các trường hợp, đây vẫn là mô hình ngẫu nhiên (thông qua quy trình Bernoulli).
Theo Konishi và Kitagawa, có ba mục tiêu cho một mô hình thống kê:
- Dự đoán.
- Khai thác thông tin.
- Mô tả cấu trúc ngẫu nhiên.
Kích thước chiếu
Giả sử có một mô hình dự đoán thống kê, Mô hình được gọi là tham số nếu O có số chiều hữu hạn. Trong giải pháp, bạn phải viết rằng
với k là số nguyên dương (R là viết tắt của bất kỳ số thực nào). Ở đây k được gọi là thứ nguyên của mô hình.
Ví dụ, chúng ta có thể giả định rằng tất cả dữ liệu đến từ phân phối Gaussian đơn biến:
Trong ví dụ này, thứ nguyên của k là 2.
Và như một ví dụ khác, dữ liệu có thể được giả định là bao gồm (x, y) điểm, được giả định là phân phối theo đường thẳng với phần dư Gaussian (với giá trị trung bình bằng 0). Khi đó thứ nguyên của mô hình kinh tế thống kê bằng 3: giao điểm của đường thẳng, hệ số góc của nó và phương sai của phân phối phần dư. Cần lưu ý rằng trong hình học, một đường thẳng có số chiều là 1.
Mặc dù về mặt kỹ thuật, giá trị trên là tham số duy nhất có thứ nguyên k, nhưng đôi khi nó được coi là chứa k giá trị khác biệt. Ví dụ, với phân phối Gaussian một chiều, O là tham số duy nhất có kích thước là 2, nhưng đôi khi được coi là chứa haitham số riêng lẻ - giá trị trung bình và độ lệch chuẩn.
Mô hình quy trình thống kê là phi tham số nếu tập các giá trị O là vô hạn chiều. Nó cũng là bán tham số nếu nó có cả tham số hữu hạn chiều và vô hạn chiều. Về mặt hình thức, nếu k là một thứ nguyên của O và n là số lượng mẫu, thì các mô hình bán tham số và phi tham số có
thì mô hình là bán tham số. Nếu không, phép chiếu là phi tham số.
Mô hình tham số là thống kê được sử dụng phổ biến nhất. Về các phép chiếu bán tham số và phi tham số, Ngài David Cox đã tuyên bố:
"Thông thường, chúng liên quan đến ít giả thuyết nhất về kết cấu và hình dạng phân bố, nhưng chúng bao gồm các lý thuyết mạnh mẽ về khả năng tự cung tự cấp."
Mô hình lồng nhau
Đừng nhầm chúng với các phép chiếu đa cấp.
Hai mô hình thống kê được lồng vào nhau nếu mô hình đầu tiên có thể được chuyển đổi thành mô hình thứ hai bằng cách áp đặt các ràng buộc đối với các tham số của mô hình đầu tiên. Ví dụ: tập hợp tất cả các phân phối Gaussian có một tập hợp các phân phối trung bình bằng 0 lồng nhau:
Tức là bạn cần giới hạn giá trị trung bình trong tập hợp tất cả các phân phối Gaussian để nhận được các phân phối có giá trị trung bình bằng 0. Ví dụ thứ hai, mô hình bậc hai y=b 0 + b 1 x + b 2 x 2 + ε, ε ~ N (0, σ2) có mô hình tuyến tính nhúng y=b0+ b1x + ε, ε ~ N (0,σ2) - tức là tham số b2bằng 0.
Trong cả hai ví dụ này, mô hình đầu tiên có kích thước cao hơn mô hình thứ hai. Điều này thường xuyên xảy ra, nhưng không phải lúc nào cũng vậy. Một ví dụ khác là tập hợp các phân phối Gaussian với giá trị trung bình dương, có thứ nguyên 2.
So sánh các mẫu
Người ta giả định rằng có một phân phối xác suất "đúng" làm cơ sở cho dữ liệu quan sát được tạo ra bởi quá trình tạo ra nó.
Và cũng có thể so sánh các mô hình với nhau, sử dụng phân tích khám phá hoặc xác nhận. Trong phân tích khám phá, các mô hình khác nhau được xây dựng và đánh giá về mức độ mô tả dữ liệu của mỗi mô hình. Trong một phân tích xác nhận, giả thuyết đã hình thành trước đó được so sánh với giả thuyết ban đầu. Tiêu chí chung cho điều này bao gồm P2, hệ số Bayes và xác suất tương đối.
Tư tưởng của Konishi và Kitagawa
“Hầu hết các vấn đề trong mô hình toán học thống kê đều có thể được coi là các câu hỏi dự đoán. Chúng thường được xây dựng dưới dạng so sánh của một số yếu tố.”
Hơn nữa, Ngài David Cox nói: "Như một bản dịch từ chủ đề, vấn đề trong mô hình thống kê thường là phần quan trọng nhất của phân tích."
