Bayesian Confidence Interval with Highest Posterior Density (HPD)


Dalam teori estimasi statistik klasik, parameter θ dianggap sebagai suatu konstanta yang akan diestimasi dari sejumlah n sampel pengamatan yang ada. Fungsi densitas peluang (pdf) f(x, θ) digunakan untuk memperoleh estimasi titik dan estimasi interval dari θ. Metode paling umum yang digunakan untuk memperoleh selang kepercayaan (confidence interval) untuk parameter θ adalah pertama-tama dengan mencari pivotal quantity T . Kemudian peluang dari P(A<T<B) = 1 – α ditransformasi menjadi P(L<θ<U) = 1 – α. Interval (L, U) disebut sebagai 100(1 – α) confidence interval untuk parameter θ. Ketika parameter θ dianggap sebagai konstan, terdapat masalah dalam menginterpretasikan confidence interval yang dihitung dari sampel. Jika dilakukan sampling berulang, kita akan memperoleh parameter θ yang berbeda.

Bayesian confidence interval disebut juga dengan credible sets. Dalam inferensi Bayesian, parameter θ dipandang sebagai suatu random variabel dengan pdf prior g(θ), dan observasi X diambil dari pdf bersyarat f(x∣θ). Dalam estimasi confidence interval versi Bayesian, pdf posterior g(θ∣x) dari random variabel θ sampel dihitung, lalu Bayesian credible interval dihitung dengan pernyataan:

P(LB < θ <UB) = 1-α

Selanjutnya Bayesian credible sets didefinisikan sebagai berikut:

1-α ≤ P(C∣x) = ∫C dFπ(θx)(θ) = C π(θ∣x) dθ           (untuk kontinyu)

= Σθ∈ C π(θ∣x) (untuk diskrit)

Bayesian credible sets memiliki kelebihan dibanding teori estimasi klasik, Bayesian credible sets lebih mudah dihitung terutama ketika parameter yang diestimasi tidak memiliki sufficient statistics.

Langkah-langkah Menghitung HPD Bayesian Credible Sets

Misal X merupakan random variabel dengan pdf bersyarat f(x, θ). Sesuai kerangka pikir Bayesian, maka θ merupakan suatu random variabel dengan pdf prior g(θ). Dan misal {x1, …, xn} adalah random sampel iid dari pdf bersyarat f(x∣ θ) diatas. Selanjutnya dengan menggunakan teorema Bayes bisa diperoleh pdf posterior dari θ sebagai berikut:

g(θ∣x1, …, xn) = f(x1, …, xn∣ θ) g(θ) / f(x1, …, xn)

dimana:

f(x1, …, xn) = ∫ f(x1, …, xn∣ θ) g(θ) dθ

adalah marginal pdf dari sampel.

Setelah mendapatkan pdf posterior, HPD Bayesian Credible Sets dihitung menggunakan langkah-langkah sebagai berikut:

1.       Cari semua solusi untuk persamaan nonlinier g(θ∣x1, …, xn) = k, lalu bentuk suatu himpunan C(k)={θ∣ g(θ∣x1, …, xn) ≥ k}.

2.       Hitung ∫C(k) g(θ∣x1, …, xn) dθ

3.       Cari k* , solusi dari persamaan ∫C(k) g(θ∣x1, …, xn) dθ = 1 – α untuk k.

4.       C(k*), adalah 100(1-α)% Bayesian HPD credible sets untuk θ.

Secara matematis, HPD Bayesian Credible Sets secara sederhana bisa diselesaikan dengan menyelesaikan persamaan berikut:

1)  P(LB < θ <UB) = 1-α atau  C(k) g(θ∣x1, …, xn) dθ = 1 – α  untuk LB < θ <UB, atau F(UB) – F(LB) = 1 – α

2) g(θ=LB∣x1, …, xn) = g(θ=UB∣x1, …, xn)

by: u41

One Response

  1. What’s up colleagues, good paragraph and good arguments commented here, I am genuinely enjoying by these.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s

%d bloggers like this: