Seri Bayesian untuk Pemula: BAYES FACTOR


Penggunaan Bayes factor merupakan suatu alternatif aliran bayesian atas uji hipotesis aliran klasik. Bayes factor juga digunakan dalam metode pemilihan model yang disebut Bayes model comparison.

Dalam Bayesian kita telah mengetahui bahwa probabilitas posterior diberikan oleh teorema Bayes berikut:

dimana Pr(D M) adalah dan M adalah model atau hipotesis dan D adalah data yang diberikan (given data). Dalam Bayes model comparison kita akan membandingkan dua buah model yaitu model 1 (M1) dan model 2 (M2) sehingga:

Dan rasio Pr(D M1) / Pr(D M2) inilah yang disebut dengan Bayes Factor, atau

Densitas dari Pr(D Mj) merupakan marginal likelihood dan bisa diperoleh dengan mengintegralkan:

Pr(D Mj) = ∫ Pr(D θj, Mj) Pr(θj Mj) dθj

dan karena Pr(M1) + Pr(M2) = 1 sehingga rasionya adalah suatu odds (odds=P/(1-P)), sehingga kita bisa mengatakan:

posterior odds = bayes factor x prior odds

Sehingga kita memperoleh bahwa Bayes factor merupakan rasio dari posterior odds terhadap prior odds

Dalam kasus uji hipotesis kita memiliki dua buah hipotesis, yaitu hipotesis nol (H0) dan hipotesis alternatif (H1). Dalam hipotesis nol (H0), memiliki model M dengan parameter θ1 (dalam kasus uji hipotesis θ = k) dan hipotesis alternatif (H1) memiliki model M dengan parameter θ2 (dalam kasus uji hipotesis biasanya tidak diketahui, atau dinyatakan θ ≠ k). Dalam uji hipotesis, tingkat kesalahan alfa (α) merupakan probabilita untuk menolak hipotesis nol (H0) dan tingkat keyakinan (1-α) merupakan probabilita untuk menerima hipotesis nol . Sehingga prior odds untuk kasus uji hipotesis adalah α / (1-α).

Interpretasi

Nilai dari Bayes factor ini memiliki interpretasi sendiri. Nilai Bayes factor lebih dari 1 (B12 > 1) berarti data cenderung condong mendukung hipotesis nol atau model 1 dibanding model 2 (hipotesis alternatif). Ingat dalam uji hipotesis klasik, kita hanya memiliki satu model dengan 2 hipotesis. Harold Jeffreys memberikan skala untuk menginterpretasikan Bayes factor B sebagai berikut:

B

dB

Strength of evidence

< 1:1 < 0 Negative (supports M2)
1:1 to 3:1 0 to 5 Barely worth mentioning
3:1 to 10:1 5 to 10 Substantial
10:1 to 30:1 10 to 15 Strong
30:1 to 100:1 15 to 20 Very strong
>100:1 >20 Decisive

Kolom kedua merupakan nilai Bayes faktor yang dinyatakan dengan log10(B).

One Response

  1. Just want to say what a great blog you got here!
    I’ve been around for quite a lot of time, but finally decided to show my appreciation of your work!

    Thumbs up, and keep it going!

    Cheers
    Christian,Earn Free Vouchers / Cash

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s

%d bloggers like this: