【Probit】理论简介

2017年07月18日

Author: Guofei

文章归类: 2-1-有监督学习，文章编号: 280

版权声明：本文作者是郭飞。转载随意，但需要标明原文链接，并通知本人
原文链接：https://www.guofei.site/2017/07/18/probit.html

正如Logit模型中写的，logit模型是一种典型的分类模型

Probit模型与Logit模型没有本质区别，模型结果的差别也不大。
区别是Logit模型假设随机变量服从logistics distribution，Probit模型假设随机变量服从正态分布

另外，一般所说的Probit模型，y有两个取值0-1。有序Probit模型中，y是离散、有序的多个取值

模型建立

Y∗=wx+εY∗=wx+ε

其中，
Y是离散化的Y∗Y∗,Y∗Y∗是Y的连续化，它们之间的对应关系是：
Y=k⟺Y∗∈(uk−1,uk],k∈[1,m]Y=k⟺Y∗∈(uk−1,uk],k∈[1,m]
εε服从标准正态分布
(因此probit模型适用于：y是有序离散变量的情景。模型与y的次序有关，与y的值无关)

P(Y=k∣X)=P(Y∗∈[uk−1,uk]∣X)=Φ(uk−wx)−Φ(uk−1−wx)P(Y=k∣X)=P(Y∗∈[uk−1,uk]∣X)=Φ(uk−wx)−Φ(uk−1−wx)

令u0=−∞,um=+∞u0=−∞,um=+∞
需要求解的参数是(u1,u2,…,um−1,w)(u1,u2,…,um−1,w)
方法是经典MLE方法，不多解释

您的支持将鼓励我继续创作！