关于逻辑回归的一些思考

问1：逻辑回归的函数使什么？

答1：h(x|θ)=1/(1+e^(-θx))

问2：正负样本的条件概率是什么？

答2：1）正样本的条件概率：p(y=1|x;θ)=h(x|θ)

2）负样本条件概率：p(y=0|x;θ)=1-h(x|θ)

3）两个公式合并到一起：p(y|x;θ)=h(x|θ)^y*(1-h(x|θ))^(1-y)

问3：目标函数是什么？

答4：l(θ)=Log(L(θ))=Log(∏p(yi|xi;θ))=Log(∏(h(xi|θ)^yi*(1-h(xi|θ))^(1-yi)))=yi*Log(h(xi|θ))+(1-yi)*Log(1-h(xi|θ))

问4：如何求解θ值？

答4：采用梯度上升法