初识贝叶斯分类算法

通过老师的讲解后我对贝叶斯分类算法有了一个较为全面的认识,懂得怎么使用了。
贝叶斯定理的条件概率公式:P(B|A)=P(AB)/P(A)=P(A|B)P(B)/P(A)
注:P(B|A)为在事件A发生的前提下B事件发生的概率。

全概公式:
P(A)=UP(Bi)P(A|Bi)
注:P(Bi)为B事件所有可能中的一种,若是二分类则有两种结果,三分类有三种结果。

逆概公式:
P(Bi|A)=P(Bi)P(A|Bi)/UP(Bj)P(A|Bj)
注:(以下公式不适用于连续型数据集)该分母是一个常数,通过所给的数据可求。在大多数情况下,分子中的P(Bi)是已知的,它以数据中所出现的该类别的频率作为先验概率,可以表示为Nyi/N,至此,要求出P(Bi|A)就只剩下求P(A|Bi)了。我们假设自变量是条件独立的,所以P(A|Bi)=P(a1,a2,a3,….,an)=P(a1|Bi)P(a2|Bi)P(a3|Bi)…P(an|Bi),其中A事件有几个自变量n就为几,又由拉普拉斯平滑:P(aj|Bi)=(Njk+α)/(Ni+nα),
P(Bi|A)就求得出来了!
下面我们通过实例进行理解:
(找工作)
Edu Scholarship Award meet

本科 有 有 1
本科 无 无 0
本科 有 无 0
硕士 有 有 1
硕士 有 无 1

问:一个本科学历、无Scholarship、有Award的人求职能被录取吗?
(1)因变量各类别频率
P(meet=0)=2/5=0.4
P(meet=1)=3/5=0.6
(2)单变量条件概率(拉普拉斯平滑:P(aj|Bi)=(Njk+α)/(Ni+nα))

P(Edu=本科|meet=0)=(2+1)/(2+2*1)=3/4

P(Edu=本科|meet=1)=(1+1)/(3+2*1)=2/5

P(Scholarship=无|meet=0)=(1+1)/(2+2*1)=2/4

P(Scholarship=无|meet=1)=(0+1)/(3+2*1)=1/5

P(Award=有|meet=0)=(0+1)/(2+2*1)=1/4

P(Award=有|meet=1)=(1+1)/(3+21)=2/5
贝叶斯后验概率
P(meet=0|Edu=本科,Scholarship=无,Award=有)=(2/5)
(3/4)(2/4)(1/4)=12/320

P(meet=1|Edu=本科,Scholarship=无,Award=有)=(3/5)(2/5)(1/5)*(2/5)=12/625
显然(12/320)>(12/625),因此我们的结论是这个本科学历、无Scholarship、有Award的人求职将不能被录取。

python学习小结


继C语言之后,python是我学习的第二门计算机汇编语言,它与复杂繁琐的C语言不同之处在于其语言具有简洁的美,例如在使用for、while循环时它所要求的循环条件更加简单与方便。
一、变量与简单数据类型:
变量的命名只能包含字母、下划线和数字,应既简短又具有描述性,且不能以数字开头。数据类型一般由字符、数字等组成,例如print()语句默认输出的是字符串,若要输出数值,则应使用方法str(),这点和C语言是相同的。
二、列表与字典:
列表与字典是python中用来存储数据的两大利器。列表由一系列按特定顺序排列的元素组成,在python中方括号([])即表示列表,其中的元素用逗号隔开。例如我们创建一个汽车的列表:cars=[‘ford’,’aston martin’,’land rover’,’mazda’,’bmw’],通过访问cars[0]我们得到’ford’、cars[-1]得到’bmw’,在列表中我们可以存储成千上万个元素,只要内存足够,并且可以通过一些方法对列表进行加工修改,如cars[0].title()可以得到’Ford’。在python中,字典是一系列键-值对,每个键都有一个值与其相关联,并通过使用键来访问值,下面我们通过字典来存储一个人的一些信息:zhangsan = {‘appearance’:’cool’,’height’:178,’sex’:’man’},通过访问zhangsan[‘sex’]我们可以得到结果:’man’,类似的我们可以通过一些方法对字典进行加工与修改。另外,我们可以根据具体情况与需要在列表中嵌套字典、在字典中嵌套列表以及在字典中嵌套字典!
三、for与while循环:
(1)假如我们要遍历列表并打印其中元素,我们可以通过以下操作得到:
cars=[‘ford’,’aston martin’,’land rover’,’mazda’,’bmw’]
for car in cars:
print(car.title())
其输出为:
Ford
Aston Martin
Land Rover
Mazda
Bmw
(2) 又例如使用while循环从1到5将数输出:
current_number = 1
while current_number <= 5:
print(current_number)
current_number += 1
我们不难发现python语言更倾向于我们平时的语言表达且具有简洁的美!
四、函数与类:
(1)这是一条简单问候语的函数应用:
def greet_user(username): #username是形参
“””显示简单问候语”””
print(“Hello,”+username.title())
greet_user(‘jack’) 其输出为:Hello,Jack
可知,函数必须用def进行定义,需要调用时直接使用:function(),其中function是函数名,并且要在括号内写入实参。
(2)类在我的理解中是某一群体或事物所共有的特征的集合。
class Dog():
“””一次模拟小狗的简单尝试”””
def init(self,name,age):
“””初始化属性name和age”””
self.name = name
self.age = age
def sit(self):
“””模拟小狗被命令时蹲下”””
print(self.name.title() + “is now sitting.”)
def roll_over(self):
“””模拟小狗被命令时打滚”””
print(self.name.title() + “ roll_over”)
my_dog = Dog(‘willie’,6)
print(“My dog’s name is “ + my_dog.name.title() + “.”)
print(“My dog is” + str(my_dog.age) + “ years old.”)
my_dog.sit()
my_dog.roll_over()
print(my_dog.name)

输出为:
My dog’s name is Willie.
My dog is6 years old.
Willieis now sitting.
Willie roll_over
Willie

其中必须要用到方法init(self,name,age),虽然self、name、age都是形参,但在创建一条小狗的实例时只需输入具体的实参name和age即可(因为python在调用这个init()方法来创建Dog实例时,将自动传入实参),在该例中输入Dog(‘willie’,6)即可。注:方法init()中init前后各有两个下滑线,而不只一个而已!