Python爬虫实例之2021猫眼票房字体加密反爬策略(粗略版)
前言：
猫眼票房页面的字体加密是动态的，每次或者每天加载页面的字体文件都会有所变化，本篇内容针对这种加密方式进行分析
字体加密原理：简单来说就是程序员在设计网站的时候使用了自己设计的字体代码对关键字进行编码，在浏览器加载的时会根据这个字体文件对这些字体进行编码，从而显示出正确的字体。
已知的使用了字体加密的一些网站：
58同城，起点，猫眼，大众点评，启信宝，天眼查，实习僧，汽车之家
本篇内容不过多解释字体文件的映射关系，不了解的请自行查找其他资料。
如若还未入门爬虫，请往这走简单粗暴入门法——Python爬虫入门篇
importrequests importurllib.requestasdown importjson fromfontTools.ttLibimportTTFont importre #分析用 importmatplotlib.pyplotasplt#绘图 importnumpyasnp#科学计算库
安装：
pipinstallmatplotlib
pipinstallrequests
pipinstallnumpy
pipinstallfonttools
首先我们对猫眼票房页面进行简单分析
可以看到票房数字在审查中显示的是乱码，类似与这种情况的就可能是使用了字体加密，因此我们需要找到字体文件（字体文件会以链接方式存放在页面中）
找到了字体文件，下载并对映射关系进行分析，可以得到我们需要的一组基础字形映射表；并且可以通过映射关系得到每个字形的所有坐标
baseFont=TTFont('maoyan.woff')
#获取相应数字的namecode和形状坐标的关系，可用来获取坐标
glyf=baseFont['glyf']
#通过对一份字体样本分析得出的字体映射
baseNumberMaps={
0:glyf['uniF632'],
1:glyf['uniF2F1'],
2:glyf['uniF0A4'],
3:glyf['uniF7B7'],
4:glyf['uniE82D'],
5:glyf['uniF653'],
6:glyf['uniE756'],
7:glyf['uniF41A'],
8:glyf['uniE79B'],
9:glyf['uniE81E']
}
fornum,nameinbaseNumberMaps.items():
print(name.coordinates)
我们将坐标绘图成图形，在进行不同组字形图形对比可以发现每套字形的坐标不同，大小比例不同，而字形是不变的，也就是相似
对比坐标发现每套字形坐标都会有所改变，但是整体图形还是同一个，所以我想到了斜率对比，我们计算每个字形部分线段的斜率，如果斜率之差小于一个数值，就说明这两个是相同的数字。
因此就得到了一个思路获得基础字体映射关系表爬取页面下载所加载的字体获得需要对比的字体映射关系表计算每套字体每个字形的线段斜率，并进行差值计算循环匹配，从基础字形的0-9开始去匹配新字形的斜率，如果斜率之差小于0.5并且样本数>=9我们则认为两个图形为同一个数字，获得正确的字体映射关系对加密字体进行替换得到正确内容
程序实现
importrequests
importurllib.requestasdown
importjson
fromfontTools.ttLibimportTTFont
importre
importMyPyClass
#得到字体斜率列表（部分）
deffont_Kdict(mapstype,maps=None):
'''
得到字体斜率字典（部分）
参数：
mapstype：str->maps类型，判断是是base/new
maps：映射字典
returnkdict
kdict字典关系：
num:Klist数字对应每条线段的斜率列表
'''
kdict={}
#遍历maps字典，找到对应的num和namecode
fornum,namecodeinmaps.items():
#跳过无用数据
ifnamecode=='x':continue
#判断类型，并从.coordinates得到对应num的所有坐标
ifmapstype=='base':coordinates=namecode.coordinates
elifmapstype=='new':coordinates=glyf[namecode].coordinates
#得到坐标X列表和坐标Y列表
x=[i[0]foriincoordinates]
y=[i[1]foriincoordinates]
Klist=[]
#遍历X列表并切片为前10个数据进行斜率计算，即代表绘图的前10条线段的斜率
forindex,absxinenumerate(x[:10]):
#当斜率为0/1时，认为斜率为1计算
ifx[index+1]==x[index]ory[index+1]==y[index]:
absxy=1
else:
absxy=(y[index+1]-y[index])/(x[index+1]-x[index])
#将斜率加入到列表
Klist.append(-absxyifabsxy<0elseabsxy)
kdict[num]=Klist
#print('base:',code,Klist,name)
returnkdict
#对比斜率字典
defcontrast_K(kbase,knew):
'''
对比斜率映射差距
参数：
kbase:基础字体映射表的斜率字典
knew:当前链接的字体映射表的斜率字典
return:dict
fontMaps:根据对比得出正确的字体映射关系字典
'''
fontMaps={}
#遍历kbase字典
forbaseinkbase.items():
n=0#成功匹配的斜率个数
#遍历knew字典
fornewinknew.items():
#遍历kbase>knew>下的两组斜率，进行大小匹配，
#如果斜率k的差值小于0.5，并且样本数>=9时，认为两个坐标图形相识只是大小比例不同
#即k<=0.5n>=9
for(k1,k2)inzip(base[1],new[1]):
#k取正数
k=k1-k2ifk1>k2elsek2-k1
ifk<=0.5:
n+=1
continue
else:
break
ifn>=9:
#匹配正确则添加进字典中此时的字典关系是：code:num代码对应数字的关系
fontMaps[str(hex(new[0]).replace('0x','&#x'))]=str(base[0])
break
n=0
#print(fontMaps)
returnfontMaps
#建立基础字体对象
baseFont=TTFont('maoyan.woff')
#获取相应数字的namecode和形状坐标的关系，可用来获取坐标
glyf=baseFont['glyf']
#通过对一份字体样本分析得出的字体映射
baseNumberMaps={
0:glyf['uniF632'],
1:glyf['uniF2F1'],
2:glyf['uniF0A4'],
3:glyf['uniF7B7'],
4:glyf['uniE82D'],
5:glyf['uniF653'],
6:glyf['uniE756'],
7:glyf['uniF41A'],
8:glyf['uniE79B'],
9:glyf['uniE81E']
}
url='https://piaofang.maoyan.com/dashboard-ajax?orderType=0&uuid=1778ad877f8c8-0b23bf32a2bb26-c7d6957-1fa400-1778ad877f8c8&riskLevel=71&optimusCode=10'
ua=MyPyClass.GetUserAgent()#获得ua
#爬取内容
withrequests.get(url,headers={'user-agent':ua})asresponse:
#获取存放字典的json字段，并提取字体url
fontStyle=json.loads(response.content)['fontStyle']
fontStyle=re.findall('\"([\s\S]*?)\"',fontStyle[::-1])
fonturl='http:'+fontStyle[0][::-1]#字体url链接
#将加载的字体下载保存到本地，并对其进行分析
down.urlretrieve(fonturl,'newfont.woff')
#爬取的电影数据内容
content=json.loads(response.content)['movieList']['data']['list']
#信息字典
movieNum={}#综合票房数字典
movieDayOne={}#上映首日数量
movieRate={}#票房占比
movieshowCount={}#排片场次
movieViewerAvg={}#场均人数
movieInfos={}
#页面内容
foriincontent:
moviename=i['movieInfo']['movieName']
movieNum[moviename]=i['boxSplitUnit']['num']
movieDayOne[moviename]=i['sumBoxDesc']
movieRate[moviename]=i['splitBoxRate']
movieshowCount[moviename]=i['showCount']
movieViewerAvg[moviename]=i['avgShowView']
#新字体对象
fontnew=TTFont('newfont.woff')
#得到当前字体的映射关系表
newNumberMaps=fontnew.getBestCmap()
#获取字形
glyf=fontnew['glyf']
#基础字体斜率字典
k_base_dict=font_Kdict(maps=baseNumberMaps,mapstype='base')
#新字体斜率字典
k_new_dict=font_Kdict(maps=fontnew.getBestCmap(),mapstype='new')
#得到字体映射字典
fontcodes=contrast_K(k_base_dict,k_new_dict)
#对加密的字体遍历分组，并去除无用字符
forname,numbercodeinmovieNum.items():
movieNum[name]=re.findall('([\S]*?);',numbercode)
#根据得到的fontcodes映射对加密字体进行替换，得到正确数值
forindex,(name,numbercodelist)inenumerate(movieNum.items()):
num=[]
#替换操作
forcodeinnumbercodelist:
if'.'incode:
code=code.replace('.','')
num.append('.'+fontcodes[code])
else:
num.append(fontcodes[code])
infos=['排行:'+str(index+1),
'片名',name,
'上映首日',movieDayOne[name],
'票房',''.join(num)+'万',
'票房占比',movieRate[name],
'场均人数',movieViewerAvg[name]+'人',
'排片场次',movieshowCount[name]]
print(infos)
实现效果如下
到此这篇关于Python爬虫实例之2021猫眼票房字体加密反爬策略(粗略版)的文章就介绍到这了,更多相关Python爬虫猫眼票房字体反爬内容请搜索毛票票以前的文章或继续浏览下面的相关文章希望大家以后多多支持毛票票！
声明：本文内容来源于网络，版权归原作者所有，内容由互联网用户自发贡献自行上传，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任。如果您发现有涉嫌版权的内容，欢迎发送邮件至：czq8825#qq.com（发邮件时，请将#更换为@）进行举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。