python导出hive数据表的schema实例代码
本文研究的主要问题是python语言导出hive数据表的schema,分享了实现代码,具体如下。
为了避免运营提出无穷无尽的查询需求,我们决定将有查询价值的数据从mysql导入hive中,让他们使用HUE这个开源工具进行查询。想必他们对表结构不甚了解,还需要为之提供一个表结构说明,于是编写了一个脚本,从hive数据库中将每张表的字段即类型查询出来,代码如下:
#coding=utf-8 importpyhs2 fromxlwtimport* hiveconn=pyhs2.connect(host='10.46.77.120', port=10000, authMechanism='PLAIN', user='hadoop', database='hibiscus_data', ) defcreate_excel(): sql='showtables' tables=[] withhiveconn.cursor()ascursor: cursor.execute(sql) res=cursor.fetch() fortableinres: tables.append(table[0]) tableinfo=[] fortableintables: tableinfo.append(get_column_info(table)) create_excel_ex(tableinfo) defcreate_excel_ex(tableinfo): w=Workbook() sheet=w.add_sheet(u'表结构') row=0 forinfointableinfo: row=write_tale_info(info,sheet,row) w.save('hive_schema.xls') defwrite_tale_info(tableinfo,sheet,row): printrow sheet.write_merge(row,row,0,2,tableinfo['table']) row+=1 sheet.write(row,0,u'名称') sheet.write(row,1,u'类型') sheet.write(row,2,u'解释') row+=1 fields=tableinfo['fields'] forfieldinfields: sheet.write(row,0,field['name']) sheet.write(row,1,field['type']) row+=1 returnrow+1 defget_column_info(table): sql='desc{table}'.format(table=table) info={'table':table,'fields':[]} withhiveconn.cursor()ascursor: cursor.execute(sql) res=cursor.fetch() foriteminres: ifitem[0]=='': break info['fields'].append({'name':item[0],'type':item[1]}) returninfo if__name__=='__main__': create_excel()
其实,我们的hive数据库将所有的元数据存储在了mysql当中,分析这些元数据也可以获得表结构信息。
总结
以上就是本文关于python导出hive数据表的schema实例代码的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站其他相关专题,如有不足之处,欢迎留言指出。感谢朋友们对本站的支持!