python操作 hbase 数据的方法
配置thrift
python使用的包thrift
个人使用的python编译器是pycharmcommunityedition.在工程中设置中,找到projectinterpreter,在相应的工程下,找到package,然后选择“+”添加,搜索hbase-thrift(PythonclientforHBaseThriftinterface),然后安装包。
安装服务器端thrift。
参考官网,同时也可以在本机上安装以终端使用。
thriftGettingStarted
也可以参考安装方法python调用HBase范例
首先,安装thrift
下载thrift,这里,我用的是thrift-0.7.0-dev.tar.gz这个版本
tarxzfthrift-0.7.0-dev.tar.gz
cdthrift-0.7.0-dev
sudo./configure–with-cpp=no–with-ruby=no
sudomake
sudomakeinstall
然后,到HBase的源码包里,找到
src/main/resources/org/apache/hadoop/hbase/thrift/
执行
thrift–genpyHbase.thrift
mvgen-py/hbase//usr/lib/python2.4/site-packages/(根据python版本可能有不同)
获取数据示例1
#coding:utf-8
fromthriftimportThrift
fromthrift.transportimportTSocket
fromthrift.transportimportTTransport
fromthrift.protocolimportTBinaryProtocol
fromhbaseimportHbase
#fromhbase.ttypesimportColumnDescriptor,Mutation,BatchMutation
fromhbase.ttypesimport*
importcsv
defclient_conn():
#Makesocket
transport=TSocket.TSocket('hostname,like:localhost',port)
#Bufferingiscritical.Rawsocketsareveryslow
transport=TTransport.TBufferedTransport(transport)
#Wrapinaprotocol
protocol=TBinaryProtocol.TBinaryProtocol(transport)
#Createaclienttousetheprotocolencoder
client=Hbase.Client(protocol)
#Connect!
transport.open()
returnclient
if__name__=="__main__":
client=client_conn()
#r=client.getRowWithColumns('tablename','rowname',['columnname'])
#print(r[0].columns.get('columnname')),type((r[0].columns.get('columnname')))
result=client.getRow("tablename","rowname")
data_simple=[]
#printresult[0].columns.items()
fork,vinresult[0].columns.items():#.keys()
#data.append((k,v))
#printtype(k),type(v),v.value,,v.timestamp
data_simple.append((v.timestamp,v.value))
writer.writerows(data)
csvfile.close()
csvfile_simple=open("data_xy_simple.csv","wb")
writer_simple=csv.writer(csvfile_simple)
writer_simple.writerow(["timestamp","value"])
writer_simple.writerows(data_simple)
csvfile_simple.close()
print"finished"
会基础的python应该知道result是个list,result[0].columns.items()是一个dict的键值对。可以查询相关资料。或者通过输出变量,观察变量的值与类型。
说明:上面程序中transport.open()进行链接,在执行完后,还需要断开transport.close()
目前只涉及到读数据,之后还会继续更新其他dbase操作。
以上这篇python操作hbase数据的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持毛票票。