您的位置:首页 > 其它

hbase-1.2.1之协处理器的源码学习

2016-07-28 15:56 381 查看
HBase中的协处理器:两种:observer和endpoint

Observer:

RegionServerObserver:钩子函数主要是针对对region的管理的,比如merge,writeWAL,createRElplicationEndPoint,replicateLogEntries.

RegionObserver:钩子函数主要是针对client端对region上的数据操作,比如get,put,delete,batchMutate等。

MasterObserver:钩子函数主要是针对对HMaster操作。比如CreateTable,DeleteTable,ModifyTable,AddColumn等。

上述的协处理器主要是在对应的CoprocessorHost中被调用。比如RegionObserver在RegionCoprocessorHost中被调用(调用方式:比如在RegionCoprocessorHost中的441行,在pre钩子函数中,通过调用call方法(call方法的参数oserver))。往回推,在HRegion中有成员变量RegionCoprocessorHost,HRegion中调用钩子函数处:例如第6743行的get 方法(在6737行List<Cell> results = get(get,true),其中的第二个参数true表示要调用协处理器。)。

在RSRpcServices.java中的第1999行的get方法中,在2029行用到了region.get(clientGet),这样在之后便调用到了HRegion中的get方法,进而通过传入true参数调用协处理器。

即:HTable中的get方法

       —》RegionServerCallable

       —》RSRpcServices

       —》HRegion

       —》HRegionCoprocessorHost

       —》RegionObserver(Ranger中的RangerAuthorizationCoprocessor实现了RegionObserver接口)。

下面的流程图是以get操作为例:



下面为java中使用协处理器的示例:

long singleRegionCount(String tableName, String rowkey,boolean reCount)
{
long rowcount = 0;
try{
Configuration config = new Configuration();
HConnection conn = HConnectionManager.createConnection(config);
HTableInterface tbl = conn.getTable(tableName);
//获取 Channel
CoprocessorRpcChannel channel = tbl.coprocessorService(rowkey.getBytes());
org.ibm.developerworks.getRowCount.ibmDeveloperWorksService.BlockingInterface service =
org.ibm.developerworks.getRowCount.ibmDeveloperWorksService.newBlockingStub(channel);

//设置 RPC 入口参数
org.ibm.developerworks.getRowCount.getRowCountRequest.Builder request =
org.ibm.developerworks.getRowCount.getRowCountRequest.newBuilder();
request.setReCount(reCount);

//调用 RPC
org.ibm.developerworks.getRowCount.getRowCountResponse ret =
service.getRowCount(null, request.build());

//解析结果
rowcount = ret.getRowCount();
}
catch(Exception e) {e.printStackTrace();}
return rowcount;
}
或者采用如下方式:
Configuration conf = HBaseConfiguration.create();
Config.set(“hbase.zookeeper.property.clientPort”,”2181”);
Config.set(“habse.zookeeper.quorum”,”10.2.41.215”);
Config.set(“hbase.master”,”10.2.41.207:600000);
HTable table = new HTable(conf, table_name);
Map<byte[], ByteString> re = table.coprocessorService(HellodWord.class,null,null,new Batch.call<HelloWorld, ByteString> (){
@Override
Public ByteString call(HelloWorld instance ) throws IOException{
….
}


关于协处理器的学习,请参考:

www.ibm.com/developerworks/cn/opensource/os-cn-hbase-coprocessor1/index.html

www.ibm.com/developerworks/cn/opensource/os-cn-hbase-coprocessor2/index.html
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: