Tokyo Cabinet和Tokyo Tyrant安装和调用手记

在编译 tokyocabinet 时会报 configure:
error: bzlib.h is required 的错误。
解决方法是： yum install bzip2-devel

configure:
error: zlib.h is required

原来没有zlib包

rpm -ql zlib命令查询后发现存在

[root@cenosvmbase tokyocabinet-1.4.41]# rpm -ql zlib

/usr/lib64/libz.so.1

/usr/lib64/libz.so.1.2.3

/usr/share/doc/zlib-1.2.3

用./configure --help知道可以手工指定则用命令

如果没有安装源码包会找不到文件

装源码包的命令是 sudo yum install zlib-devel

Tokyo Cabinet和Tokyo Tyrant安装和调用手记

http://www.sectop.com/post/69.html

2011-02-09 07:24:50| 分类： linux技术|字号 订阅

在对网站进行安全检测的过程中，总是会遇到密码破解的问题，破md5总是去www.cmd5.com，但是很多密码都是收费的，无奈囊中羞涩。如果遇到mysql用password加密的密码，更是无从破解，有人会说用爆破工具，那稍微复杂一点密码，就要破死人。于是想自己搞一个密码破解的网站起来，md5，mysql等密码的破解都加进去。

首 先选择数据库和web语言，cmd5用的是.net，数据库不得而知(猜测可能是sql server吧)，因为不会.net，而我对开源的平台熟一些，所以web语言选用了php。数据库这块，因为想想这样的密码存储数据库是相当大的，而传 统的mysql,pgsql或者oracle，虽然功能强大，但是我感觉都不适合，因为我只需要密码和散列一一对应的功能，即key-value的功能。 在网上搜寻类似的数据库，结果发现了这个Tokyo Cabinet。它是日本人平林幹雄(只谈技术，不涉及历史问题)开发的一款 DBM 数据库，该数据库读写非常快，哈希模式写入100万条数据只需0.643秒，读取100万条数据只需0.773秒，是
Berkeley DB 等 DBM 的几倍。利用Tokyo Tyrant作为Tokyo Cabinet数据库的网络接口，兼容memcached接口，也支持http协议的数据交换。

一、安装

1、首先编译安装tokyocabinet数据库

编译的时候会提示找不到zlib.h和bzlib.h，那么先安装zlib-devel和bzip2-devel这两个包分别有这两个头文件

rpm -ivh zlib-devel-1.2.3-3.i386.rpm
rpm -ivh bzip2-devel-1.0.3-4.el5_2.i386.rpm

wget http://1978th.net/tokyocabinet/tokyocabinet-1.4.41.tar.gz tar zxvf tokyocabinet-1.4.41.tar.gz
cd tokyocabinet-1.4.41/
./configure --enable-off64 #启动64位偏移，因为我机器是32位，如果数据库文件超过2G，不加此参数ttserver会崩溃
make
make install
cd ../

2、然后编译安装tokyotyrant

wget http://1978th.net/tokyotyrant/tokyotyrant-1.1.39.tar.gz tar zxvf tokyotyrant-1.1.39.tar.gz
cd tokyotyrant-1.1.39/
./configure
make
make install
cd ../

二、配置

1、创建Tokyo Tyrant数据文件存放目录

mkdir -p /ttserver/

2、启动Tokyo Tyrant主进程

运行之前要设置lib搜索路径，否则会提示找不到库文件

echo '/usr/local/lib' >> /etc/ld.so.conf

ldconfig -v

1）单机模式

ulimit -SHn 51200
ttserver -host 127.0.0.1 -port 11111 -thnum 8 -dmn -pid /ttserver/ttserver.pid -log /ttserver/ttserver.log -le -ulog /ttserver/ -ulim 128m -sid 1 -rts /ttserver/ttserver.rts /ttserver/database.tch

2）互为主辅

注：数据库类型由后缀决定，因为我只需要key-value的功能，所以采用功能简单，速度快的hash database

Hash Database ：.tch
B+ tree database ：.tcb
fixed-length database ：.tcf
table database ：.tct
内存Hash Database ：*
内存B+ tree database ：+

服务器 192.168.1.110

ulimit -SHn 51200
ttserver -host 192.168.1.110 -port 11111 -thnum 8 -dmn -pid /ttserver/ttserver.pid -log /ttserver/ttserver.log -le -ulog /ttserver/ -ulim 128m -sid 110 -mhost 192.168.1.92 -mport 11111 -rts /ttserver/ttserver.rts /ttserver/database.tch

服务器 192.168.99.111

ulimit -SHn 51200
ttserver -host 192.168.1.111 -port 11111 -thnum 8 -dmn -pid /ttserver/ttserver.pid -log /ttserver/ttserver.log -le -ulog /ttserver/ -ulim 128m -sid 111 -mhost 192.168.1.91 -mport 11111 -rts /ttserver/ttserver.rts /ttserver/database.tch

3）参数说明

ttserver [-host name] [-port num] [-thnum num] [-tout num] [-dmn] [-pid path] [-log path] [-ld|-le] [-ulog path] [-ulim num] [-uas] [-sid num] [-mhost name] [-mport num] [-rts path] [dbname]

　　-host name : 指定需要绑定的服务器域名或IP地址。默认绑定这台服务器上的所有IP地址。

　　-port num : 指定需要绑定的端口号。默认端口号为1978

　　-thnum num : 指定线程数。默认为8个线程。

　　-tout num : 指定每个会话的超时时间（单位为秒）。默认永不超时。

　　-dmn : 以守护进程方式运行。

　　-pid path : 输出进程ID到指定文件（这里指定文件名）。

　　-log path : 输出日志信息到指定文件（这里指定文件名）。

　　-ld : 在日志文件中还记录DEBUG调试信息。

　　-le : 在日志文件中仅记录错误信息。

　　-ulog path : 指定同步日志文件存放路径（这里指定目录名）。

　　-ulim num : 指定每个同步日志文件的大小（例如128m）。

　　-uas : 使用异步IO记录更新日志（使用此项会减少磁盘IO消耗，但是数据会先放在内存中，不会立即写入磁盘，如果重启服务器或ttserver进程被kill掉，将导致部分数据丢失。一般情况下不建议使用）。

　　-sid num : 指定服务器ID号（当使用主辅模式时，每台ttserver需要不同的ID号）

　　-mhost name : 指定主辅同步模式下，主服务器的域名或IP地址。

　　-mport num : 指定主辅同步模式下，主服务器的端口号。

　　-rts path : 指定用来存放同步时间戳的文件名。

3、停止ttserver进程

ps aux | grep ttserver | grep -v 'grep' | awk -F ' ' '{print $2}' | xargs kill -TERM

三、调用

1、使用memcached兼容协议

2、http调用

写 curl -X PUT http://127.0.0.1:11111/key -d "value"

读 curl http://127.0.0.1:11111/key
删 curl -X DELETE http://127.0.0.1:11111/key
3、使用C调用

1）直接写文件

例:

我使用的是hash database 所有函数带tch前缀，如果是其他数据库请参考tokyocabinet-1.4.31\doc下spex-en.html的函数接口说明

#include <tcutil.h>#include <tchdb.h>
#include <stdbool.#include <stdlib.h>h>
#include <stdint.h>
int main(int argc, char **argv){TCHDB *hdb;int ecode;
char *key, *value;
/* create the object */hdb = tchdbnew();
/* open the database */if(!tchdbopen(hdb, "casket.tch", HDBOWRITER | HDBOCREAT)){        ecode = tchdbecode(hdb);or: %s\n", tchdberrmsg(ecode));
}        fprintf(stderr, "open err
/* store records */if(!tchdbput2(hdb, "foo", "hop") ||!tchdbput2(hdb, "bar", "step") ||       ecode = tchdbecode(hdb);
!tchdbput2(hdb, "baz", "jump")){
fprintf(stderr, "put error: %s\n", tchdberrmsg(ecode));}
/* retrieve records */value = tchdbget2(hdb, "foo");if(value){ntf("%s\n", value);
fr        priee(value);} else {
ecode(hdb);
fprintf(stde        ecode = tchd
brr, "get error: %s\n", tchdberrmsg(ecode));
}
/* traverse records */tchdbiterinit(hdb);ernext2(hdb)) != NULL){
value = tchwhile((key = tchdbitdbget2(hdb, key);        if(value){
value);
free(value);
}
printf("%s:%s\n", key
,  free(key);
}
/* close the database */if(!tchdbclose(hdb)){code(hdb);
fprintf(stder        ecode = tchdber, "close error: %s\n", tchdberrmsg(ecode));}
/* delete the object */tchdbdel(hdb);
return 0;}
2）使用网络读写

例:

请参考tokyotyrant-1.1.33\doc下index.html的函数接口说明

#include <tcrdb.h>

#include <stdlib.h>
#include <stdbool.h>
#include <stdint.h>

int main(int argc, char **argv){

TCRDB *rdb;

int ecode;
char *value;

/* create the object */

rdb = tcrdbnew();

/* connect to the server */

if(!tcrdbopen(rdb, "localhost", 1978)){
ecode = tcrdbecode(rdb);
fprintf(stderr, "open error: %s\n", tcrdberrmsg(ecode));
}

/* store records */

if(!tcrdbput2(rdb, "foo", "hop") ||
!tcrdbput2(rdb, "bar", "step") ||
!tcrdbput2(rdb, "baz", "jump")){
ecode = tcrdbecode(rdb);
fprintf(stderr, "put error: %s\n", tcrdberrmsg(ecode));
}

/* retrieve records */

value = tcrdbget2(rdb, "foo");
if(value){
printf("%s\n", value);
free(value);
} else {
ecode = tcrdbecode(rdb);
fprintf(stderr, "get error: %s\n", tcrdberrmsg(ecode));
}

/* close the connection */

if(!tcrdbclose(rdb)){
ecode = tcrdbecode(rdb);
fprintf(stderr, "close error: %s\n", tcrdberrmsg(ecode));
}

/* delete the object */

tcrdbdel(rdb);

return 0;

}

四、构建密码破解web平台，自动生成数据

1、构建web平台

web界面上我就采用了cmd5的风格，改了下颜色。。不太熟悉美工方面，只能改成这样。。。http://www.00aq.com/md5.php

关键代码:

//md5.php(使用memcached-client.php里面有操作memcached的类，包含之后直接调用，网上都可以下载到)

<?php

require_once('memcached-client.php');
include('config.php');
$key = $_POST['key'];
if(isset($key))
{
if(strlen($key) == 32)
{
$key = substr($key, 8, 16);
}

$key = strtolower($key);
$mc = new memcached($links);
$value = $mc->get($key);

if(!isset($value))
{
$value = '未查到';
}
}
?>

//config.php

<?php

$links = array(
'servers' => array('192.168.99.111:11111'),
'debug' => false,
'compress_threshold' => 10240,
'persistant' => false
);
?>

2、自动插入密码数据

//autoaddnet.c

#include <tcrdb.h>

#include <stdlib.h>
#include <stdbool.h>
#include <stdint.h>
#include <md5lib.h>

int main(int argc, char **argv)

{
TCRDB *rdb;
int ecode;

char *source, *value;

int length = *argv[1] - '0'; //字符长度
int mode = *argv[2] - '0'; //字符组合类型
int len = 0, count = 1, i = 0, tonext_value = 0, no = 0;
int series[62] = {0};

rdb = tcrdbnew();

if(!tcrdbopen(rdb, "192.168.99.111", 11111)) //打开数据库连接

{
ecode = tcrdbecode(rdb);
fprintf(stderr, "open error: %s\n", tcrdberrmsg(ecode));
}

switch(mode) //选择字符的组合

{
case 1:
source = "1234567890";
break;
case 2:
source = "abcdefghijklmnopqrstuvwxyz";
break;
case 3:
source = "ABCDEFGHIJKLMNOPQRSTUVWXYZ";
break;
case 4:
source = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz";
break;
case 5:
source = "abcdefghijklmnopqrstuvwxyz1234567890";
break;
case 6:
source = "ABCDEFGHIJKLMNOPQRSTUVWXYZ1234567890";
break;
default:
source = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz1234567890";
break;
}

len = strlen(source); //计算字符长度

for(i = 0; i < length; i++)

{
count *= len; //计算所有组合的总数
}
for(i = 0; i < count; i++)
{
char word[20] = {0}; //word为组合出的字符串
tonext_value = 1;
word[length] = '\0';
for(no = length-1; no >= 0; no--)
{
word[no] = source[series[no]]; //循环填充word字符数组中的每个字符
series[no] += tonext_value;
if(no>0)
{
if(series[no] == len) //如果已经到达source末尾则从新开始
{
series[no]=0;
tonext_value=1;
}
else
{
tonext_value=0;
}
}
}
char *md5 = MDString(word); //word原始字符转换成md5
value = tcrdbget2(rdb, md5); //得到此MD5在db中的value
*(md5+24) = '\0'; //截取32位md5的8-24位
if(!value) //如果db中没有此value，进行插入
{
if(!tcrdbput2(rdb, md5+8, word))
{
ecode = tcrdbecode(rdb);
fprintf(stderr, "put error: %s\n", tcrdberrmsg(ecode));
}
printf("%s\n", word);
}
else
{
printf("%s-16 exist\n", word);
free(value);
}
}
if(!tcrdbclose(rdb)) //关闭数据库连接
{
ecode = tcrdbecode(rdb);
fprintf(stderr, "close error: %s\n", tcrdberrmsg(ecode));
}

tcrdbdel(rdb); //删除数据库对象

return 0;
}

编译方法：

gcc -I. -I/usr/local/include autoaddnet.c -o autoaddnet -L/usr/local/lib -ltokyotyrant -lz -lbz2 -lrt -lpthread -lm -lc

用法：

./autoaddnet length mode

length为字符长度,mode为字符组合

(全文完)

注：http://www.00aq.com/md5.php 提供免费MD5查询，以后还会陆续推出mysql等密码免费查询平台，敬请期待

文章来源：DoDo's Blog

原文地址：http://www.sectop.com/post/69.html