Memcached 和 mysqld 的联通
一 概述:
what's UDFs ?
UDFs是User Defined Functions的缩写,表示Mysql用户自定义的函数,应用程序可以利用这些函数从MySQL5.0以上的版本的数据库中访问Memcached写入或者获取的数据。此外,MySql 从5.1版本开始支持触发器。从而可以在触发器中使用UDFs直接更新Memcached的内容,这种方式降低了应用程序的设计和编写的复杂性。下面简单介绍UDFs的安装和使用。安装UDFs需要在数据库服务器上安装两个包,分别是libmemcached和memcached_functions_mysql,这两个包都可以从http://download.tangent.org/下载,安装如下:
2.1. 需要的软件有memcached-1.2.6,libevent-1.4.4-stable,libmemcached-0.30这些软件非常简单,yum -y install libmemcached* 就可以安装了,因此不做说明。
2.2. 安装mysql,也不做说明。 2.3. 安装Memcached_functions_mysql,基本步骤如下:下载地址:https://launchpad.net/memcached-udfs# 下载解包以后,进入到目录下面,开始执行下面的安装命令[root@salt memcached_functions_mysql-1.1]# ./configure --with-mysql=/usr/bin/mysql_config --prefix=/usr/local/memcached_functions_mysql[root@salt memcached_functions_mysql-1.1]# make && make install
安装完以后,切换到源码目录下,把memcached_function_mysql 装到mysql内部里面去,有2中方法:
- 第一种方法是在MySQL的SQL命令行中执行memcached_functions_mysql源码目录下的sql/install_functions.sql
- 第二种方法是运行memcached_functions_mysql源码目录下的utils/install.pl这个Pcrl脚本,把memcache function作为UDFs加入MySQL。
下面我采取的是第二种方法:
[root@salt memcached_functions_mysql]# cd /tmp/memcached_functions_mysql-1.1[root@salt utils]# cp /usr/local/memcached_functions_mysql/lib/libmemcached_functions_mysql.so /usr/lib64/mysql/plugin/[root@salt memcached_functions_mysql-1.1]# cd utils/[root@salt utils]# lsinstall.pl[root@salt utils]# ./install.pl
如果你的数据库设置了密码,那么就在install.pl脚本的78行附近,把密码传个那个opt_password的变量:
73 $opt_schema ||= 'test'; 74 $opt_user ||= 'root'; 75 $opt_host ||= 'localhost'; 76 $opt_password ||= '123456'; # 78行,添加这个变量,告诉连接数据库的密码 77 my $existing_functions; 78 79 my $dbh= DBI->connect("DBI:mysql:$opt_schema", $opt_user, $opt_password) 80 or croak "Unable to connect! $DBI::errstr\n";
一路回车敲击Y后,终于把Memcached_function_mysql装进到了mysql中,我们在数据库检查下,共32行:
select name,dl from mysql.func;+------------------------------+---------------------------------+| name | dl |+------------------------------+---------------------------------+| memc_cas_by_key | libmemcached_functions_mysql.so || memc_cas | libmemcached_functions_mysql.so || memc_servers_set | libmemcached_functions_mysql.so || memc_add | libmemcached_functions_mysql.so || memc_libmemcached_version | libmemcached_functions_mysql.so || memc_add_by_key | libmemcached_functions_mysql.so || memc_server_count | libmemcached_functions_mysql.so || memc_stat_get_keys | libmemcached_functions_mysql.so || memc_append | libmemcached_functions_mysql.so || memc_replace_by_key | libmemcached_functions_mysql.so || memc_prepend | libmemcached_functions_mysql.so || memc_behavior_get | libmemcached_functions_mysql.so || memc_udf_version | libmemcached_functions_mysql.so || memc_set_by_key | libmemcached_functions_mysql.so || memc_get_by_key | libmemcached_functions_mysql.so || memc_increment | libmemcached_functions_mysql.so || memc_behavior_set | libmemcached_functions_mysql.so || memc_stats | libmemcached_functions_mysql.so || memc_list_distribution_types | libmemcached_functions_mysql.so || memc_list_hash_types | libmemcached_functions_mysql.so || memc_append_by_key | libmemcached_functions_mysql.so || memc_servers_behavior_set | libmemcached_functions_mysql.so || memc_replace | libmemcached_functions_mysql.so || memc_set | libmemcached_functions_mysql.so || memc_prepend_by_key | libmemcached_functions_mysql.so || memc_get | libmemcached_functions_mysql.so || memc_list_behaviors | libmemcached_functions_mysql.so || memc_delete | libmemcached_functions_mysql.so || memc_stat_get_value | libmemcached_functions_mysql.so || memc_decrement | libmemcached_functions_mysql.so || memc_delete_by_key | libmemcached_functions_mysql.so || memc_servers_behavior_get | libmemcached_functions_mysql.so |+------------------------------+---------------------------------+32 rows in set (0.30 sec)
#### 二 memcached_function_mysql的应用实例:
###### 1 创建2张表 新建2张表,urls和results,更新urls表中的内容,使系统自动更新Memcached的内容,results用来记录更新Memcached失败的记录。SQL语句:
mysql> create database test character set 'utf8';mysql> create table urls(id int(10) not null,url varchar(255) not null default '',primary key(`id`));mysql> create table results(id int(10) not null,result varchar(255) not null default 'error',time timestamp null default current_timestamp , primary key (`id`));
2 创建3个触发器
2.1. 当向urls表中插入数据时,对Memcached执行set操作,trigger大代码如下:
mysql> delimiter // # 切换结束符mysql> drop trigger if exists url_mem_insert; -> create trigger url_mem_insert before insert on urls -> for each row begin set @mm = memc_set(NEW.id,NEW.url); -> if @mm <>0 then -> insert into results(id) values(NEW.id); -> end if; -> END//Query OK, 0 rows affected, 1 warning (0.00 sec)Query OK, 0 rows affected (0.03 sec)mysql> DELIMITER ;
2.2. 当对urls表中的数据进行更新时,对Memcached执行replace操作。sql语句如下
mysql> delimiter //mysql> drop trigger if exists url_mem_update; -> create trigger url_mem_update before update on urls for each row begin -> set @mm = memc_replace(OLD.id , NEW.url); -> if @mm <> 0 then -> insert into results(id) values(OLD.id); -> end if; -> end //Query OK, 0 rows affected, 1 warning (0.00 sec)Query OK, 0 rows affected (0.36 sec)mysql> delimiter ;
2.3. 当对urls表中的数据进行删除操作时,对Memcached执行delete操作,sql代码如下:
mysql> delimiter //mysql> drop trigger if exists url_mem_delete; -> create trigger url_mem_delete before delete on urls for each row begin -> set @mm = memc_delete(OLD.ID); -> if @mm <> 0 then -> insert into results(id) values(OLD.id); -> end if; -> end //Query OK, 0 rows affected, 1 warning (0.00 sec)Query OK, 0 rows affected (0.29 sec)mysql> delimiter ;
2.4. 设置Memcached相关参数
2.4.1. 设置UDFs操作Memcached服务器的IP地址和端口mysql> select memc_servers_set('127.0.0.1:11211') -> ;+-------------------------------------+| memc_servers_set('127.0.0.1:11211') |+-------------------------------------+| 0 |+-------------------------------------+1 row in set (0.35 sec)mysql> select memc_server_count();+---------------------+| memc_server_count() |+---------------------+| 1 |+---------------------+1 row in set (0.00 sec)
2.4.2. 在Mysql命令行中列出可以修改Memcached参数的行为,执行命令和输出结果如下:
mysql> select memc_list_behaviors()\G;*************************** 1. row ***************************memc_list_behaviors(): MEMCACHED SERVER BEHAVIORSMEMCACHED_BEHAVIOR_SUPPORT_CASMEMCACHED_BEHAVIOR_NO_BLOCKMEMCACHED_BEHAVIOR_TCP_NODELAYMEMCACHED_BEHAVIOR_HASHMEMCACHED_BEHAVIOR_CACHE_LOOKUPSMEMCACHED_BEHAVIOR_SOCKET_SEND_SIZEMEMCACHED_BEHAVIOR_SOCKET_RECV_SIZEMEMCACHED_BEHAVIOR_BUFFER_REQUESTSMEMCACHED_BEHAVIOR_KETAMAMEMCACHED_BEHAVIOR_POLL_TIMEOUTMEMCACHED_BEHAVIOR_RETRY_TIMEOUTMEMCACHED_BEHAVIOR_DISTRIBUTIONMEMCACHED_BEHAVIOR_BUFFER_REQUESTSMEMCACHED_BEHAVIOR_USER_DATAMEMCACHED_BEHAVIOR_SORT_HOSTSMEMCACHED_BEHAVIOR_VERIFY_KEYMEMCACHED_BEHAVIOR_CONNECT_TIMEOUTMEMCACHED_BEHAVIOR_KETAMA_WEIGHTEDMEMCACHED_BEHAVIOR_KETAMA_HASHMEMCACHED_BEHAVIOR_BINARY_PROTOCOLMEMCACHED_BEHAVIOR_SND_TIMEOUTMEMCACHED_BEHAVIOR_RCV_TIMEOUTMEMCACHED_BEHAVIOR_SERVER_FAILURE_LIMITMEMCACHED_BEHAVIOR_IO_MSG_WATERMARKMEMCACHED_BEHAVIOR_IO_BYTES_WATERMARK MEMCACHED_HASH_DEFAULTMEMCACHED_HASH_MD5MEMCA1 row in set (0.00 sec)ERROR: No query specified
设置MEMCACHED_BEHAVIOR_NO_BLOCK 为打开状态,这样Memcached出现问题的时候,也就是连接不上的时候,数据可以继续插入Mysql中,但有报错提示;如不设置此值,那么Memcached失败时,数据需要到memcached失败超时后才可以插入到表中。
通过下面的设置,可以避免这样的情况发生:mysql> select memc_servers_behavior_set('MEMCACHED_BEHAVIOR_NO_BLOCK','1');+--------------------------------------------------------------+| memc_servers_behavior_set('MEMCACHED_BEHAVIOR_NO_BLOCK','1') |+--------------------------------------------------------------+| 0 |+--------------------------------------------------------------+1 row in set (0.00 sec)mysql> select memc_servers_behavior_set('MEMCACHED_BEHAVIOR_TCP_NODELAY','1');+-----------------------------------------------------------------+| memc_servers_behavior_set('MEMCACHED_BEHAVIOR_TCP_NODELAY','1') |+-----------------------------------------------------------------+| 0 |+-----------------------------------------------------------------+1 row in set (0.00 sec)
2.4.3. 测试Mysql与Memcached的数据同步性
2.4.3.1. 数据增加- 我们先在mysql上插入一条数据:
mysql> insert into urls values(2,'http://www.baidu.com');Query OK, 1 row affected (0.04 sec)mysql> select memc_get('2');+-------------------+| memc_get('2') |+-------------------+| http://www.jd.com |+-------------------+1 row in set (0.02 sec)
然后在另一个终端上telnet memcached执行命令,命令如下:
[root@salt ~]# telnet 127.0.0.1 11211Trying 127.0.0.1...Connected to 127.0.0.1.Escape character is '^]'.get 2 #2就是id号,我们刚才插入数据的ID号为2,所以这里也是为2VALUE 2 0 20http://www.baidu.com END
2.4.3.2 删除数据
mysql:mysql> delete from test.urls where id=2;
memcached:
get 2END
2.4.3.3 修改数据同理可得,在mysql一端修改后,自动同步到memcached上去。