簡單了解InnoDB的Memcached插件

jopen 10年前發布 | 22K 次閱讀 緩存服務器 memcached

以前單獨架設Memcached服務器不僅浪費了內存,而且還必須自己維護數據的不一致問題,有了Memcached插件,這些問題都不存在了,而且借助MySQL本身的復制功能,我們可以說是變相的實現了Memcached的復制,這更是意外之喜。 

安裝

為了讓文章更具完整性,我們選擇從源代碼安裝MySQL,需要注意的是早期的版本有內存泄漏,所以推薦安裝最新的穩定版,激活WITH_INNODB_MEMCACHED即可:

shell> groupadd mysql
shell> useradd -r -g mysql mysql
shell> tar zxvf mysql-<VERSION>.tar.gz
shell> cd mysql-5.6.13
shell> cmake . -DWITH_INNODB_MEMCACHED=ON
shell> make
shell> make install
shell> cd /usr/local/mysql
shell> chown -R mysql .
shell> chgrp -R mysql .
shell> scripts/mysql_install_db --user=mysql
shell> chown -R root .
shell> chown -R mysql data
shell> bin/mysqld_safe --user=mysql &
shell> cp support-files/mysql.server /etc/init.d/mysql.server

MySQL安裝完畢后,在插件目錄我們能看到innodb_engine.so和libmemcached.so:

mysql> SELECT @@plugin_dir;
+------------------------------+
| @@plugin_dir                 |
+------------------------------+
| /usr/local/mysql/lib/plugin/ |
+------------------------------+

此外還需要導入Memcached插件所需要的表結構:

mysql> SOURCE /usr/local/mysql/share/innodb_memcached_config.sql

一切就緒后就可以激活Memcached插件了(當然如果需要的話也可以禁止):

mysql> INSTALL PLUGIN daemon_memcached soname "libmemcached.so";
mysql> UNINSTALL PLUGIN daemon_memcached;

說明:如果要重啟插件的話,可以先uninstall,再install。

Memcached插件相關的配置信息如下,具體介紹可以參考官方文檔

mysql> SHOW VARIABLES LIKE '%memcached%';
+----------------------------------+------------------+
| Variable_name                    | Value            |
+----------------------------------+------------------+
| daemon_memcached_enable_binlog   | OFF              |
| daemon_memcached_engine_lib_name | innodb_engine.so |
| daemon_memcached_engine_lib_path |                  |
| daemon_memcached_option          |                  |
| daemon_memcached_r_batch_size    | 1                |
| daemon_memcached_w_batch_size    | 1                |
+----------------------------------+------------------+

注意:daemon_memcached_r_batch_sizedaemon_memcached_w_batch_size,這兩個選項對性能影響較大,簡單點說就是控制事務提交的頻率,MySQL的缺省值均為1,也就是說每次都提交,這主要是從安全性考慮的,大家可以依照自己的情況來調整。

差不多了,此時Memcached端口應該準備就緒了,你可以試試看:

shell> echo "stats" | nc localhost 11211

換句話說,MySQL已經兼容Memcached協議,可以直接使用Memcached命令。

配置

在安裝步驟里,我們導入了一個名為innodb_memcached_config.sql的腳本,它除了導入測試數據外,還創建了Memcached插件所需要的配置信息:

mysql> USE innodb_memcache
mysql> SHOW TABLES;
+---------------------------+
| Tables_in_innodb_memcache |
+---------------------------+
| cache_policies            |
| config_options            |
| containers                |
+---------------------------+

cache_policies定義了緩存策略,包含如下選擇:

  • innodb_only:只使用InnoDB作為數據存儲。

  • cache-only:只使用傳統的Memcached引擎作為后端存儲。

  • caching:二者皆使用,如果在Memcached里找不到,就查詢InnoDB。

config_options定義了分隔符號:

  • separator:Memcached只識別單值,使用此分隔符(|)來連接多個字段的值。

  • table_map_delimiter:通過此分隔符(.)來確認表和鍵,如:@@table.key。

如果我們想通過Memcached協議來訪問一個表,需要先在containers中配置它:

mysql> SELECT * FROM containers\G
*************************** 1. row ***************************
                  name: aaa
             db_schema: test
              db_table: demo_test
           key_columns: c1
         value_columns: c2
                 flags: c3
            cas_column: c4
    expire_time_column: c5
unique_idx_name_on_key: PRIMARY

如上已經有了test數據庫的demo_test表,通過c1查詢c2的值,表結構如下所示:

mysql> DESC test.demo_test;
+-------+---------------------+------+-----+---------+-------+
| Field | Type                | Null | Key | Default | Extra |
+-------+---------------------+------+-----+---------+-------+
| c1    | varchar(32)         | NO   | PRI |         |       |
| c2    | varchar(1024)       | YES  |     | NULL    |       |
| c3    | int(11)             | YES  |     | NULL    |       |
| c4    | bigint(20) unsigned | YES  |     | NULL    |       |
| c5    | int(11)             | YES  |     | NULL    |       |
+-------+---------------------+------+-----+---------+-------+

缺省情況下有一行數據:

mysql> SELECT * FROM test.demo_test;
+----+--------------+------+------+------+
| c1 | c2           | c3   | c4   | c5   |
+----+--------------+------+------+------+
| AA | HELLO, HELLO |    8 |    0 |    0 |
+----+--------------+------+------+------+

讓我們用Memcached協議來訪問看看:

shell> echo "get @@aaa.AA" | nc localhost 11211
VALUE @@aaa.AA 8 12
HELLO, HELLO
END

我們還可以先設定缺省訪問的表,然后后續的查詢就只寫鍵名就可以了:

shell> (echo "get @@aaa"; echo "get AA") | nc localhost 11211
VALUE @@aaa 0 14
test/demo_test
END
VALUE AA 8 12
HELLO, HELLO
END

雖然我的例子都是通過命令行執行的,但是大家很容易就更改寫成PHP之類的方法。

限制

Memcached插件用起來非常簡單,不過并不是一切都很完美,比如說:當我們配置表的時候,containers表的字段,除了 key_columns和value_columns以外,其它的字段,如:flags,cas_column,expire_time_column等 也必須設定,可是很多時候,我們在原表中找不到貼切的字段,此時就只能對應新建三個字段,味道很惡心。

此外,containers表還有如下限制,不過隨著版本的更新,這些限制可能發生變化:

  • key_columns字段的類型必須是CHAR或VARCHAR,且最大長度是250個字符。

  • value_columns字段的類型必須是CHAR或VARCHAR或BLOB,長度不限。

  • cas_column字段的類型必須是BIGINT。

  • expiration_time_column字段的類型必須是INT。

  • flags字段的類型必須是INT。

說明:從5.6.14開始,key_columns類型可以是INTEGER。

實戰

讓我們以一個用戶登錄的例子來檢驗一下學習成果:

首先在測試數據庫創建一個用戶表:

USE `test`

CREATE TABLE `users` (
    `id` INT(10) UNSIGNED NOT NULL AUTO_INCREMENT,
    `username` VARCHAR(15) NOT NULL,
    `password` VARCHAR(32) NOT NULL,
    `email` VARCHAR(50) NOT NULL,
    `flags` INT(10) UNSIGNED DEFAULT '0',
    `cas_column` BIGINT(20) UNSIGNED DEFAULT '0',
    `expire_time_column` INT(10) UNSIGNED DEFAULT '0',
    PRIMARY KEY (`id`),
    UNIQUE KEY `username` (`username`)
) ENGINE=InnoDB;

然后添加幾行測試數據:

INSERT INTO `users` (`username`, `password`, `email`)
VALUES
('foo', 'ffffffffffffffffffffffffffffffff', 'foo@domain.com'),
('bar', 'bbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbb', 'bar@domain.com');

接著在containers里配置這個表:

INSERT INTO innodb_memcache.containers (
    name, db_schema, db_table, key_columns, value_columns,
    flags, cas_column, expire_time_column, unique_idx_name_on_key
) VALUES (
    'default', 'test', 'users', 'username', 'password|email',
    'flags', 'cas_column', 'expire_time_column', 'username'
);

這里我們定義了多個字段(password和email)作為value_columns,并且使用豎線作為分隔符,實際上使用空格,分號,逗號之類分隔符也可以,在innodb_config.c文件的源代碼中能查到如下關于分隔符的定義,文檔里并沒有涵蓋這些信息:

static const char* sep = " ;,|\n";

最后使用Memcached協議來訪問一下,這里我們換個花樣,執行一個MGET操作:

shell> echo "get foo bar" | nc localhost 11211
VALUE foo 0 47
ffffffffffffffffffffffffffffffff|foo@domain.com
VALUE bar 0 47
bbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbb|bar@domain.com
END

既然我定義value_columns的時候設置了多個字段,那么返回數據的時候自然也返回多個字段的數據,并且它們依照 innodb_memcache.config_options表中的separator字段來分隔,缺省情況下是一個豎線,如果你的字段內容里包含了豎 線,那么就會和缺省值發生沖突,此時你可以更新separator的定義,比如改成三個豎線等等,需要提醒的是,修改后別忘了重啟Memcached插 件。

說明:因為們在配置的時候把表命名為default,所以在請求的時候不用傳遞表名。如果不存在default,那么會把名字按照字母順序正序排列,排在第一位的就是缺省。

本文在使用Memcached插件的時候,所有例子均使用的是讀操作,實際上寫操作也是支持的,不過在實際使用時,我更傾向于寫操作都通過SQL來 執行,而Memcached插件僅處理KV形式的讀操作,實際壓力測試的結果顯示,Memcached插件比SQL的方式,性能提升了百分之一百左右,雖 然仍不及獨立的Memcached,但考慮到其它的優勢,這個結果已經很讓人欣喜了,下一站,InnoDB的Memcached插件!

 本文由用戶 jopen 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
 轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
 本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!