如何在Docker中使用Open vSwitch
【編者的話】Open vSwitch是一個虛擬交換軟件,主要用于虛擬機VM環境,提供網絡的虛擬化。本篇文檔重點介紹如何在Docker中使用Open vSwitch。
這個文檔描述了如何在Docker(大于或等于1.9.0版本)中使用Open vSwitch。我們假設你已經安裝好了Open vSwitch和Docker。請沒有安裝好的讀者可以根據 INSTALL.md 和 www.docker.com 的指導來進行安裝。
Docker 1.9.0開始支持多主機網絡(multi-host networking)。我們可以通過OVNOpen vSwitch virtual network)來將Docker的網絡和Open vSwitch結合起來。
簡介
對于OVN和Docker的多主機網絡(multi-host networking),Docker需要分布式鍵值對存儲的支持。假設我們這里采用consul來提供分布式鍵值對存儲,并且你的主機IP地址為$HOST_IP。用戶可以使用下面的命令來啟動Docker進程:
docker daemon --cluster-store=consul://127.0.0.1:8500 \ --cluster-advertise=$HOST_IP:0
OVN為容器提供了網絡虛擬化技術。OVN和Docker的結合使用存在兩種模式—underlay模式和overlay模式。
在underlay模式下,OVN要求配置OpenStack來提供容器網絡。在這個模式下,用戶可以創建邏輯網絡,并且讓運行在虛擬機中的容器、獨立的虛擬機(沒有容器運行在其中)和物理機器連接到同一個邏輯網絡上。這是一種多租戶、多主機的解決辦法。
在overlay模式下,OVN可以為運行跨主機的容器們提供一個邏輯網絡。這是一種單租戶(是否能擴展到多租戶取決于安全特性)、多主機的解決辦法。在這種模式下,你并不需要預創建好的OpenStack。
值得注意的是,用戶必須在他想要運行容器的虛擬機或主機上安裝并運行Open vSwitch。
Overlay 模式
Overlay模式下,需要Open vSwitch 2.5版本或后續版本的支持。
- 啟動核心模塊
OVN架構中會有一個核心的模塊來存儲網絡信息。因此你需要在你其中一臺主機(IP地址為$CENTRAL_IP,并且已經安裝和啟動了Open vSwitch)上啟動相關的核心服務。
首先我們讓ovsdb-server監聽一個TCP端口:
ovs-appctl -t ovsdb-server ovsdb-server/add-remote ptcp:6640
接下來,啟動ovn-northd后臺進程。這個進程負責將來自Docker的網絡信息(存儲在OVN_Northbound 數據庫中)轉換成邏輯流存儲于OVN_Southbound數據庫。
/usr/share/openvswitch/scripts/ovn-ctl start_northd
- 一次性配置
在每一個你打算創建容器的主機上,你需要運行以下的命令(如果你的OVS數據庫被清空,你需要再次運行這個命令。除此之外,重復運行這個命令都是沒有任何影響的)。
其他的主機可以通過$LOCAL_IP地址來訪問到這個主機,它就相當于本地通道的端點。
$ENCAP_TYPE是指用戶想使用的通道的類型。它可以是”geneve“或者”stt“。(注意,你的內核需要支持以上兩個類型,用戶可以通過運行以下命令來檢測內核是否支持以上類型:“lsmod | grep $ENCAP_TYPE")
ovs-vsctl set Open_vSwitch . external_ids:ovn-remote="tcp:$CENTRAL_IP:6640" external_ids:ovn-encap-ip=$LOCAL_IP external_ids:ovn-encap-type="$ENCAP_TYPE"
最后,啟動ovn-controller(你需要在每一次啟動時運行以下命令):
/usr/share/openvswitch/scripts/ovn-ctl start_controller
- 啟動Open vSwitch網絡驅動
在默認情況下,Docker使用Linux網橋,但它支持外擴展。為了替換Linux網橋,我們需要先啟動Open vSwitch驅動。
Open vSwitch驅動使用了Python Flask模塊來監聽Docker的網絡API請求。因此,用戶需要先安裝Python 的Flask模塊。
easy_install -U pip pip install Flask
在每一個你想要創建容器的主機上啟動Open vSwitch驅動:
ovn-docker-overlay-driver --detach
Docker內部包含了一些模塊,這些模塊擁有類似于OVN的邏輯交換機和邏輯端口的概念。請讀者仔細閱讀Docker的文檔來查找相關的命令。這里我們給出了一些案例:
-
創建用戶自己的邏輯交換機
下面的命令創建了一個名為”foo“的邏輯交換機,它的網段為”192.168.1.0/24”:
NID=`docker network create -d openvswitch --subnet=192.168.1.0/24 foo`
- 顯示已有邏輯交換機
docker network ls
你也可以通過以下命令從OVN的northbound數據庫中查找到這個邏輯交換機:
ovn-nbctl --db=tcp:$CENTRAL_IP:6640 lswitch-list
-
Docker創建邏輯端口,并且將這個端口附加到邏輯網絡上
比如說,將一個邏輯端口添加到容器busybox的“foo”網絡上:
docker run -itd --net=foo --name=busybox busybox
-
顯示所有的邏輯端口
Docker現在并沒有一個CLI命令來羅列所有的邏輯端口,但是你可以從OVN的數據庫中找到它們:
ovn-nbctl --db=tcp:$CENTRAL_IP:6640 lport-list $NID
- 用戶也可以創建一個邏輯端口,并將它添加到一個運行中的容器上:
docker network create -d openvswitch --subnet=192.168.2.0/24 bar docker network connect bar busybox
用戶可以刪除邏輯端口,或者將它們從運行容器上分離出來:
docker network disconnect bar busybox
- 用戶也可以刪除邏輯交換機:
docker network rm bar
Underlay模式
在這個模式下,OVN要求用戶預安裝好OpenStack。 -
- 一次性配置
一個OpenStack的租戶創建了一個虛擬機,這個虛擬機擁有單張或多張網卡。如果租戶想要發送虛擬機中容器的網絡包,他需要獲取這些網卡的port-id。port-id可以通過以下命令獲得:
nova list
然后運行:
neutron port-list --device_id=$id
在虛擬機中,下載OpenStack的RC文件,這些文件包含了租戶的信息(我們用openrc.sh來指代它)。編輯這個文件,并且將之前獲取到的port-id以 export OS_VIF_ID=$port-id的格式加入到文件中。文件的內容如下:
!/bin/bash
export OS_AUTH_URL=http://10.33.75.122:5000/v2.0
export OS_TENANT_ID=fab106b215d943c3bad519492278443d
export OS_TENANT_NAME="demo"
export OS_USERNAME="demo"
export OS_VIF_ID=e798c371-85f4-4f2d-ad65-d09dd1d3c1c9 - 創建Open vSwitch網橋
如果用戶的虛擬機只有一個以太網接口(比如說eth0),你需要將這個設備作為一個端口加入到Open vSwitch的”breth0”網橋上,并且移除它的IP地址,將其他相關的信息轉移到這個網橋上。(如果有多個網路接口,用戶自己創建Open vSwitch網橋,并且添加接口到網橋上)
如果你使用DHCP來獲取IP地址,你需要關閉監聽eth0的DHCP客戶端,并且開啟一個監聽Open vSwitch breth0網橋的DHCP客戶端。
你可以讓以上的步驟持久化,比如說你的虛擬機是Debian/Ubuntu,你可以參考 openvswitch-switch.README.Debian,如果你的虛擬機基于RHEL,你可以閱讀 README.RHEL完成持久化。 - 開啟Open vSwitch網絡驅動
Open vSwitch驅動使用了Python Flask模塊來監聽Docker的網絡API調用。這個驅動還使用了OpenStack的python-neutronclient庫。因此,如果你的主機還沒有安裝Python Flask或者python-neutronclient,你需要使用以下命令來安裝:
easy_install -U pip pip install python-neutronclient pip install Flask
運行openrc文件:
../openrc.sh
開啟網絡驅動,并且提供OpenStack租戶的密碼:
ovn-docker-underlay-driver --bridge breth0 --detach
從現在開始,你可以使用和overlay模式類似的Docker命令了。請閱讀“man ovn-architecture”來理解OVN的技術細節。
原文鏈接: How to Use Open vSwitch with Docker (翻譯:楊潤青)
===========================
譯者介紹
楊潤青,90后博士僧,研究方向是網絡和信息安全。