お家に仮想基盤を作った話② [ネットワーク]

10Gbpsはいいぞ

前回からの続きです。
とりあえずESXiで3Tierまで決まったので、ネットワーク機器を選定します。

10G or 1G

まず重要になるのが転送速度です。
ただ、ここは結論1Gはやめとけ、となります。
理由としてはvMotionやライブマイグレーションが果てしなく遅くなるからです。

vMotionの動きについて

vMotionはESXi(というかvCenter)が使用可能な、仮想マシンを
起動中のまま他サーバで移動できる機能です。
このvMotionですが、内部的には仮想マシンの複製を作る動きをしています。

★サーバAの仮想マシンαをサーバBに移動するとする
1.仮想マシンαの仮想マシン情報をサーバBにコピーする
2.サーバAの仮想マシンαのメモリ情報をサーバBにコピーする
3.仮想マシンαのネットワーク接続先をサーバBに変更する
4.サーバAから仮想マシンαの情報を消去する

細かい差異はだいたいこの漢字で、重要なのは
2.サーバAの仮想マシンαのメモリ情報をサーバBにコピーする
となります。
仮想マシンが利用している2Gだか6Gだかのメモリをまんま移動先の
サーバに転送しています。
そして、メモリの転送速度はHDDやSSDの比ではなく、超高速です。
メモリから超高速で来たデータが、1GのEthernetで転送されると、
そこがとても大きなボトルネックとなります。
というわけで10Gにして。しろ

SFP+ or RJ45

10Gスイッチで次に悩むポイントとしては、端子規格です。
10G規格には現在、主に2つの規格がありそれぞれメリット、デメリットがあります。

RJ45 (10GBASE-T)


RJ45は一般でも多様されているEthernet接続規格の一種です。
1GのRJ45はよく見ますが、10GのRJ45はあまりみかけないと思われます。
実は10GのRJ45は厳密には10Gでなく、9.42Gbpsほどしか出ません。
更に、パケット送受信時にノイズによるエラーが発生しやすく、
送受信部に強力なエラー補正技術が必要で消費電力が大きい規格となります。
ついでに送受信時の遅延も若干あり、一部の有識者からは嫌われている規格です。
参考:電圧レベルは16段階に、増えたエラーは強力な「LDPC」で対策するも回路規模は増大……

し か し、実際問題RJ45というのは非常に便利で

  • ケーブルが単純で安い
  • 予備ケーブルの敷設が安価なので破損してもフリアク開ける必要がない
  • 互換問題やベンダーロックが無い
  • 狭い場所に押し込んでもケーブルが破損することはあまり無い
  • 物によっては30mや50m伸ばすことができる
  • つけ外しが容易

とメリットも結構あるのです。(じゃなきゃ一般人に普及してない)
ネットでRJ45を極端に嫌っている勢力は現場作業は下請けにさせて
スペックでしか構築してないしすてむえんじににゃーぐらいですね。

ただ、実は10GのRJ45は一般人が買うとなると割高なのです。
というのも一般層では「10GのRJ45は1Gのアップグレード版」という認識が強く
また、既存ケーブルなどが流用できるためかなり売れています。
内部プロトコル的はだいぶん違うのですが…。
そのため、中古でも10GBASE-Tのものは割高だったりと入手が難しくなっています。
後述のSFPと違い、10GBASE-Tの「スイッチ」と「NIC」があれば導入可能ですが、
その2種が異様に高止まりしてしまっています。
また、上記記事にあるように10GBASE-Tは多数のエラー補正技術が必要のため、
まともに扱える発熱になったのは、最近のチップとなっています。
数年前からあった規格ですが、その頃のチップはとても爆熱です。
(このときの知識から「10GBASE-Tはクソ!」言ってる老害もおりますが..)
最近の10GBASE-TはCat5Eでもリンクアップするし発熱少ないよ…

SFP+ (10GBASE-X)


SFPとはSmall Form Factor Pluggableの略称で、
主に光ファイバーの接続に使用されます。
TXとRXの2芯を利用し、全二重通信が可能です。
SFPが1G、SFP+が10G、SFP28が25G、SFP56Gが50Gです。
めんどくさいのであとは「SFP」を記載します。

光ファイバーというと敷居が高そうに感じますが、
安価なもので良ければ安いものがあります。
SFPを使った10G環境の構築には「スイッチ」「NIC」「SFP」「光ケーブル」が必要です。
この「SFP」ですが、実は物によって「スイッチ」「NIC」と同じベンダーものを
利用しなければならないことがあります。
そのため、選択肢が限られてしまうのですが、昨今はそれも不要な便利な業者がいます。
また、SFPに加え光ケーブルもかなりの安価で入手できてしまう業者です。
いくつか業者はいますが、私がよくお世話になっており二社をご紹介します。(non PR)

FS.com
多数の種類を扱っており、サーバラック用の部品まである。
最近は日本に倉庫が出来たことで送料と関税の問題が解消された。
ラインナップに無いSFPの情報の書き込みも別途依頼することで実現可能。
日本語対応もとても丁寧で安価SFP購入の入門としておすすめ

FiberJP
とにかく安い。
送料も安いし関税も・・・
FS.comと比べるとラインナップに弱いものの十分な数を揃えている
若干、怪レい日本语があゑもゐゐ、不良品発生时も丁寧に对应レてㄑれゑ。

純正品の価格を知っているとかなり不安になる価格の安さですが、
個人用途として使うなら何も問題ないレベルでした。

SFPにも複数種類がありますが、とりあえず10GBASE-SR(ショートレンジ)で大丈夫です。
ショートレンジですが300mぐらいできますし、そんな長い光ケーブルは流石に高額です。

DAC (ダイレクトアタッチケーブル)


更に価格を抑えたい場合、上記サイトで販売されているDACというものもおすすめです。
これは単純に言うと「SFP」と「光ケーブル」が一体化したものです。
厳密には光ケーブルではない(AOCは光)ですが、同じ機能を持ちます。
短距離でしか使えませんが、RJ45のように抜き差しで使用でき、
ある程度耐久力も持っています。
SFPと光ケーブルそれぞれ買うよりは格段に安いので
低コストで構築したい場合おすすめですが、
ケーブルが太かったり、自由度が低いので個人的にはおすすめしません。

NICについて

上記サイトで「SFP」と「光ケーブル」は安価に買うことができるのですが、
「スイッチ」と「NIC」はこのサイトでも高い印象があります。
「NIC」は中古で良ければヤフオクやebayなどで安価に販売されていることが多いです。
というのも、10GBASE-Xに対応したNICは数年前が全盛期で、昨今はリース満了で
中古に流れていることが多く、安価に買えるケースが多数です。
Intel X540やMellanox Connect-X3のチップを搭載したものを多く見かけます。
IntelNICは光ケーブルの場合ベンダーロックがありますが、
Intel互換SFPは上記サイトでも変えますし、ebayで異常に安いです。
Mellanoxはベンダーロックは基本ありません。

10Gスイッチ


10Gスイッチは総じて高額です。
いい中古と巡り合えたらラッキーぐらいの感覚が重要です。
新品で安いメーカーとしてはMikroTikがあります。
ラトビアのメーカーで基本的に設定はGUIになるのですが、
10Gスイッチ等を安価に販売しています。
ESXiで仮想基盤を構築するのであれば、L2スイッチング性能があればOKです。
おすすめはCRS309-1G-8S-PC
10Gが8ポートあり、LACPなど基本的な機能な利用可能でありながらお値段は30k台!
Amazonでも販売されていますが、EuroDK(今は違うサイト?)で買うほうがお安いです。

もう少し出せるのであれば、CRS326-24S+2Q+RMがおすすめ。
24ポートSFPに加え、2ポートのQSFP(40G)搭載いて、
ブレイクアウトケーブルを利用すれば総計32ポートのSFP(10G)が利用可能です。
なのにお値段は60k台。
L2スイッチとして使うのであればコスパは最強です。

スタックが組めない

上記スイッチですが、致命的なデメリットとしてスタックが組めません…。
正確にはMLAGというCiscoで言うvPCは組めるのですが、
ナレッジ情報が圧倒的に足りません。
自分は諦めてActive(10G)-Backup(1G)で運用してます。

10Gスイッチを買え

今導入するなら10Gスイッチ以外ないと思います。
次回はサーバについて紹介します。