BIGLOBEの「はたらく人」と「トガッた技術」

DNSOPS.JP BoFでの発表〜福岡進出で見えたDNSの課題〜

2023年11月末に開催された「DNSOPS.JP BoF」で登壇してきたので、この場をお借りして発表内容を紹介させていただきます。

はじめに

こんにちは、ネットワーク技術部の前野です。
2023年11月末に開催された「DNSOPS.JP BoF」で登壇してきたので、この場をお借りして発表内容を紹介させていただきます。

DNSOPS.JPとは

DNSOPS.JPはDNS Operators' Group, Japanの略で、日本のDNSオペレーターの方々が集まった組織です。
以下、公式ページの設立趣意の引用です。

    ドメインネームシステム(DNS)のオペレーションを通して社会基盤としての
    インターネットの安定運用に寄与することを目的とし、「日本DNSオペレー
    ターズグループ(DNSOPS.JP)」を設立します。

    本会は、DNSのオペレーションに関し、参加者間の情報交換、共有、議論の
    場の提供、円滑な運用のための情報公開、および国内外における関係各組織
    との連携等を行います。

DNSOPS.JPでは、定期的に勉強会やBoFが開催されており、DNS運用に関する情報交換や議論が行われています。

今回はInternet Week 2023の枠をお借りして、 DNSOPS.JP BoFが開催されたので、DNS関連の発表をしてきました。

発表内容

発表資料はDNSOPS.JP BoFの公式ページで公開されていますが、せっかくなので内容について少しだけ補足説明します。

発表資料:ISPが福岡に進出して見えてきたDNSの課題

発表の背景

総務省の公開している「我が国のインターネットにおけるトラヒックの集計・試算」というデータにもある通り、日本のインターネットトラフィックは年々伸び続けています。 BIGLOBEのようなインターネットサービスプロバイダ (ISP) は、トラフィックが増加する中でもお客様に快適なインターネット接続を提供できるよう設備の増強を日々進めています。 また、お客様への請求額を上げないように様々な工夫で設備の費用削減にも努めています。 設備増強の一環として、BIGLOBEは2020年頃から福岡へ進出し、東京・大阪に続く国内第3のネットワークコア拠点を構築しています。

地方への分散を進める目的

BIGLOBEは以下のような目的から福岡への進出を決めました。

  • 福岡拠点でトラフィックを折り返すことで、福岡〜大阪間のトラフィック配送コストを削減できる
  • 福岡拠点内の折り返しにより、九州/沖縄地域のお客様から見た通信レスポンスの向上や、災害時の耐障害性向上が実現できる

上記の福岡拠点でのトラフィック折り返しの効果を上げるためには、お客様がアクセスするコンテンツ(動画やゲームのデータなど)のトラフィックを福岡拠点内で増やす必要があります。

そのため、BIGLOBEではピアリングやCDNキャッシュの設置といった手法で福岡拠点のトラフィックを増やす試みを進めています。

福岡でピアリング開始

上記の資料にもあるように、2023年7月頃にとあるコンテンツ事業者様とピアリングをしたのですが、何故かトラフィックが増えなかったので調査をした、というのが今回の発表の背景です。

※ピアリングやCDNキャッシュといった用語は説明しようとすると別で記事が書けるボリュームなので今回は割愛させてください

※ピアリングについては、弊社の山口がTechBlogを書いているので興味がある方はご覧ください

style.biglobe.co.jp

なぜ福岡拠点のトラフィックが増えなかったのか

発表の背景にて、とあるコンテンツ事業者様とピアリングしたけど福岡拠点のトラフィックが増えない!という問題があると話しました。 調査した結果、弊社のDNS構成とコンテンツ事業者のトラフィック配信の仕組みが原因していることがわかりました。

以下は弊社のDNS構成とコンテンツ事業者のトラフィック配信の仕組みを簡易的に描いた図です。

DNS構成とコンテンツ事業者のトラフィック配信の仕組み

九州のお客様へのトラフィック配信の流れを文字で説明すると以下のようになります。

  1. 九州のお客様がコンテンツ(www.example.com)に端末からアクセスする
  2. 九州のお客様の端末には、西日本用キャッシュDNSのアドレスが自動設定されているため、端末は西日本用キャッシュDNSへwww.example.comの名前解決の問い合わせをする(※図の①)
  3. 西日本用キャッシュDNSは、DNSの通信の仕組みに従って最終的にコンテンツの権威DNSに対してwww.example.comの名前解決の問い合わせをする
  4. コンテンツの権威DNSは、西日本用のキャッシュDNSからアクセスが来たため、西日本のお客様からアクセスが来たと判断する(※図の②)
  5. コンテンツの権威DNSは、よりお客様に近いコンテンツサーバにアクセスしてもらうために、西日本用のコンテンツサーバのアドレスを西日本用のキャッシュDNSに返答する(※図の③′)
  6. 西日本用のキャッシュDNSは、九州のお客様の端末に西日本用のコンテンツサーバのアドレスを返答する
  7. 九州のお客様は西日本用のコンテンツサーバにアクセスする(※図の④′)
  8. 西日本用のコンテンツサーバから大阪〜福岡のルータを経由して、九州のお客様へトラフィックが流れる

コンテンツの権威DNSが九州のお客様の端末に対して、九州のコンテンツサーバのアドレスを返すと、九州内でトラフィックが折り返せるため想定どおりの結果になるのですが、実際には上記のような流れで大阪を経由した通信のままとなっていることがわかりました。

福岡拠点でトラフィックを増やすためには

  • 福岡拠点のトラフィックを増やしたいのに増えない!

  • どうやら弊社のDNS構成をどうにかしないとダメそう!

ということで、DNSの構成や設定を変えてこの問題を解決できないか、と考えた結果を説明したのがp.7以降の内容です。 以下にp.7以降の画像を載せています。

p.7以降はより細かい技術の話になるため、今回は詳細な説明を省かせていただきます。 導入の効果とハードル、コストや納期等を考慮して検討した結果をまとめた表をp.10に載せているので興味がある方はご覧ください。 質疑応答では、主にp.10の表をベースに日本のDNSオペレータの方々と議論しました。

質疑応答やフィードバック

発表後の質疑応答や懇親会では、様々な立場から以下のようなご意見をいただきました。

  • 導入効果やコスト、運用面等を考えると、選んだ手法は良いと思う

  • 拠点増加時の拡張性があるのでECS(EDNS Client Subnet)を使うのも良い

  • 今回の案以外にも以下のような手法があるかもしれない

    • DNSのアプリの機能(BINDのView機能など)を利用
    • 戻りのトラフィックをルーティングで制御
    • コンテンツ事業者との個別調整、など

会場の雰囲気

BoFは東京大学 伊藤謝恩ホールで行われました。以下に会場の様子を撮影した画像を添付しています。

キャプション:会場の様子

キャプション:登壇席の様子

キャプション:発表中の様子(右が前野)

終わりに

DNSOPS.JPのイベントへの参加は初めてで緊張していましたが、DNS初心者でも話しやすい和やかな雰囲気で、たくさんの方から様々な意見をいただいたので、参加して良かったと思っています。 質疑応答で議論が活発だったのは、p.10の検討結果をまとめた表のスライドでした。 他社のDNSオペレータの方からも弊社の選択は妥当だと思うといった意見や、検討した内容以外にもこうやれば解決できるのではないか、といった意見をいただき大変有意義な発表となりました。

今回の発表を通じて、社外発表をすると以下のようなメリットが得られることを改めて感じました。

  • 自社の考えを共有し他社のエンジニアから意見をもらうことで、自社の考えが業界的に妥当であるのかどうかを判断することができる

  • 自分では考えつかなかったアイデアを得ることができる

  • 業界に貢献しているといった感触が得られてモチベーションが上がる

今回の発表のアップデートについては、またどこかでお話する予定です。続報をお待ちください!

最後までお読み頂きありがとうございました。