BIGLOBEの「はたらく人」と「トガッた技術」

BIGLOBEと世界を繋ぐ〜ピアリングコーディネーターの仕事〜

組織間を直接接続するピアリングは通信品質を向上しコストを低減します。日本・アジア・世界のインターネットをより良くするため、粘り強くピアリング交渉に取り組む様子をお伝えします。

基盤本部ネットワーク技術部の山口です。

2022年の11月初頭にタイ王国のバンコクで開催された、Peering Asia。その内容をレポートすると共に、あまり表に出ることのない、ピアリングコーディネーター1の仕事について紹介したいと思います。

ピアリングとは?

ここから先を理解するには、まずインターネットの仕組みとピアリングについて理解をしておく必要があります。既にご存知の方はこの章は飛ばして次の章にお進み下さい。

ピアリングと聞いて何のことかご存知ではない方は同じネットワーク技術部の前野さんが解説される動画「AS運用ことはじめ」をご覧頂くと良いかと思います(パートI 1時間、パートII 23分)。

www.nic.ad.jp

長い動画ですので、すべてを見る時間の無い方向けに、最低限知っておいて欲しいポイントを3点ご紹介します。

1. インターネットの仕組み

インターネットは、各組織が持っているネットワークが、インターネットプロトコルとBGP(Border Gateway Protocol)という仕組みによって、相互に接続されることで成り立っている、地球規模の情報通信網です。今このブログを見ている貴方のパソコンなどでどこかのWebサイトを表示すると、世界中のどこかにあるWebサイトのサーバと、あなたのパソコン(WiFiを使っている場合はブロードバンドルータなど)は、必ず物理的にケーブルで繋がっています。

このBGPという仕組みによる相互接続にはAS(Autonomous System)という世界中で一意の番号が使われます。BIGLOBEはAS2518、KDDIはAS2516、AmazonはAS16509、GoogleはAS15169といったように番号が割り当てられています。

このAS同士の接続関係は大きく「トランジット」と「ピアリング」に分けられます。

図:トランジットとピアリング

2. トランジット

トランジットはあるASが、他のASに料金を支払い、インターネット全体への到達性を提供してもらうことです。インターネット接続を提供する側を「トランジットAS」、インターネット接続の提供を受ける側を「顧客AS」と呼びます。

顧客ASは契約に従い基本料金と、実際にトラフィックを流した分だけの従量料金を毎月支払うのが一般的です。

3. ピアリング

一方、ピアリングは通常は無償で行われ接続に対する対価は発生しないことが一般的である、対等な関係です。無償と言っても、接続に必要なデータセンター内の光ケーブルを敷設する費用などの実費は発生し、これらは双方が負担します。

このピアリングにはプライベートピアリングとパブリックピアリングの2種類があります。

プライベートピアリングは双方のASが入居している同じデータセンター内などで、個別に回線を用意して1:1で接続することです。

図:プライベートピアリング

パブリックピアリングは、ピアリングをするための専用のネットワーク(巨大なスイッチングハブのようなもの)を用意している、インターネットエクスチェンジ(IX)という場所に接続し、そのIXに集まるAS同士がピアリングすることです。お互いのトラフィック量が専用回線を用意してプライベートピアリングをする程でもないような場合もIXを利用すれば気軽にピアリングをすることができる上、1本の回線で複数のASとピアリングすることができるため、帯域を有効に活用することができます。IXを利用するにはIX事業者と契約して料金を支払い、ポートとIPアドレスの割り当てを受ける必要があります。

図:インターネットエクスチェンジでのピアリング

なおピアリングでの接続はインターネット全体への到達性をどちらかが提供する訳ではなく、お互いの経路情報の交換のみとなります。

ピアリングの目的

ではピアリングはどのような目的で行われるのでしょうか。ここまで読まれた方は何となくお気づきかもしれませんが、改めて説明します。

コストの削減

前述の通りトランジットは従量制であることの多い有償の契約であり、これを利用して通信をすればするほどコストが掛かります。当たり前の話ですが、安価にお客さまにサービスを提供し、会社の利益も確保するには、原価を削減する必要があり、トランジットに依存する必要がある通信をできるだけ減らす必要があります。

通信品質の向上

全てのトランジットがそうでは無いのですが、トランジットを経由するということは、 単純にトラフィックが通過するASが増えることでもあり、時に通信が遠回りとなってしまうことがあります。また、経由するASのどこかで回線の混雑など通信品質の悪化が発生しているかもしれません。

直接接続することでこのような問題が発生するリスクを最小限に抑えることができます。

トラフィックコントロールを容易に

上記の2つと比較すると少し分かり辛いですが、直接接続することでより、トラフィックのコントロールを容易に行うことができます。例えば自分のASと、コンテンツ事業者ASの間に別のASが入っている場合、どの接続ポイントでコンテンツ事業者のASに自分のASの経路が渡されるかは、間に入っているAS次第になってしまうことがあり、自らの意思でコントロールすることが難しくなります。これにより通信が遠回りになったり、品質が悪化するリスクが生まれることもあります。

直接ピアリングすることで、トラフィックをどこで受け取るかのコントロールが容易になります。BGPのパラメータを設定したり、ピアリング先のASと交渉することで、容易にトラフィックのコントロールが可能になります。

ピアリングの交渉の必要性

では、メリットが大きいのでどの組織もお願いすればピアリングをしてくれるかというと、そうではありません。例えば、トランジットを販売することを主なビジネスとしている会社は、無償で接続をしていたらビジネスが成り立たなくなってしまいます。そのような会社はピアリングをしてくれないことがほとんどです。

トランジット販売をしていない会社であってもさまざまな理由でピアリングを断られる事があります。例えば、ネットワークの帯域やルータのポートが不足しているなどの設備的な理由、そのASとのトラフィック量が少ないためピアリングをする価値がないという判断をされることは良くあります。

その他にもネットワークの設計ポリシー上の理由、会社間の力関係、国と国の関係など政治的な理由、地理的な位置関係、お互いのビジネスや思惑もあり、その理由はさまざまです。自分がどんなにピアリングをしたい相手であっても相手のビジネスにとってメリットが無ければドライに断られることも日常茶飯事です。

だからこそ、戦略を立てて、ピアリングしたい組織と粘り強く交渉をしてピアリングを実現していくことが必要になります。

BIGLOBEも誰とでもピアリングをする訳ではなくピアリングポリシーという一定のルールを設けています。このピアリングポリシーはWeb上で公開していますので、興味のある方はご覧いただければと思います。

世界と繋がるBIGLOBEのネットワーク

BIGLOBEは日本でサービスを提供している企業ですが、実は世界中にネットワークを伸ばしています。西はヨーロッパ、オランダのアムステルダム、東はアメリカ西海岸のロサンゼルス2とシリコンバレー、南はシンガポールや香港にネットワークがあります。これら海外拠点ではインターネットエクスチェンジに接続を行っており、世界中の組織とピアリングをしています。

図:BIGLOBEの海外ネットワークの接続状況

ピアリングコーディネーターの仕事

BIGLOBEでのピアリングに関する業務は、基盤本部ネットワーク技術部のISPネットワークグループが担っています。なお、チームとしてはさまざまな業務があり、ピアリングに関する業務はこの一部分でピアリングの専任者が居る訳ではありません。ちなみに、海外の大手コンテンツ事業者などはピアリング専門のチームが居るそうですよ…規模が違いますね。

ではピアリングコーディネーターがどのようなことをしているのか少し紹介したいと思います。

BIGLOBEのピアリングの目標

基盤本部ネットワーク技術部では「ID単価1.0倍」「品質スリーゼロ」というスローガンを掲げて業務に取り組んでいます。インターネット利用量は毎年1.4倍ずつ増えていて維持コストもそれにつられて上がります。しかし、利用量が増えてもお客さまへの請求額を増やさず1.0倍にするのが「ID単価1.0倍」です。また、お金・セキュリティ・人為ミスにまつわる3つの障害を毎月ゼロ件に抑えるのが「品質スリーゼロ」です。

これを達成するための一つの手段として「トラフィック量の100%をピアリングでカバーできるようにする」という目標を持って業務にあたっています。ピアリングでのトラフィック交換を増やすことで、トランジットトラフィックを削減し原価を改善するとともに、意図せず通信が遠回りになったり、品質の悪い経路を通過してしまうことを防ぎ、品質問題が発生するリスクを低減するという意味です。

ピアリングを受けてくれないASもある中でなかなか難しい目標ではありますが、高い目標をもって業務に取り組んでいます。ちなみに、先人の方々の努力もあり、トランジットに依存しているトラフィックは、全体トラフィックの5%程度と非常に少なくなっています。

戦略立案

まずはトラフィックを注意深く観察することが基本中の基本となります。日にもよりますが、私は勤務を開始すると、前日のトラフィック動向をチェックすることから始めることが多いです。

インターネットのトラフィックは人々の生活によって日々変化します。例えば先日開催されたサッカーのワールドカップの時は試合を視聴するトラフィックが増加しました。また、天候が悪い日は外出を控え自宅でインターネットを使う人が多くなるためか、トラフィックが増えることがあります。

このようなトラフィックの状況、ネットワークに関するコスト、品質などを日々分析し、どのASとピアリングする必要があるか、トラフィックを交換する場所はどこが最も効率的か、トラフィックの伸び率を考えていつまでに帯域を増強した方が良いか、などさまざまな情報を検討して戦略を立てます。特にトラフィック全体のバランスを考え、そのトラフィックをどこで受け取った方が、もっともコスト効率が良く品質が向上するかを考えることは重要です。

その結果、どのASとどこで接続したいかが具体的になったら、先方と交渉に臨むことになります。

新規接続交渉と開通作業

メールで接続のお願いをすることが一般的ですが、今回参加したようなイベントで直接接続の交渉をすることもあります。「そもそも接続できるか、接続の場所、予測されるトラフィック量、経路の量と内容、どのようなトラフィック制御をするか、プライベートピアの場合は必要なケーブル費用の負担と接続帯域」などが主な交渉内容となります。

接続交渉がまとまったら、プライベートピアリングの場合は接続に必要なケーブルの手配、その後手順書を作成してルータに設定を投入、開通作業を行います。

運用と接続の見直し

接続が完了してもそれで終わりではありません。トラフィックの変化などをキャッチアップして、帯域の増強や接続場所の追加などの交渉を必要に応じて行います。総務省の公開している「我が国のインターネットにおけるトラヒックの集計試算」というデータを見れば分かりますが、日本のインターネットラフィックは伸び続けており、トラフィックの伸びに合わせてピアリングの帯域を増速していく必要があります。

増速には部材の準備や作業者の手配など時間が掛かりますので、今後のトラフィック量をある程度予測し、先手を打って帯域を増やしていくというのも大切な運用の一つです。

接続場所の追加の交渉もよくある話です。例えば日本ではピアリングすることのできない、あるコンテンツ事業者とシンガポールでピアリングをしたとします。これは、シンガポールでそのコンテンツ事業者からBIGLOBEがトラフィックを受け取り、我々の費用で日本まで運んでいることになります。ピアリングをすることで直接トラフィックの交換ができ品質は向上しますが、高額な海外回線を使って日本にトラフィックを運ぶので、コスト削減効果は十分ではないかもしれません。そのコンテンツ事業者と日本でピアリングができるようになった場合、日本でピアリングしてトラフィックを受け取った方が、我々が負担してトラフィックを運ぶ距離(コスト)が少なくなります。海外のコンテンツ事業者だと海外でサービスがヒットしその後日本にも進出するようなパターンはよくある話です。

社外との窓口

バックボーンルーティングや品質に関する窓口的な仕事も大切です。お客さまからサポートセンターに「このゲームとの間の通信が遅い」といったお問い合わせがあった際にも最終的には我々のチームに調査依頼が回ってきますし、他社のISPやコンテンツ事業者から我々の通信経路について、コネクションを通じて問い合わせを受けることがあります。

BIGLOBEとBIGLOBEのお客さまにとってベストな状態を目指すことはもちろん、日本のインターネット全体にとってベストな状態を考えていくのも大切な仕事です。そのため、いろいろな所で人と人のつながりを作っておくことが大切です。

Peering Asia とは?

Peering Asia はアジア太平洋地域を中心とした組織のピアリングコーディネーターが集まるピアリング交渉のためのイベントです。ピアリング担当者以外にも通信キャリアの人なども参加し、インターネットに関するさまざまな交渉や商談が行われます。2017年に1回目が京都で開催され、2018年に2回目が香港で、2019年に3回目がマレーシアで開催されました。似たようなイベントは世界中で開催されており、北米を中心としたGlobalPeeringForumやAsiaPeeringForumなどがあります。COVID-19の影響で2年程開催が止まっていましたが、2022年11月に4回目が開催され、約100を超えるASと250人近い人が参加しました。

インターネットに関するイベントやカンファレンスというと、例えばJANOGなどがそうですが、プレゼンテーションを聞くことが多いかと思います。しかしPeering Asiaをはじめピアリング交渉のためのイベントでは個別のピアリング交渉に多くの時間が割かれています。

写真のように会場のホテルには4人程が座れる机が並び、1社につき1回30分のミーティングを繰り返します。

海外出張と言うと華やかなイメージがありますが、ピアリング交渉を目的としたイベントはかなりハードです。今回は朝の8時頃から夕方まで、ほぼ休みなくミーティングの予定が入っていました。ミーティングは基本的に英語で行われ、30分という限られた時間の中で希望を伝え交渉をまとめる必要があります。そのため、あらかじめ交渉先ごとにトラフィック量などの説明する資料を用意したり、交渉のポイントを英語で整理しておくなど、十分な準備を重ねて交渉に臨みました。

終了後は他の組織のピアリングコーディネーターの方などとの懇親会に参加し、ホテルで翌日の交渉に向けての戦略を練るなど、かなり忙しいのが実情でした。

対面で話す意義

昨今、世界中の人々とのコミュニケーションはオンラインミーティングやメールなどで日本に居ながら実現できるのは皆様もご存知の通りかと思います。そのような時代にあって、なぜ旅費を掛けて海外までミーティングをしに行く必要があるのでしょうか。

重要なことは、各組織のピアリング担当者同士で実際に会って、交流を深め、仲良くなることです。知り合いになり、仲良くなることで、細かい部分の意思疎通がしやすくなり交渉がスムーズに進むようになります。

時にはメールなどの記録に残る形で書くことが難しいオフレコの有益な情報を交換することもあり、これが双方のネットワーク戦略の立案に大きく役立つこともあります。万一ネットワークに障害が発生した際にも、お互い顔を知っている仲であるが故に、助け合って問題の解決に取り組むことができるなどのメリットがあります。

また、本来であればピアリングすることが難しい組織であっても、直接会って仲良くなるとピアリングをしてくれるようなケースもあります。意外に思われるかもしれませんが、人と人の繋がりで成り立っているのが、インターネットであったりします。

そのような事情から各社のピアリング担当者とは親密な関係を築けることも多く、私も一部の方とはFacebookやWhatsAppなどのSNSで繋がりもあり、業務外で一緒にお酒を飲みに行くこともあります。

交渉がまとまったら記念撮影しようぜ!なんてことも(APNIC理事のVincent ”Achie” Atienza氏と)

Peering Asia 4.0 で具体的にどんな話をしたの?

前述の通り、オフレコの会話があることもあり関係者外秘の事項も多く、残念ながら具体的な交渉の内容についてはこの場でお話することはできませんが、差し支えない範囲でご紹介したいと思います。

とある組織との帯域増強の話

とある組織とのピアリングの接続帯域を増速しようと以前からメールでお願いをしていました。しかし先方の運用ポリシーを満たさない部分があり、お断りされ続けていました。

担当者と直接お会いして弊社の事情を丁寧に説明したところ、「我々の運用ポリシーから外れる部分があるが、そのような事情ならピアリングの接続帯域を特別に増やしましょう」ということで接続帯域の増強の合意に至りました。

トランジットを経由するトラフィック問題の解決

以前からピアリングをしていたとある組織とは、ピアリングをしているにも関わらず、 一部の通信がトランジットを経由してしまうことに悩まされていました。メールで改善できないか何度か問い合わせをしていましたが、改善しない状況が続いていました。

担当者と直接お会いして会話をしたところ、先方のネットワークの設計上、追加で別の場所でピアリングをすることで問題が解消することが判明しました。帰国後に追加のピアリングの設定を行い、トランジットを経由する通信は大幅に減少しました。

調達の交渉

ネットワーク技術部では専用線などのネットワークサービス、トランジット、ネットワーク機器などのハードウエアを他社から調達してネットワークを作っています。そのため、この調達に関する交渉を行うことはピアリングと同じくらい重要な業務で、「固定ID単価1.0倍」の達成にも大きくかかわってきます。

多くのサービスやハードウエアの調達交渉は日本の担当営業が居て日本で行えるのですが、イベント会場には「各社の営業(特に外資は本国の人)、実際にサービスを利用している同業他社、調達先のライバルとなる会社」などの関係者が揃っており、交渉を進めるには絶好の条件が整っています。

特に国際回線などは本国の担当者と話した方が良い条件が引き出せることがありますし、オンライン会議ではなく異国の地で顔を合わせて交渉した方が話が進みやすいような気がします。

ネットワーク技術部では主要なネットワークサービスやトランジットについて毎年契約更改による価格の見直しを行っています。Peering Asia 4.0が開催された2022年11月もこの契約更改を直前に控えており、会場で希望の条件などについて各社と交渉を行いました。

その他

ピアリングの交渉の他にも、経済発展が著しい東南アジアの海底ケーブルやネットワーク事情、大手コンテンツ事業者の今後の通信量の増加についての予測や設備増強計画についての情報(これはBIGLOBEの設備計画を考える上でも役立ちます)、昨今発生している国家間の政治的な対立がインターネットに与える影響についてなど、貴重なディスカッションをすることができました。

また、会期中にとあるゲームのアップデートがあり、大きなトラフィックが発生する事象がありました。それによりとある回線の帯域が逼迫しそうになったため、そのゲームのアップデートを配信しているコンテンツ事業者の担当者とリアルタイムにトラフィック量を見ながら問題の解決のためディスカッションをするということもありました。

おわりに 〜この仕事の楽しさ〜

人それぞれかと思いますが、私は「BIGLOBEはもちろん、日本、そしてアジアのインターネットをよくしたい」という強い思いを持ってこの仕事をしています。その中でもピアリングの仕事の楽しさは以下のような点にあるのかと思います。

  • さまざまなデータを集め、情報をキャッチアップし、BGPやインターネットプロトコルという決められたルールの中で、戦略を組み立てる楽しさ
  • 自分の立てた戦略がうまくいった際に、実際に数字で成果が見られる楽しさと、達成感。
  • (少々大げさですが)自分の仕事が数百万のBIGLOBE会員に影響を与え、さらには世の中を動かせるというスケールの大きさ
  • 世界中の人と話し、さまざまな考え方や文化に触れる楽しさ

実際にピアリングの設定作業をする時、手順書に従いルータのインタフェースのパケット数のカウンタを確認しますが、双方でルータがルーティングの情報を学習し、トラフィックが流れ、パケット数のカウンタの数字が回り始める瞬間はドキドキしますし、うまくいったときは達成感があります。

一方で、仕事の成果はトラフィック量という形で具体的な数字で見えてきますし、ある意味で会社の顔として世界の人々の前に出ることになるので、慎重な発言が求められます。 作業で何かミスをすれば数百万のお客さまに迷惑を掛けることにもなります。交渉をしても具体的に成果が上がらなければ意味が無く、誤魔化しの効かないことがこの仕事の厳しいところです。

お客さまに快適にサービスをご利用いただけるよう、そして日本のインターネットが良くなるよう、BIGLOBEが日本のインターネットを引っ張っていく!位の心意気で、今後もバックボーン運営に取り組んでいきます。

長くなりましたが、最後までお読み頂きありがとうございました。

※ 記載している企業、団体、製品、サービス等の名称は各社またはその関連会社の商標または登録商標です。


  1. BIGLOBEの正式な役職ではない。ピアリング交渉を担当する人について大手の外資系IT企業などでは「ピアリングコーディネーター」と呼ぶ事がある。BIGLOBEではこの役割を基盤本部ネットワーク技術部が担っている。
  2. アメリカのロサンゼルスではトランジットの購入もしています。