COLUMN

セッション概要

セッションタイトル：[NET208]The power of cloud network Innovation

スピーカー：David Brown - Vice President, Amazon Elastic Compute Cloud(EC2)

セッションタイプ：Innovation Talk

セッションの説明（原文）：

From the very beginning, the AWS network has been the foundation for how AWS delivers on the promise of cloud computing. In this talk, join Dave Brown, VP of Amazon EC2 Networking and Compute Services, as he looks at the history of AWS networking and how its growth and innovation continues to this day—helping unleash your creativity and make leaps forward in what’s possible. With a combination of real-world examples and looks behind the scenes, Dave dives into the latest innovations in AWS core networking infrastructure, VPC networking, data center networking for AI/ML, security, and global connectivity.

セッション説明（日本語訳）：

ごく初期から、AWSネットワークはクラウドコンピューティングを保証するための基盤になっています。本セッションではAmazon EC2のネットワーキングとコンピュートサービス分野のバイスプレジデントであるDavid BrownとともにAWSネットワークの歴史、成長とイノベーションがどのように今日まで続いているか見ていきます。現実世界の実例と背景を振り返りながら、AWSのコアネットワークインフラストラクチャ、VPCネットワーク、AI/MLのためのデータセンタネットワーク、ネットワークセキュリティとグローバルコネクティビティにおける最新のイノベーションについてご紹介します。

本セッションは、すでにオンデマンドでも公開されております。

セッション模様

講演内容につきましては、白鳥のオリジナル要素と区別するため地の文で記載しております。

Why does networking matter?

なぜ、ネットワークが重要なのか？

多くの人が触れるために、ネットワークが必要。

1440年代の活版印刷の発明に遡って、ネットワークの進化の歴史と、AWSのネットワークの進化の歴史をオーバーラップさせながら解説する。

Networking is about connections（より多くの人に届ける：活版印刷（1440年代）と船舶によるネットワーク（15世紀））

お客さまはネットワークについて意識することが少なくなった一方で、必要となるネットワークのキャパシティは増大の一方である。

AWSグローバルインフラストラクチャにおける取組み

バックボーンは400Gbps、光ファイバーの距離は500万kmにもなった。

企業では74ゼタバイトのデータを利用し、2030年には96%がコネクテッドカーとなる見込みである。

AWSにおけるリージョンやLocal Zones増強の取り組み

2023年は2019年比で倍のキャパシティを必要とした。今後数年でまた倍になる見込み。

リージョンやアベイラビリティゾーンに加えて、Local Zonesも35に増えている。

Local Zonesについては、お客様の低遅延のニーズに基づいている。

光の速度を超えることはできないため、光のケーブルを短くする必要がある。

例えば、ロサンゼルスだと、オレゴンリージョンは25ms　Local Zonesだと1-2msとなり、映像業界で使われている。

お客さまとのネットワークを近くするために、Direct Connectのロケーションも増やしてきた。

130以上のDXロケーション　今年は20か所をオープンしている。

CloudFrontも2018年には150のPOPであったが、2023年には600のPOPと、13のエッジキャッシュ、毎日3兆リクエストを捌けるようになっている。

Amazon PrimeでNFLのライブ配信を行ったが、120Tbpsのトラフィックを捌いていた。

AWSの内部でのネットワーク増強および、最適化の必要性（より早く届ける：電報（1837年））

AWS内部のネットワークの進化

Nitroシステムを開発し、その進化を支えてきた。EC2のネットワーク帯域は2006年の1Gbpsから、2017年には25Gbps、2020年には400Gbpsまで使えるようになった。

近年MLやHPCの利用が高まるにつれて、内部のネットワークも進化する必要があった。

特にGenerative AIの進歩はすさまじく、2023年ではTrn1インスタンスでは1600Gbps、P5インスタンスでは3200Gbpsまで増えた。

また、利用するコンピュートリソースも増えており、2012年は2GPUで60Mのパラメータだったが、2023年のAnthropic Claude v2では、10000GPUで500Bのパラメータを必要とする

そうすると、クラウドの中のネットワークも最適化する必要がある。

AI/MLに最適化した専用のAmazon EC2 ULTRACLUSTER 2.0を作ったりしてきた。

EC2インスタンスがどこに存在するか、そのトポロジーを明らかにし、最適化するAPI（Amazon EC2 Instance Topology API）を作った。

ネットワークのルーティングも特定のネットワーク機器に集中しないようにする必要があり、今までのTCPでは難しかった。

これに対しても、SRD(Scalable Reliable Datagram)Routingを開発し、データグラムごとに異なるルートを通ることができるようにした。

ネットワークトポロジーの複雑性に対する進化

当初VPCは一つでよいと考えていた。それが間違っていることはお客様がすぐ証明した。

アプリケーションの独立性や、環境によって複数のVPCを必要とするし、接続性が必要である。

VPC Peeringを作ったが、100VPCをVPC Peeringで管理するのは無理があるので、Transit gatewayを作った。

今度はリージョン間を結んだり、拡大化したりする必要がある。

ネットワークの拡大のジャーニーの事例はお客様に話してもらう。

• ユーザー事例：Capital One

ゲストスピーカー：Will Meyer Senior Vice President, Cloud & Connectivity

2015年にAWS移行を開始し、2020年に最後のデータセンタをクローズした。

AWSに移行した結果、チームのデリバリ能力は10倍に進化。

約10万インスタンス、数10万のLambdaがデプロイされている。

”Any sufficiently advanced technology is indistinguishable from magic.”

一方で、ネットワークの複雑性が増えてしまった。4000くらいのVPCをTransit gatewayで集約。

一方で、IPアドレス管理はまだ難しい。

クラウドとの接続については、ゼロトラストの実現と、SD-WANからクラウドネイティブネットワークへの変革に挑戦している。

Building global networks

CloudWANでSD-WANとクラウドを管理することが大切だ。

SD-WANをシンプルにさせるために、AWS CloudWAN Tunnel-less Connectをリリースする

IPアドレス管理をどうするか、オンプレミスもあり、クラウドもある環境を一元的に管理する手立てをゲストスピーカーに紹介してもらう。

• ゲストスピーカー：Tina Morris Senior Manager、Technical Business Developer for IP Address Strategy

スプレッドシートでの管理は現実的ではないし、シンプルにする必要がある。

AWSにはネットワーク管理ツールとしてIPAMがあるが、いくつかアップデートを紹介する。

IPAM Enhancements（独自ネットワークのアサインを自動化する新機能）について

• サブネット割り当ての自動化
• BGP ASの持ち込み(BYOASN)※2023/11/17アップデート
• パブリックIP Insights※2023/7/28アップデート

IPv6を使うことも可能である。インターネットに面したアプリでの利用や、IPv4枯渇対策に有用である。

今年IPv6周りのアップデートを行った（紹介されていたのは7つ）

35のサービスがIPv6に対応しており、今後も増えていく予定である。

ネットワークの可用性の進化（より到達性と可用性を高める：TCP/IP（1970年代）とロードバランサ（1990年代））

最初は2台のコンピュータをつなぐだけだったがトラフィックを安全に捌く必要があり、1990年代にロードバランサが世の中に出てきた。

AWSでは2013年にELBをリリースし、当初は100Gbpsだったが現在では300Tbpsまで拡張できるようになった。

もっと自動的にトラフィックを処理できるよう、Anomaly Detection with automatic target weightを紹介する。

ユーザビリティの観点ではIPをあまり意識しないので、サービス単位のルーティングも今後必要になってくる（AWS VPC Lattice）

ネットワークセキュリティの進化（より安全に届ける：エニグマ暗号（1939年））

セキュリティも重要な課題である。ALBはSSLプロセスを安全にするために、mTLSに対応した。

Madpotという社内プロジェクトでインフラレイヤの取り組みを紹介すると、毎日1億ものアクションの中から50万ほどの不審な動きをフラグ付けし、リアルタイムのインサイトを行っている。

GuardDutyやWAF＆Shieldなどのノウハウに展開している。

攻撃者も巧妙化しているが、Madpotのほうが早く進化している。

2023年1Qだけで130万のDDoS攻撃を防ぎ、1000のC＆Cサーバに気づき、23万のレイヤ―7のDDoS攻撃元を解体した。

NW FirewallのアップデートでTLSの復号化と調査に対応、リソースタグの統合、複数の管理者経由のポリシー管理に対応できる。

そして、ゼロトラストへの対応には、多数のパートナーとの連携が可能。AWS Marketplaceでもセキュリティ製品が多数用意されている。

AWS Verified Accessでサードパーティのセキュリティ製品が併用可能である。

What will you build？

様々な技術の進化においてネットワークのテクノロジーは必要不可欠なパートだった。

お客さまが高速なイノベーションを続けられるよう、AWSは継続的に必要不可欠なパーツを高可用なインフラストラクチャで提供していく。

紹介されたアップデート

• Amazon EC2 Instance Topology API
• EFAアダプターが58すべてのNitroベースのインスタンスで使用可能
• AWS CloudWAN Tunnel-less Connect
• Amazon VPC IPAM BYOASN
• Anomaly Detection with automatic target weight
• ALB mTLS認証
• IPv6のアップデート(7つ)
• AWS Network Firewallの新機能

感想・所感

Capital Oneの中で、SF作家のアーサー・C・クラークの”Any sufficiently advanced technology is indistinguishable from magic”（高度に進化した化学は魔法と区別がつかない）という言葉の通り、今回のイベント全体としてはネットワークの進化について深く語られないほどに高度化してしまった一方で、AI/MLの進化に合わせてより多くのコンピュートリソースを高速に利用するためのネットワークへの最適化や、可用性についてのニーズが高まっていくという話と、ネットワーク分野に携わっていると長年の課題であるIPアドレス管理についての両極端な話が印象的でした。

個人的に一番大きなアップデートとしては、SRD(Scalable Reliable Datagram)RoutingがすべてのNitroベースのインスタンスで使用可能になったという話で、TCP/IPレイヤでの通信品質が変わっていくのではないか？という期待があります。

最後に

NTT東日本では、LAN環境からネットワーク、クラウド環境まで幅広いエリアでのお客様のクラウド化や、ビジネスモデルの進化のお手伝いをさせていただいております。

経験値豊かなメンバーがご担当させていただきますので、是非お気軽にお問い合わせください！