OpenAIがChatGPTのストレージ基盤を大規模刷新——読み取り速度を12倍に向上

OpenAI、ChatGPT向けストレージ基盤の大規模強化を報告

OpenAIは公式ブログにて、ChatGPTを支えるオンラインストレージ基盤のスケーリングに関する取り組みを紹介する記事「Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part II)」を公開した。同社によると、独自のストレージ基盤であるHabitatをアップグレードすることで、読み取り速度を最大12倍に向上させることに成功したという。

主な技術的取り組み

今回の記事（パート2）では、以下の3つの柱が紹介されている。

信頼性の高いマルチテナント対応

OpenAIは、膨大な数のユーザーを単一の基盤で効率よく処理するために、マルチテナントアーキテクチャの信頼性向上に取り組んだと報告している。詳細な実装については記事本文に記載されているとされるが、現時点で公開されている抜粋からは具体的な手法は確認できない。

グローバルキャッシュの導入

グローバルキャッシュの仕組みを取り入れることで、地理的に分散したユーザーへの応答速度を改善したとされている。ChatGPTが10億人規模のユーザーを抱える中、レイテンシの低減は体験品質に直結する重要な要素だ。

Azure Cosmos DBとの連携

Microsoftのフルマネージド分散データベースサービスであるAzure Cosmos DBをバックエンドに活用することで、スケーラビリティと可用性を確保したと報告されている。OpenAIとMicrosoftの深い協業関係が、インフラ面でも具体的な成果として表れた形だ。

10億ユーザーを支えるインフラの挑戦

OpenAIはChatGPTが10億人以上のユーザーに利用されていると述べており、これほどの規模のサービスを安定的に維持するには、ストレージ層の継続的な改善が不可欠となる。今回の施策は、ユーザー数の急増に伴う負荷増大に対応するためのものであり、同社が「パート2」として公開していることからも、インフラ改善が継続的なプロジェクトであることがうかがえる。

読み取り速度12倍という数値は、エンドユーザーにとっては会話履歴の読み込みや応答生成の高速化として体感される可能性があるが、具体的なユーザー体験への影響については、現時点で公開されている情報の範囲では詳細は確認できない。

今後、OpenAIがパート3以降の記事を公開するかどうかも注目される。

---

出典: Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part II)