プロジェクト概要
情報通信業の大手企業(連結従業員数 約10万人、東証プライム上場)が保有するIoT機器群のデータを一元集約し、分析・活用を可能にするプラットフォームの構築を支援しました。2024年8月のプロジェクト開始から同年11月のPoC(概念実証)まで、約3ヶ月という短期間でIoTデータの収集から可視化まで一貫して動作するプロトタイプを納品しました。
アーキテクチャの設計においては、将来的な500万台規模・約2.8万件/秒のデータ処理を見据え、AWS IoT CoreとKubernetesを組み合わせたマイクロサービス構成を採用しました。また、FIWARE・PostgreSQL・Keycloakなどのオープンソース技術を中心に据えることで、コア部分のクラウドプロバイダー非依存率95%以上を目標とした可搬性の高いアーキテクチャを実現しました。
課題
プロジェクト開始時に整理した技術・スケジュール上の論点
短期間でのPoC向けプロトタイプ構築
2024年8月にプロジェクトが開始されたが、同年11月のPoCに間に合わせる必要があった。それまでにIoTデータの一元収集と、収集データを可視化するサンプルアプリを動く状態で用意する必要がありました。
大規模データと突発負荷へのスケーラビリティ
中継器・IoT機器から大量のデータが送られてくる想定のため、突発的な負荷にも耐えうるスケーラビリティの担保が求められた。マイクロサービスアーキテクチャの採用と、オートスケーリングの実装が必要だった。
クラウド環境のポータビリティ
特定のクラウドプロバイダーに依存しないアーキテクチャが求められた。将来的なクラウド移行やマルチクラウド運用に備え、コア部分のクラウドプロバイダー非依存性を確保する必要があった。
解決策
大規模体制・スケーラブルアーキテクチャ・OSSスタックによる段階的アプローチ
短期PoCに向けた大規模プロジェクト体制の編成
3ヶ月という短納期に対応するため、PM・PL・アプリTL・インフラTLの4層構造を軸に最大15名のプロジェクトチームを編成。各リーダーが緊密に連携しながら、採用技術の検証と実装を並行して進めた。お客様とは打ち合わせやチャットを含め頻回にやり取りし、アーキテクトの工数を手厚く確保することで、短期間でのデリバリーを実現した。
- PM主導のもと、PL・アプリTL・インフラTLが各領域を並走
- 技術検証と実装を同時並行で推進し、手戻りを最小化
- 顧客との頻回コミュニケーションで仕様を迅速に確定
AWS IoT Core と Kubernetes による大規模スケーラビリティの実現
1,000台の中継器・その先にある500万台のIoT機器からのデータ(最大約2.8万件/秒)という高負荷に耐えるアーキテクチャを設計した。最もトラフィックが集中するMQTTS接続の受け口には AWS IoT Core を採用し、フルマネージドで信頼性の高いメッセージ処理を実現。後段の各サービスはマイクロサービスアーキテクチャで分割し、Kubernetes 上で稼働させることでサービス単位でのオートスケーリングを可能にした。特定サービスへの負荷集中にも局所的にスケールアウトで対応できる構成とし、システム全体のリソース効率と可用性を両立した。
- AWS IoT Core で1,000台規模のMQTTS接続を安定処理(フルマネージド)
- マイクロサービス分割により、ボトルネック箇所のみをピンポイントでスケールアウト
- Kubernetes のオートスケーリングで約2.8万件/秒の突発負荷に対応
OSSスタックと Kubernetes によるクラウドポータビリティの確保
コア部分のクラウド非依存性を高めるため、FIWARE Orion・Cygnus・IoT Agent をはじめ、PostgreSQL・Keycloak・Grafana・Next.js・NestJS といったオープンソース技術を中心に採用。これらをすべて Kubernetes 上で稼働させることで、特定クラウドへのロックインを回避した。さらにインフラ構成は Terraform でコード化し、GitHub Actions(self-hosted runner)と組み合わせることでデプロイを自動化。環境の再現性を確保しつつ、将来的なクラウド移行や環境複製にも最小限の変更で対応できる構成とした。
- OSSを中心とした技術選定でクラウド非依存性を確保
- Terraform によるIaCでインフラをコード管理し、環境の再現性を実現
- GitHub Actions(self-hosted runner)+ Terraform でデプロイを自動化し、運用コストを最小化
導入成果
短期デリバリーと将来を見据えたアーキテクチャ設計の成果
約3ヶ月で
プラットフォーム全体のデモを実施
8月開始から約3ヶ月で、IoTデータの一元収集から可視化まで動作するプロトタイプを納品。11月のPoCに向けたデモを実施し、構築した機能を網羅的に披露しました。
将来の大規模展開を見据えた
スケーラブル基盤を整備
設計想定の大規模トラフィックに耐えうるスケーラブルなアーキテクチャを確立。突発負荷時もシステム全体の可用性を維持できる構成としました。
クラウド移行に備えた
高いポータビリティ
OSS中心の技術選定により、将来的なクラウド移行や環境複製を最小限の変更で対応できる基盤を整備。ベンダーロックインのリスクを低減しました。
インフラのコード化と
デプロイ自動化
属人化を排除し、再現性の高い運用基盤を構築。デプロイ工数と運用負荷の低減を実現しました。
使用技術
本プロジェクトで使用した技術スタック