AIのエンジニアリング基盤は、ROIへの道筋を明確にしながら、パフォーマンスと効率性をいかに向上させるのか。
ある製造業者は、GPUやストレージ、スイッチングインフラを寄せ集めてAIトレーニング環境を構築し、目標達成に必要な技術は揃っていると考えていました。ところが、各要素がどのように連携し、全体として効果的に機能するかについては十分に検討されていなかったのです。
そのため問題はすぐに表面化しました。数時間で終わるはずのAIの学習は数日に及び、高価なハードウェアは遊休状態に陥りました。エンジニアリングチームの間では、「このAIへの投資は本当に成果を生むのだろうか？」という疑問が広がり始めていたのです。
こうした話は、決して珍しいものではありません。AIが世界中の産業オペレーションにおいて重要な要素となる中、多くの企業がある事実に気づき始めています。それは、真の成果や飛躍的な改善は、GPUを追加したり、より大きなモデルを使ったりすることではなく、インフラ全体をひとつの統合されたシステムとして丁寧に設計・構築することによってもたらされるということです。
成果を見据えたエンジニアリング
寄せ集めで構築されたシステムはどうなったのか。HitachiVantaraのAI担当CTO であるJason Hardy氏によれば、コンピューティング、ネットワーク、ストレージのバランスを考慮して適切に設計し直したことで、改善は迅速かつ劇的に現れました。AIの学習処理にかかる実時間（wall clock time）が大幅に短縮され、出力は20倍に向上したのです。
「インフラは、各コンポーネントが何を提供しているのかを正確に理解できるように設計しなければなりません。」とHardy氏。「GPUがどのような成果に貢献するのか、それがデータ要件や処理速度、帯域幅にどのような影響を与えるのかを把握することが重要です。」
システムをスムーズに稼働させるためには、多くの企業が目を背けがちな課題である、老朽化したインフラに向き合う必要があります。
Hardy氏は、ある半導体メーカーの事例を挙げます。その企業のシステムは、AIを導入するまでは問題なく稼働していました。しかし、「AIを載せた途端、データを読み込むだけでシステム全体が停止してしまったのです」とHardy氏は語ります。
このような状況は、製造業界でよく見られる現象です。多くの製造現場では、何年、場合によっては何十年も安定して稼働してきたシステムに依存しています。「Windows 95が現役で毎日使われているのは、製造業くらいでしょう」とHardy氏。「こうした生産ラインは、何十年も止まることなく稼働してきたのです。」と続けます。
しかし、その長寿命のシステムが、現在の新たなニーズと対立しています。インダストリアルAIは、従来の業務アプリケーションとは比較にならないほど膨大なデータ処理能力を必要とする一方で、古いシステムではその要求に応えることができないのです。このギャップは、企業のめざす理想と実際の能力との間にミスマッチを生み出しています。
「私たちが追求しているのは、真の変革につながる成果です」とHardy氏は語ります。「以前は十分だった技術も、今ではもう少し力を発揮してもらう必要があるのです。」
リアルタイム要件からソブリンAIまで対応するハイブリッド構成
インダストリアルAIでは、一般的な業務システムが容易に感じられるほど、桁違いの性能が求められます。Hardy氏は、アジアの製造業者が導入した画像検査システムの事例について語ります。このシステムは、品質管理とコスト抑制のために、リアルタイムの画像解析に全面的に依存していました。「彼らは、品質向上と歩留まり改善、そしてコスト管理のためにAIを活用したいと考えていました」とHardy氏は語ります。
このAIは、生産ラインの速度に合わせて高解像度の画像を処理する必要があり、遅延やクラウドへの往復も許されません。システムは単に不良品を検出にとどまらず、問題の原因となった上流工程の設備を特定し、即時の修理を可能にします。さらに、部分的に損傷した製品を別用途へ振り分けることで、廃棄を減らしつつ歩留まりを維持します。
これらの処理はすべてリアルタイムで行われ、同時にデータを収集してモデルを継続的に再学習させることで、従来は廃棄の原因だった問題を、時間とともに改善される最適化の機会へと転換しています。
Hardy氏はクラウドのみの構成では、リアルタイム要件を満たすのは現実的ではないと指摘します。データを遠隔サーバーに送信し、結果を待つまでの遅延は、製造業が求めるミリ秒単位の応答には対応できません。
そのため、Hardy氏はハイブリッド型のアプローチを推奨しています。ミッションクリティカルかつリアルタイム性が必須の処理にはオンプレミスを基本とし、クラウドは一時的な処理能力の拡張や開発用途、そして多少の遅延が許容されるクラウド適性の高い業務に活用します。この考え方は、近年高まるソブリンAI（Sovereign AI）のニーズにも対応しています。ソブリンAIとは、重要なAIシステムやデータを外部のクラウドサービスに依存せず国家の境界内に留め、法規制や文化的要件に適合させるアプローチものです。Hardy氏によれば、サウジアラビアではAI資産を国内に集約するための投資が進められており、インドでは数千の言語とマイクロカルチャーに正確に対応するため、言語・文化に特化したAIモデルの構築が進められています。
AIインフラに必要なのはパワーだけではない
このような高度な性能の実現には、単に高速なハードウェアだけでは不十分です。求める成果とデータソースから逆算して設計する、エンジニアリングの発想が必要になります。Hardy氏いわく、「『100万ドル分のGPUが必要だ』とだけ言うのではなく、時には準備度85％で十分だ」とし、完璧主義よりも実用性を重視すべきだと強調します。
その状態から、規律の確立や、コスト意識の高い設計へと移行していきます。「こう考えてみてください。もしAIプロジェクトの費用があなた自身の予算から出るとしたら、その課題を解決するためにいくらまで支払いますか？その現実的な答えに基づいて設計すべきなのです。」とHardy氏は語ります。
このマインドセットは、規律と最適化を促します。このアプローチが機能するのは、産業側（運用要件）とIT側（技術的最適化）の両面を考慮しているからであり、その組み合わせは稀だと彼は言います。
Hardy氏の見解は、産業現場におけるハイブリッド・コンピューティング・アーキテクチャに関する近年の学術研究とも一致しています。Journal of Technology, Informatics and Engineering誌に掲載された2024年の研究*1
では、GPU単独の構成よりもCPUとGPUを掛け合わせた構成のほうがより少ないエネルギーで88.3％の精度を達成したことが示され、このエンジニアリング志向の有効性が裏付けられました。
インフラ設計を誤ると、財務的な影響は非常に大きくなります。Hardy氏は、従来の企業がGPUを大量に購入しながら、そのほとんど使われない状態になってしまっていると指摘します。その結果、適切なシステム設計によって得られる性能向上のチャンスを逃しているのです。 「GPUをまとめて大量に買う従来のやり方は、大きな無駄を生みます」とHardy氏。「インフラを先に考えるアプローチなら、この非効率を解消し、より優れた成果を実現できます。」
ミッションクリティカルなミスを回避する
インダストリアルAIにおいてミスは壊滅的な結果を招く可能性があります。誤作動する鉄道の分岐器、非常停止装置のないコンベア、故障した設備などは、人身事故や生産停止につながりかねます。
「私たちは、産業システムで行うすべてのことを100％正確に実行することを倫理的責務として強く意識しています。なぜなら、あらゆる判断が重大なリスクを伴うからです」とHardy氏。
この責任感こそが、日立のアプローチを形づくっています。冗長化システムや異常時に安全を確保する仕組み、慎重な段階的導入──こうした取り組みによって、スピードよりも信頼性を優先しています。「光の速さで進まないのには理由があるのです」とHardy氏は説明します。
こうした背景が、Hardy氏がAIプロジェクトの成功率について現実的な見方を取る理由を物語っています。「AIプロジェクトの80～90％は本番稼働に至りません。しかし成功したものは、それまでの挑戦全体を価値あるものにします」とHardy氏。「だからこそ、何もしないという選択肢はありません。前進し、革新し続けなければならないのです。」
AI Analytics Platform | Hitachi iQへ
Jason Hardy
Jason Hardy氏は、Hitachi VantaraのAI部門CTOです。同社はデータを活用したAIソリューションを専門としています。同社の中核となるHitachi iQは、スケーラブルで高機能な完成型のソリューションであり、企業や産業向けAIの高度な要件に応えるため、コンピューティング、ネットワーク、ストレージのバランスが取れたインフラを実現する上で重要な役割を果たしています。
＊こちらはCIOの記事を翻訳したものです。
