生成 AI の本番業務への適用を支援する「生成 AI 業務適用サービス」も合わせて提供
日立は、顧客の生成AI活用を試行段階から本格的な業務適用フェーズへの移行を加速するため、「生成 AI 活用プロフェッショナルサービス powered by Lumada」*1 を拡充し、専門的な業務に適した LLM*2 の構築や継続的な改善を支援する「業務特化型 LLM 構築・運用サービス」と、実行環境の構築・運用を担う「生成 AI 業務適用サービス」を 10月1日より提供開始する。これらのサービスは、業務レベルの回答精度を得る上で課題となる生成AI技術者の確保や大規模な学習環境への投資、実行環境の整備・運用といった顧客の負荷を低減する。
「業務特化型 LLM 構築・運用サービス」では、日立が、顧客の業務や生成 AI 適用の目標のアセスメントをもとに、企業がもつ固有のデータ（手順書や対応記録など）の選定や抽出を行い、業務知識として汎用 LLM*3 に学習させることで、その業務に適した規模・精度の LLM構築と、継続的な改善を行う。
また、構築した LLM と生成AIアプリを組み込んだ実行環境を、「生成 AI 業務適用サービス」により、ニーズに応じた場所で構築、運用する。特に、高い機密性が求められる場合には、顧客のオンプレミス環境で運用することにより、安心して生成AI を業務に活用することが可能となる。
この一連のプロセスには、顧客とともに業務への理解を深めながら、試行錯誤を繰り返すアプローチと、データエンジニアリング、AI のモデル学習、生成AI の環境構築など高い技術力が必要であり、日立が Lumada で培ってきた DXノウハウや、データサイエンティスト、LLMエンジニア、GPUエンジニア*4 といったプロフェッショナル人財など日立の強みを生かして対応していく。
今回、第一弾として、専門性の高い金融分野の業務や、コンタクトセンターの複雑な問い合わせ対応など、汎用LLM と RAG*5 だけでは専門知識の活用が難しい業務向けに提供を開始する。今後、製造業や交通インフラなど日立が深いドメインナレッジを有する OT（制御・運用技術）領域へも拡大し、現場の障害対応や生産工程の高度化などフロントラインワーカーの業務へも順次適用していく予定である。
日立は、顧客の生成 AI 適用の戦略策定から本番運用まで伴走し、DX 実現による生産性向上・競争力強化や持続的な成長を支援するとともに、労働人口の減少といった社会課題の解決を通じて、サステナブルな社会の実現に貢献する。
課題・背景
現在、多くの企業が生産性向上や顧客体験の改善などをめざして生成AI の活用を試行している。しかし、一般的な生成AI では専門性の高い業務に必要なレベルの回答が得られない場合が多く、業務適用には専門知識を学習させるための高度な技術やノウハウが必要となる。また、ビジネス環境の変化や技術の進歩に対応するためには、継続的な学習が不可欠であり、そのための生成AI 基盤の整備や専門人財の確保など、投資負荷が非常に大きいことが生成AI の業務適用の障壁となっている。
日立は、このような課題を解決するために、Generative AI センター*6 を中心として社内外で取り組んできた 50件以上の業務適用検証プロジェクトや、生成AI 共通基盤の構築で培ったノウハウを活用し新サービスを提供する。
新サービスの特長
1. 業務特化型 LLM 構築・運用サービス：専門的な業務に適した回答精度の LLMを整備
顧客の業務手順書や業務記録など、学習に必要な知識データの選定から日立のデータサイエンティストが支援する。そうした知識データは、社内関係者向けに特有の言い回しがある、紙で管理されているなど、そのままでは学習させることが難しいケースが多くあり。そこで、日立は顧客とともに、これらのデータを LLM に取り込みやすい形に加工し、効果的なモデル学習を進めていく。また、LLM エンジニアが、適切な汎用LLM の選定を行い、それをベースに、過学習による正答率の低下を防ぎながら専門知識を学習させる。さらに、回答精度を評価する技術や、LLM と RAG を適切に組み合わせる技術を駆使して、適切な規模と回答精度の LLM を構築する。
また、運用開始後も、ビジネス環境の変化や技術の進歩により業務特化型 LLM の改善が必要となった場合、日立の生成AI共通基盤上で LLMエンジニアが継続的な学習を担う。
2. 生成 AI 業務適用サービス：適切な実行環境の提供により、顧客の投資を抑制
学習済データの機密性やセキュリティポリシーに応じて、LLM と生成AIアプリを組み込んだ実行環境の導入先を選択できる。例えば、NVIDIA の最新AI機能と日立ストレージを搭載した Hitachi iQ with NVIDIA DGX*7 に業務特化型 LLM を組み合わせて、顧客のオンプレミス環境に導入することで、企業独自の業務ノウハウである学習済みの専門知識を保護しながら活用できる。
また、日立が生成AI の本格的な活用を通じて得たノウハウをもとに、生成AIアプリの開発・運用や、汎用LLM と業務特化型LLM の使い分けや組み合わせをガイドできるため、顧客は業務適用を円滑に推進できる。今後、オンプレミスとクラウドにまたがったハイブリッド環境で、顧客がデータの所在を意識せず、生成AI を自在に活用できる AIソリューションの実現をめざしていく。
これにより、顧客は膨大なデータ処理に耐えうる大規模な学習環境や生成 AI 技術者を確保する必要がなくなるため、投資を抑制できる。
*1： ニュースリリース（2024年7月22日発表）「生成 AI 活用プロフェッショナルサービス powered by Lumada」を提供開始」 https://www.hitachi.co.jp/New/cnews/month/2024/07/0722.html
*2： LLM： Large Language Models（大規模言語モデル）
*3： 汎用LLM： 公開データを中心に学習された言語モデルのこと。
*4： GPUエンジニア： GPUインフラの特性を理解し生成AI 基盤の構築・運用のノウハウをもつ専門技術者のこと。
*5： RAG： Retrieval-Augmented Generation の略。LLMに、外部情報の検索を組み合わせることで、回答精度を向上させる技術のこと。
*6： ニュースリリース（2023年5月15日発表）新組織「Generative AI センター」により、生成 AI の社内外での利活用を推進し、Lumada 事業での価値創出の加速と生産性向上を実現 https://www.hitachi.co.jp/New/cnews/month/2023/05/0515.html
*7： ニュースリリース（2024年7月29日発表）「日立ヴァンタラが、企業の AI 対応を支援する「Hitachi iQ」を販売開始」https://www.hitachi.co.jp/New/cnews/month/2024/07/0729.html
社内実証例
| 対象 | 評価内容 |
|---|---|
| コンタクトセンターの 問い合わせ対応 | ミッションクリティカルシステムを支えるサポートサービス「日立サポート 360」のコンタクトセンターでの問い合わせ対応の社内実証において、汎用LLM と RAG のプロンプトエンジニアリング技術の活用により、高い効果が確認できたため、10 月より問い合わせ対応の一次受けの本番業務に適用予定。今後、業務特化型LLM を、より複雑な問い合わせ対応などの業務にも適用を見込む。 |
| 自社製品のコンサルタント | 日立の IT運用管理ソフトウェア「JP1」のナレッジ・対応策のドキュメントを活用し、汎用LLM に JP1コンサルタントが持つべきノウハウを学習させ、合格率 24％*8という JP1 の最難関資格である「JP1コンサルタント資格」の認定試験へ挑戦。学習した LLM と RAG の組み合わせにより、合格点を上回った。 構築した業務特化型LLM は、将来的に、JP1コンサルタント業務の前提知識を補完するアシスタントとして活用を見込む。 |
| 有識者によるレビュー （システム開発） | ミッションクリティカルなシステムの開発における設計書のレビューを対象に、日立が蓄積してきた設計書レビューの観点や過去のチェック事例を LLM に学習させる社内実証を推進中。これにより、設計書の誤りや不備を特化型LLM が自動検出できるようにし、対面レビューでの指摘漏れなどのヒューマンエラーを抑え、効率よく、高い品質を確保することをめざす。並行して、プログラム開発時の設計書だけでなく、設計工程やテスト工程、QA 工程での生成 AI 適用に向けて取り組み中。 有識者によるレビューで培った LLM 構築ノウハウを活用し、今後、金融などの専門性の高い業務へ適用することを見込む。 |
*8： 2024年7月時点
「生成AI活用プロフェッショナルサービス powered by Lumada」に追加した新サービス
| サービス名称 | 価格（税別） | 提供開始時期 |
|---|---|---|
| 業務特化型LLM 構築・運用サービス | 個別見積 | 10月1日 |
| 生成AI 業務適用サービス |
* as a Service 型の提供は EverFlex from Hitachi で行う。
関連サイト
日立の生成 AI について
https://www.hitachi.co.jp/products/it/lumada/spcon/generative_ai/
EverFlex from Hitachi
https://www.hitachi.co.jp/products/it/everflex/
