ネットワークオペレーションにおける生成AI技術の活用検討について

概要

我々通信事業者は、24時間365日大規模なNW設備の運用保守を続けております。
全国で提供する固定・モバイル回線は、設計構築に協力会社も含めて数万人レベルにも及ぶメンバーにより日々構築されており、数十～百万台の装置により構成されています。
大規模かつ成長し続けるNWを限りある人的リソースで保守するため、自動化を含めた業務の生産性向上に継続して取り組んでいる中で、急速に普及している生成AI技術のNWオペレーションへの活用に大きな期待をしており現場で試行錯誤を重ねています。
実運用向けた検討の中でいくつかの課題が抽出されており、それらに対するアプローチは以下のようなものになります。

まず生成AIの核となる大規模言語モデル（LLM）の環境構築に際し、クラウド上のLLMサービスの利用や、オンプレミスでLLM環境を構築するにはセキュリティポリシーに抵触したり、コストが膨大になるリスクがあります。フィージビリティ（実現性）から模索中の段階で、このような問題を解決できる大きなプロジェクトとし推進が可能な組織は多くないと思います。
そこで、データサイズが小さく一般的なPCでも動作するモデル（Local LLM）を組み合わせて、セキュアなオンプレミス環境に比較的安価で用意できるマシンリソースの中で動作するアーキテクチャの構成を試み、精度・応答速度などを評価してみました。

次に、NWオペレーションにおける判断には、過去のトラブルチケットの内容、NW装置のアラーム情報やコマンド応答内容など専門的な情報がほとんどの場合で必要になりますが、頻繁に更新されるこれらの情報をLocal LLMに直接学習させ続けることは難しいです。
このため、外部の情報をベクトルデータベースとすることでLocal LLMが検索・参照できるようにする検索拡張生成（RAG）という手法を用いてNWオペレーション特有の専門的情報をLocal LLMが取り扱えるようにしました。

また、LLMのテキスト形式のアウトプットを実際のオペレーションにつなげるためには、テキストから必要なオペレーションツールを判断しそれに合わせたインプットデータを作成するなど、LLMと既存のツールを連携させるモジュールの作りこみが必要となります。
Langchain Agentというフレームワークを利用し、LLMから実際のNW装置へのコマンド投入・応答解釈を行えるモジュールを作成しました。また、私たちが蓄積していたNW可視化のノウハウを組み合わせ、テキストでの応答にNW構成図を組み合わせよりオペレータにとって有益な情報を提供することを試みました。

さらに、NWオペレーションは、「トラブルチケット管理」「機器インベントリ管理」「顧客管理」といった様々な要素で構成されています。すべての要素を把握する１つのLLMエージェントを作るのではなく、それぞれの要素に特化させたLLMエージェントを複数組み合わせるマルチエージェント構成を適用することで、出力結果の精度向上を目指しております。

このような取り組みの経過を、実際のアーキテクチャ・評価データなどを用いて紹介させていただき、生成AI技術を活用したNWオペレーションの実運用に向けて活発な議論をさせていただければと思います

備考

このセッションでは、株式会社NTTフィールドテクノ佐藤さんから申し込みがあった「ネットワークオペレーションにおける生成AI技術の活用検討について」と、株式会社KDDI総合研究所宮坂さんから申し込みがあった「LLMと生成AIを活用したネットワーク運用」を統合し、生成AIのネットワークオペレーションへの活用をパネル形式で議論します。