JANOG54企画編成委員の前田です。
Day2(2024年7月4日)15:30~17:00に開催される「ネットワークオペレーションにおける生成AI技術の活用検討について」の発表者の株式会社NTTフィールドテクノの佐藤 亮介さん、白井 嵩士さん、近藤 優吉さん、株式会社KDDI総合研究所の宮坂 拓也さん、KDDI株式会社の仲松 匠さんに本プログラムについてお話を伺いました。
下段左から白井さん、仲松さん、立松さん(プログラム委員)
応募したきっかけ
佐藤さん、白井さん、 田口さん、近藤さん：
JANOG 53にてNW障害可視化のテーマで発表させていただきました。その際参加者の方たちと非常に有益な議論ができたため、今回のテーマに関しても応募させていただきました。
立松(以下matsu)：障害可視化の発表の後は、替え玉エリアに長蛇の列ができていましたね！
宮坂さん：
LLMが使われ始めている今、NW運用においても研究含めて活用が始まっていますので、基礎的な技術から現場に落とし込むまでの具体的な例についてお話しし、議論ができればと思い応募させていただきました。
仲松さん：
より良いNWを実現するためのアプローチとして有用かどうか参加者の皆さんと議論したいと思い今回登壇させていただきます。活用しやすいNWや組織についてなど様々な点で議論させていただければと思います。
プログラムが統合？？
前田：
今回2つのプログラムが統合し一つになっていますが、なぜプログラムを統合することになったんでしょうか？
matsu：
少しイレギュラーではあったのですが、タイムテーブルを作成するタイミングで、この二つのプログラムをフュージョンさせたら面白いんじゃないか？と連続した枠に入れたんですね。
ゴールに向けてどのようにやっていくのかのやり方は違うはずで、それぞれに話していただいて、ディスカッションで「話しあい」できれば面白いのではと思い、最強プログラムとして採用された後にみなさんに相談させていただきパネル形式で統合しました。
アピールポイント、議論したいこと
NWを限りある人的リソースで保守するため、 自動化を含めた業務の生産性向上に継続して取り組んでいる中で、急速に普及している生成AI技術のNWオペレーションへの活用に大きな期待をしており現場で試行錯誤を重ねています。その中で抽出された技術課題とアプローチに関してご紹介させていただき、議論させていただければと思います。
まず生成AIの核となる大規模言語モデル（LLM）の環境構築に際し、クラウド上のLLMサービスの利用や、オンプレミスでLLM環境を構築するにはセキュリティポリシーに抵触したり、コストが膨大になるリスクがあります。フィージビリティ（実現性）から模索中の段階で、このような問題を解決できる大きなプロジェクトとし推進が可能な組織は多くないと思います。
そこで, データサイズが小さく一般的なPCでも動作するモデル（Local LLM）を組み合わせて、セキュアなオンプレミス環境に比較的安価で用意できるマシンリソースの中で動作するアーキテクチャの構成を試み、精度・応答速度などを評価してみました。
次に、NWオペレーションにおける判断には、過去のトラブルチケットの内容・NW装置のアラーム情報やコマンド応答内容など専門的な情報がほとんどの場合で必要になりますが、 頻繁に更新されるこれらの情報をLocal LLMに直接学習させ続けることは難しいです。
このため, 外部の情報をベクトルデータベースとすることでLocal LLMが検索・参照できるようにする検索拡張生成（RAG）という手法を用いてNWオペレーション特有の専門的情報をLocal LLMが取り扱えるようにしました。
また, LLMのテキスト形式のアウトプットを実際のオペレーションにつなげるためには、テキストから必要なオペレーションツールを判断しそれに合わせたインプットデータを作成するなど、LLMと既存のツールを連携させるモジュールの作りこみが必要となります。
langchain Agentというフレームワークを利用し、LLMから実際のNW装置へのコマンド投入・応答解釈を行えるモジュールを作成しました。また、私たちが蓄積していたNW可視化のノウハウを組み合わせ、テキストでの応答にNW構成図を組み合わせることで、よりオペレータにとって有益な情報を提供することを試みました。
このような取り組みの経過を、実際のアーキテクチャ・ツールの画面デモなどを用いて紹介させていただき、生成AI技術を活用したNWオペレーションの実運用に向けて活発な議論をさせていただければと思います。
障害対応などのノウハウから実際に何らかの答えをだすということが活用ポイントなのかなと思っています。現状も試験運用では、無茶苦茶な答えが返ってきてその都度修正するなど課題もありますので、デモも交えながらわかりやすく紹介し、皆さんと共有出来たらと思っています！
運用だけではなく、建設(構築)やお客様の対応といった具体例も今回の話には含まれていますので、ぜひその辺も聞いていただければと思います。
JANOG54の参加者への期待
生成AIを活用したいユースケースや、技術的・環境的な課題感など幅広く議論させていただきたいです。
推奨事前知識や参考資料
ChatGPTやGitHub Copilotなど代表的なサービスに関しては、説明の中でそのまま用いさせていただきます。技術的手法やフレームワークに関してはプレゼンの中で補足しながら説明させていただきますので事前知識がなくても問題ございません。
学生のみなさんも、怖がらずにぜひお話を聞きに来ていただければと思います。
最後に一言！
佐藤さん、白井さん、 田口さん、近藤さん：
今回のJANOG54のテーマが “話しあいで繋ぐInternet” ということで、急速に普及している生成AIに関してより活発な議論ができればと思っております。 何卒宜しくお願いいたします！
仲松さん：
奈良県出身なのでまさか地元でJANOGが開催されるとは、、、！という気持ちです。初登壇ですので、周りの方も巻き込んで盛り上げていきたいと思っています！
議論時間もたっぷり45分ありますので、いろいろなネタを元にワイワイと議論できたらと思っています！
