概要
生成 AI を用いたネットワークオペレーション改善・効率化は、
実運用への本格導入が進む重要な技術トレンドです。
LLM 適用の効果は JANOG でも多くの発表がされております。
その有用性が確立される一方で、LLM を利用するための実課題・運用コストについてはまだあまり見えてきません。
NTT-AT ではLLMを用いたSyslog・パケット解析システムをサービス化し、各社様に導入を進めております。
上記内容を弊社サービスとして運用した際の「LLM利用オペレーションの実運用課題・実コスト」について、
実例を中心にご紹介させていただきます。
また実際に、今年度の大規模ネットワークでの実証実験結果を元にして、
・どの程度の利用コストが発生し
・どのような方式でコスト改善効果が見られたか
といった内容についても、ご紹介させていただきます。
「どのような利用ケースで」「どの程度のコストがかかり」「どう改善したのか」といった、
今後のネットワークオペレーションの一助となるナレッジを、皆様に共有できればと思います。
議論ポイント
LLMを活用したNWオペレーションの事例・実例をご紹介しつつ、
JANOGの皆様と、実運用での課題や改善方法について、議論できればと考えております。
特に、LLMの長期的な運用コストや、持続的な改善方法について、
実証実験の内容を踏まえながら、今後のナレッジに繋がる議論をさせて頂きたいです。
[議論ポイント]
・LLM利用の実運用で、困りごとはないか
・LLMオペレーションのイニシャルコストをどう考えるか
・許容できる「利用コスト」と改善方法について
・運用環境のアップデート方法
プログラムで扱う内容について
LLMオペレーションの実サービスや大規模ネットワークの実証で得られたナレッジを元に、
お時間の許す限り、以下のトピックをご紹介させていただければと思います。
(1)LLMを用いたネットワーク・ログ監視における実運用構成
①Agentic AIによるイベントドリブン型トラブルシューティング
②MCPプロトコルによるネットワーク情報との連動
(2)LLMを用いたネットワーク・ログ解析の運用事例と課題
① NWデータRAGが”大きすぎる/多すぎる”
② オペレータのAIリテラシにどう追従するか
③ 大規模NWにおけるLLMオペレーションの「実利用コスト・利用トークン」と改善手法
④ 分析サービスとして提供した際の想定コストと実体
(3)LLMオペレーションのコストを考える
①LLM利用におけるイニシャルコスト・ランニングコストとは
②「費用」ではないコストも無視できない
③プロプライエタリモデルからオープンモデルへの代替可能性
場所
本会議場1F(メインホール)
日時
Day1 2026年7月15日(水) 14:45～15:30 (45分)
📅 Googleカレンダーに追加発表者
TAKANO YUUKI
Renugunta Tanmay
公開資料
各種情報
| ストリーミング配信 | 実施する |
| アーカイブ配信 | 実施する |
| SNSやSlackでの議論 | 制限しない |
アーカイブ配信
アンケート
