概要
生成 AI を用いたネットワークオペレーション改善・効率化は、
実運用への本格導入が進む重要な技術トレンドです。
LLM 適用の効果は JANOG でも多くの発表がされております。
その有用性が確立される一方で、LLM を利用するための実課題・運用コストについてはまだあまり見えてきません。
NTT-AT ではLLMを用いたSyslog・パケット解析システムをサービス化し、各社様に導入を進めております。
上記内容を弊社サービスとして運用した際の「LLM利用オペレーションの実運用課題・実コスト」について、
実例を中心にご紹介させていただきます。
また実際に、今年度の大規模ネットワークでの実証実験結果を元にして、
・どの程度の利用コストが発生し
・どのような方式でコスト改善効果が見られたか
といった内容についても、ご紹介させていただきます。
「どのような利用ケースで」「どの程度のコストがかかり」「どう改善したのか」といった、
今後のネットワークオペレーションの一助となるナレッジを、皆様に共有できればと思います。
[主要トピック]
(1)LLMを用いたネットワーク・ログ監視における実運用構成
①Agentic AIによるイベントドリブン型トラブルシューティング
②MCPプロトコルによるネットワーク情報との連動
(2)LLMを用いたネットワーク・ログ解析の運用事例と課題
① オペレータのAIリテラシにどう追従するか
② NWデータRAGにおけるリアルタイム解析の困難さ
③ NWデータRAGのセキュリティと匿名化
④ LLMオペレーションの「実利用コスト」と改善手法
(3)大規模ネットワークでの実証実験(2026)
①大規模ネットワークでの実証構成
②どの程度の「実利用コスト・利用トークン」が発生したか
③「実利用コスト・利用トークン」をどのように改善したか
議論ポイント
LLMを活用したNWオペレーションの事例・実例をご紹介しつつ、
JANOGの皆様と、実運用での課題や改善方法について、議論できればと考えております。
特に、LLMの長期的な運用コストや、持続的な改善方法について、
実証実験の内容を踏まえながら、今後のナレッジに繋がる議論をさせて頂きたいです。
[議論ポイント]
・LLM利用の実運用で、困りごとはないか
・LLMオペレーションのイニシャルコストをどう考えるか
・許容できる「利用コスト」と改善方法について
・運用環境のアップデート方法
プログラムで扱う内容について
TBA
場所
本会議場1F(メインホール)
日時
Day1 2026年7月15日(水) 14:45～15:30 (45分)
📅 Googleカレンダーに追加発表者
TAKANO YUUKI
Renugunta Tanmay
公開資料
各種情報
| ストリーミング配信 | 実施する |
| アーカイブ配信 | 実施する |
| SNSやSlackでの議論 | 制限しない |
ストリーミング配信
準備中
アーカイブ配信
本会議終了後、順次配信予定です