JANOG54企画編成委員の浅見です。
Day2 11:30~12:15にJPRSホール (コンベンションホールA)で開催されるプログラム、「LINEヤフー米国データセンタ技術の最前線：LLM（大規模言語モデル）と水冷技術への挑戦」について紹介します。今回は発表者の松谷 憲文さん(Actapio, Inc.)にお話を伺いました。
今回のプログラムを応募したきっかけを教えてください。
米国で仕事をしてきて、米国企業と日本企業で技術の差があると常々感じていました。以前から技術の差について発表したいと思っていたところ、今回うまく説明できそうな事例があったので、応募しました。
少し詳しく話しますと、我々は、AIやビックデータ用のデータセンタ構築をしており、OCP(Open Compute Project)のサーバを導入しています。一般的なサーバというのは、ベンダーが製造して、運用はユーザが行なっていますが、OCPのサーバはユーザ側が設計しているんです。これが、我々が直面する前の課題をすでに解決していたんですよね。こういったところがすごいなと思っています。
ちなみにJANOG52でも、「Yahoo! JAPAN アメリカデータセンタとネットワーク変遷」というタイトルでうちのデータセンタについて発表しています。
プログラム内容について教えてください。
米国での情報収集をもとに、LLM(大規模言語モデル）の普及によって大きく変化したインフラの要求に対して、水冷技術がなぜ有効なのか二部構成で紐解いていきます。
一部ではLLMの導入によりサーバワークロードが大幅に増加し、その結果、データセンタのインフラにどうのような影響があるのか？発生した問題を水冷技術で解決できるかを検証します。
二部ではGTC(GPU Technology Conference）で発表された新しいGPUに水冷技術が必須になっている理由を、米国企業の情報をもとに解説します。
Actapioでは米国で「課題解決の先駆者」から入手した最新の情報をもとに技術検証を行うことで、最善の技術を選択できている。このプロセスについても説明したいと思います。
アメリカで仕事をしている松谷さんから見た、アメリカと日本の違いを教えてください。
アメリカの企業が考える技術には、必ずwhyがあります。日本の技術の考え方だと、whatが強く、「なぜ」が抜けていることが多いのかなと思います。例えばアメリカの企業では、CEOが語るwhyと同じものを、会社のメンバも語れるんです。何かするとき、その裏にはちゃんとしたwhyがあるはずです。なぜアメリカと日本で考え方が違うのかというと、教育の違いだと思っています。アメリカの子供たちは、ディスカッションを多くやり、言葉巧みにきちんと説明する機会がたくさんあります。人を動かす源泉はwhyだということを、子供の頃から教え込まれていて、人の心を動かすということに長けているのだと思います。
やっぱり、日本人は隣の人がやっていることを正解だと思う傾向にあります。テストで全部100点を取る人がすごいと思われる。一方でアメリカは、なにかユニークなものがあるかが重要視されます。例えばバンドのクラブに入っててアメリカ中を飛び回っているとか、ディベートの大会で優勝するとか、そういったユニークな経験がないといい大学にはいけません。なので、こういったベースがそもそも違うのかなと思います。
あとは、大きな声では言えないですが、アメリカの人たちはお金が好きなんですよね。子供の頃からお金を稼ぐことを考えているし。学校でもマーケットみたいなものをやって、お金を稼ぐ経験をするんです。そういう経験を通して、whyがお金を稼ぐことになっているんです。そして、お金を稼ぐには自分1人だと限界があるので、人を動かしてなんぼってところがあり、人を動かすテクニックに長けているんだと思います。
日本人は空気読めって言われますけど、僕も空気読めなくなっちゃって来てます。笑
空気読むってなんだろうって思ってきてますね。日本は同調性が強くて、同調することが悪ではないですけれども、全部を同調してしまっては物事が進まないと思います。
アメリカと日本では働き方も違うのでしょうか？
例えばですが、ある会社と契約事項が10個あるとして、10個を達成したらプロジェクト完了だとします。アメリカでは、その契約事項の1つがまとまっていなくても、他の9個の案件を進めるんです。日本だと多分ありえなくて、10個分ちゃんと契約事項が決まってからじゃないと進めないと思うんです。でもそれじゃあいつまで経ってもプロジェクトが終わらないので、アメリカではプロジェクトを終わらせるために他の9個を進めるんです。ゴールを守る意識がみんなにあるのだと思います。ただ言いたいことはちゃんと言う、という。ゴールしないとお金が稼げないですから、ゴールに対する執念みたいなものがあると思います。
他にも、クオリティに対する概念が違いますね。日本は多分100%のものを作ってから動かします。検品をしっかりやるイメージです。けれど、アメリカではその検品をほぼしないんです。その代わり、リターンが簡単なんですよね。仕事でも同じで、アメリカでは、何か障害が発生した後にどう対処するかを考えています。何かあったときのプロセスがすごくちゃんとしているんです。日本だと、障害が起きないようにどうするかを考えてると思います。アメリカでは、クオリティコントロールのコストより、返品コストの方が安いと思っているんですよね。そこは文化の違いなのかなと思います。
逆に言うと、日本はクオリティコントロールがすごく優れています。品質の部分で細かく仕事をします。ただ、その分時間がかかってしまうことはデメリットだと思います。
アメリカで働くことになったきっかけを教えてください。
アメリカのデータセンタを見学したことがきっかけです。ヤフーで、インフラでやらなきゃいけないことってほぼやってしまったと思ったんです。そこで、アメリカのデータセンタに行ったら、もっと新しい技術がたくさんあったので、やっぱりそういったところにちゃんと身を置いて、より高い技術を身に付けたいなと思いました。
ヤフーって、米国ヤフーの技術を輸入して発展した会社だと思うんですが、僕がデータセンタを見学した2009年くらいから、黎明期といいますか、良いエンジニアも少なくなってしまい、技術の輸入があまりできなくなるんじゃないかという懸念があったんです。そんな中、やっぱりアメリカにちゃんとした技術拠点を作って、そこから輸入するべきだという流れになっていったことがきっかけです。
参加者に向けてメッセージをお願いします。
ネットワークエンジニアの方やそれ以外の分野の方にも、データセンタの技術やLLMの話をなるべく分かりやすく説明するつもりです。これからのネットワークエンジニアにはデータセンタの技術も、サービスの技術も必要だと思います。今回のプログラムを聞くとその周辺技術が身につくので、ぜひスキルアップのためにも参加してください！
アメリカのデータセンタ最新技術について知ることができるプログラムで、とても楽しみです。
松谷さんは「アメリカ流でなんでもお答えします！」とおっしゃっていましたので、
ぜひ議論に参加したり、替え玉エリアを活用して松谷さんに話しかけてみてください！
