⚡ 特別なチップいらずで30倍速い？｜Kogが挑む推論高速化の勝算
アイ
目次
特別なチップいらずで30倍速いって、正直信じられなかった
フランスのスタートアップKogが、AMD MI300XやNVIDIA H200といった標準的なデータセンター向けGPUの上で動作するソフトウェア最適化レイヤー「Kog Inference Engine(KIE)」を開発しているの。専用ハードウェアを使わなくても、既存の汎用GPUが大規模モデルの推論に向いていないという通説に挑む内容だよ。
このニュースを最初に見たとき、正直「そんなにうまい話があるの？」って半信半疑だったの。ハードウェアを買い替えなくても、ソフトウェアだけで推論速度が最大30倍になるなんて、聞いただけだとちょっと出来すぎな話に聞こえちゃうんだよね。
でも創業の経緯や実績を読んでいくと、これは一発のバズワードじゃなくて、地に足のついた技術的なアプローチなんだなっていうのが伝わってきたの。
派手な新モデルの話題が多い中で、こういう「今あるものを、もっと速く動かす」という裏方の技術に光が当たるのは珍しいから、今日はじっくり掘り下げてみたいなって思ってるよ⚡。
AIを使う側としては意識しにくい部分だけど、こういう技術が積み重なることで、わたしたちが普段使ってるAIサービスの応答速度やコストにも、じわじわ影響してくる話だと思うの。
チャットAIに質問してすぐ答えが返ってくるとか、画像生成があっという間に終わるとか、そういう「当たり前」の裏側には、実はこういう推論の高速化技術がぎっしり詰まってるんだよね。
今日はそんな縁の下の力持ちみたいな技術に、ちゃんとスポットライトを当てて紹介していきたいなって思ってるよ。
そう考える7つの理由
理由1：「専用ハードウェアじゃなくてソフトウェアで速くする」発想が新鮮だった
まず最初に引っかかったのが、Kogが選んだアプローチそのものについて。
世間では、AIの推論を速くしたいなら、専用の高性能チップを新しく開発するのが王道だっていうイメージが強いと思うんだよね。
わたしも、AIの計算を高速化する話といえば、まず新しい半導体の話を思い浮かべてしまうタイプだったの。
でも実際のKogのアプローチは違っていて、AMD MI300XやNVIDIA H200のような、すでに世の中に出回っている標準的なGPUの上で動くソフトウェア層を作ることで、性能を引き出そうとしているんだよね。
なぜなら、新しい専用ハードウェアを一から開発するには膨大な時間とコストがかかる一方で、既存のGPUの性能をソフトウェアの工夫で引き出せれば、企業はすでに持っている設備をそのまま活用できるから。
わたしの感覚だと、この「今あるものを買い替えずに速くする」という発想は、導入のハードルを大きく下げてくれる、すごく現実的なアプローチだと思うの。
だからこそ、わたしはKogのやり方を、派手さはないけど実用性を突き詰めた、玄人好みの戦略なんじゃないかなって受け止めているよ。
新しいチップの開発競争がニュースになりがちな中で、こういう裏側の効率化にフォーカスする会社があるのは、業界のバランスとしてもすごく健全なことなんじゃないかなって思うの。
しかも新しい専用チップは、企業が導入するまでにハードウェアの入れ替えや設備投資が必要になるから、実際に効果が出るまでのリードタイムがどうしても長くなりがちだよね。
その点、既存のGPUをそのまま使えるソフトウェア的なアプローチなら、導入のスピード感もまったく違ってくるはずだから、実用面でのインパクトはむしろ大きいんじゃないかなってわたしは思ってるの。
理由2：秒間3000トークンという具体的な数字に説得力を感じた
2つ目の理由は、実証された具体的な性能数値について。
世間では、こういうスタートアップの技術発表って、抽象的な「〇倍速い」という主張だけで終わってしまうことも多いと思うんだよね。
わたしも、こういう性能主張は話半分に聞いておいたほうがいいのかなって、最初は少し斜めに見ていたの。
でも実際には、20億パラメータのモデルで秒間3000トークンという具体的な数字を実証していて、そのうえで既存のエンタープライズ向けハードウェア上で最大30倍のLLM推論高速化を実現できる可能性があるとしているんだよね。
なぜなら、具体的なモデルサイズと具体的な処理速度をセットで示すことで、第三者が検証したり比較したりできる材料を提供していることになるから、単なる宣伝文句とは説得力が違ってくるの。
わたしの感覚だと、こういう定量的なデータをきちんと開示している時点で、ある程度の技術的な自信の表れなんじゃないかなって感じたよ。
だからこそ、わたしはこの秒間3000トークンという数字を、Kogの技術力を測る一つの手がかりとして、素直に評価していいのかなって思ってるの。
数字を噛み砕くと、体感としてはかなりスムーズな応答速度に近いイメージだから、実用面での恩恵も大きそうだよね。
それに、推論速度が上がるということは、同じ数のGPUでより多くのリクエストをさばけるようになるということでもあるから、サービスを提供する企業側からすると、コスト削減にも直結する話になってくるの。
わたしたちユーザーから見えるのは応答の速さだけかもしれないけど、その裏では運用コストの圧縮という、もう一つの大きなメリットが生まれてるんだろうなって想像してるよ。
理由3：創業者の経歴が、この技術への信頼感につながってる気がする
3つ目の理由は、創業者兼CEOのGaël Delalleau氏の経歴について。
世間では、スタートアップの技術力を判断するとき、創業者の経歴まで細かくチェックする人は少ないと思うんだよね。
わたしも普段は、技術内容そのものに注目することが多くて、創業者のバックグラウンドまではあまり気にしていなかったの。
でも実際にDelalleau氏の経歴を見てみると、エコール・ポリテクニークで固体物理学を学び、TechCrunch50 2009に選出されたStribeの創業経験もあって、攻撃的サイバーセキュリティとGPUアーキテクチャの知見が、今回の技術的なアプローチの土台になっているんだよね。
なぜなら、GPUの中身を深く理解していることと、セキュリティ分野で培われる「システムの隙間を見つける視点」の両方が、既存のGPUから性能を絞り出すという今回の課題に、すごく噛み合っているように思えるから。
わたしの感覚だと、物理学のバックグラウンドとサイバーセキュリティの経験が組み合わさっているのは、かなり珍しい組み合わせで、それがこの技術の独自性につながっているんじゃないかなって感じたの。
だからこそ、わたしはこの経歴を知って、KIEという技術が単なる思いつきじゃなくて、専門性に裏打ちされたアプローチなんだなって納得感が増したよ。
技術そのものだけじゃなく、それを作っている人のバックグラウンドを知ると、ニュースの見え方がぐっと立体的になる気がするよね。
過去にTechCrunch50 2009という舞台に選ばれた経験があるということは、以前から起業家としての実績を積んできた人物だということでもあるから、今回が単なる思いつきの新規事業じゃなくて、積み重ねの延長線上にある挑戦なんだなっていうのも伝わってくるの。
一つの分野を極めた人が、また新しい領域に挑戦する姿って、見ていて素直に応援したくなるよね。
理由4：200件超の引き合いという実績が、単なる技術デモじゃないことを物語ってる
4つ目の理由は、実際のビジネス面での反応について。
世間では、技術力が高くても、実際にお金を払ってくれる顧客がついてくるかどうかは別問題だと思われがちだと思うんだよね。
わたしも、技術デモがどれだけすごくても、実際のビジネスとして成立するかは別の話だよなって、冷静に見てしまうところがあるの。
でも実際には、5月の技術プレビュー以降、200件超の有望な引き合いを獲得していて、ソフトウェア開発やアプリ・ゲーム生成分野のデザインパートナーもすでについているんだよね。
なぜなら、推論コストや速度は、AIサービスを提供する企業にとって直接的な収益性に関わる部分だから、技術の有効性がある程度証明されれば、企業側も積極的に検証を始めやすいから。
わたしの感覚だと、公開から数ヶ月という短い期間でこれだけの引き合いを集めているのは、技術デモの段階を超えて、実際のニーズにしっかり応えられている証拠なんじゃないかなって思うの。
だからこそ、わたしはこの200件超という数字を、Kogの技術が「理論上速い」だけじゃなくて「実際に使いたい」と思わせるレベルに達していることの裏付けとして捉えているよ。
デザインパートナーがすでについているという事実も、実際の現場での検証が進んでいることを示す、地味だけど重要なポイントだよね。
理由5：11人という少数チームでここまでやってることに驚いた
5つ目の理由は、Kogのチーム規模について。
世間では、こういう最先端のインフラ技術を扱う企業は、大人数の専門家チームで開発を進めているものだというイメージを持つ人が多いと思うんだよね。
わたしも、GPUの深いレイヤーを扱う技術って、それなりに大きな組織じゃないと開発できないものだと思い込んでいたの。
でも実際には、Kogのチーム規模はわずか11人で、この人数で200件超の引き合いや複数のデザインパートナーとの協業をこなしているんだよね。
なぜなら、GPUアーキテクチャに関する深い専門知識を持つ少数精鋭のメンバーが集まれば、大人数よりもむしろ意思決定が速く、技術的な一貫性を保ちながら開発を進められる場合があるから。
わたしの感覚だと、この少数チームでの成果は、量より質を重視したチーム作りがうまくいっている証拠なんじゃないかなって感じたよ。
だからこそ、わたしはこの11人という数字を見て、AIインフラの世界でも、規模の大きさだけが正義じゃないんだなってあらためて感じさせられたの。
少ない人数だからこそ生まれるスピード感や柔軟さも、スタートアップならではの強みなんだろうなって思うんだよね。
理由6：フランス発というのも、なんだか新鮮に感じた
6つ目の理由は、Kogの拠点や資金調達の背景について。
世間では、AIインフラの最先端技術というと、アメリカの企業が中心というイメージを持っている人が多いと思うんだよね。
わたしも、GPUや推論高速化の話は、どうしてもアメリカの巨大テック企業が主役になりがちなイメージを持っていたの。
でも実際には、Kogはフランス発のスタートアップで、シード資金はVarsity VCが共同リードし、Scaleway・Bpifrance・French Tech 2030プログラムといったフランス国内の支援体制からバックアップを受けているんだよね。
なぜなら、フランスには国を挙げてAI・テック領域のスタートアップを育成しようという政策的な後押しがあって、Bpifranceのような公的機関がスタートアップの資金調達を支える土壌が整っているから。
わたしの感覚だと、アメリカ以外の国からも、こうした最先端のインフラ技術を手がけるスタートアップが育ってきているというのは、AI産業の裾野が広がっている証拠なんじゃないかなって感じたの。
だからこそ、わたしはこのニュースを、Kogという一企業の話だけじゃなくて、AIインフラの国際競争が多極化しつつあることを示す一例としても興味深く読んだよ。
こういうヨーロッパ発の技術がこれからどう存在感を増していくのか、わたしも注目していきたいなって思ってるの。
理由7：9月のマイルストーンという、次の正念場に注目したい
7つ目の理由は、これから訪れる重要な節目について。
世間では、スタートアップの資金調達というと、大きな金額を集めた時点がゴールのように語られがちだと思うんだよね。
わたしも、資金調達のニュースを見ると、つい「調達できてよかったね」で終わらせてしまいがちなの。
でも実際には、KogはシリーズAを予定していて、それに先立って9月のマイルストーンとして、主要モデルを10倍速で実装するという具体的な目標を掲げているんだよね。
なぜなら、シード段階の技術的な主張を、次の資金調達につなげるためには、投資家に対して実際の成果として示せる具体的な達成目標が必要になるから。
わたしの感覚だと、この9月のマイルストーンは、Kogにとって技術力を証明する正念場であると同時に、わたしたち外部の人間がこの会社の実力を見極める、わかりやすい判断材料にもなると思うの。
だからこそ、わたしはこの9月の結果がどうなるのか、続報が出たらぜひチェックしたいなって今から楽しみにしているよ。
30倍という主張がどこまで実際のプロダクトで再現されるのか、その答え合わせが少しずつ見えてくる時期になりそうだよね。
まとめ：地味な最適化技術こそ、AIの実用化を左右する
今回のニュースをまとめると、フランスのスタートアップKogは、AMD MI300XやNVIDIA H200といった標準的なデータセンター向けGPU上で動作するソフトウェア最適化レイヤー「Kog Inference Engine」を開発していて、20億パラメータのモデルで秒間3000トークンを実証し、既存ハードウェア上で最大30倍のLLM推論高速化を実現できる可能性があるとしているの。5月の技術プレビュー以降200件超の引き合いを獲得し、チーム規模11人でVarsity VC・Scaleway・Bpifrance・French Tech 2030の支援を受けながら、9月のマイルストーンを経てシリーズAを予定しているよ。
ポイントを整理すると、専用ハードウェアじゃなくソフトウェアで速くするという発想の新しさ、秒間3000トークンという具体的な数字の説得力、創業者の物理学とサイバーセキュリティを掛け合わせた経歴、200件超の引き合いが示すビジネス面での手応え、11人という少数チームの機動力、フランス発という国際的な広がり、そして9月のマイルストーンという次の正念場という、7つの視点があると思うの。
わたしはこのニュースを読んで、AIの進化って新しいモデルの発表だけじゃなくて、こういう地味な最適化技術の積み重ねによっても支えられてるんだなってあらためて実感したよ。派手さはないけど、こういう技術がコストや速度を改善してくれるからこそ、わたしたちが日常的に使っているAIサービスも、少しずつ快適になっていくんだと思うの。
AIを支えるチップやインフラの世界にもっと興味を持った人は、AIを動かすチップの世界｜NVIDIA一強が終わりかけている話もあわせて読んでみると、Kogのような会社がどんな業界構造の中で挑戦しているのか、もう少し広い視点で理解できると思うの。
わたしはこれからも、派手なモデル発表の裏側で、こういう地道な高速化技術に取り組んでいる会社にもちゃんと注目していきたいなって思ってるよ⚡。9月のマイルストーンの結果、続報が出たらまた掘り下げてみたいな。
関連記事: AIを動かすチップの世界｜NVIDIA一強が終わりかけている話
ソース:
よくある質問
- Kog Inference Engineとは何ですか？
- フランスのスタートアップKogが開発する、AMD MI300XやNVIDIA H200など標準的なデータセンター向けGPU上で動作するソフトウェア最適化レイヤーです。専用ハードウェア無しでLLM推論を高速化します。
- どれくらい速くなるのですか？
- 20億パラメータのモデルで秒間3000トークンを実証しており、既存のエンタープライズ向けハードウェア上で最大30倍のLLM推論高速化を実現できる可能性があるとしています。
- 創業者はどんな人物ですか？
- 創業者兼CEOのGaël Delalleau氏は、エコール・ポリテクニークで固体物理学を学び、TechCrunch50 2009に選出されたStribeの創業経験もあります。攻撃的サイバーセキュリティとGPUアーキテクチャの知見が技術の土台になっています。
- 資金調達の状況は？
- シード資金をVarsity VCが共同リードし、Scaleway・Bpifrance・French Tech 2030プログラムが支援しています。9月のマイルストーン(主要モデルを10倍速で実装)を経てシリーズAを予定しています。