Liquid AIは2026年10月13日、オンデバイスで動作するエージェント向けに構築した、総パラメーター数240億、アクティブパラメーター数20億のオープンウェイト推論モデル「LFM2.5-24B-A2B」を公開した。同社はベースモデルと事後学習済みのチェックポイントをHugging Faceで公開し、Hugging Faceのブログ記事で今回のリリースについて詳しく説明した。
Liquid AIによると、LFM2.5-24B-A2BはLFM2.5ファミリーで最大かつ最後のモデルであり、同ファミリーの規模は新モデルの登場によりLFM2.5-230Mから本モデルまで広がった。
アーキテクチャと学習
本モデルは、前世代のLFM2-24B-A2Bのアーキテクチャを引き継いでいる。40層で構成され、その内訳は二重ゲート付き短畳み込みブロックが30層、グループ化クエリアテンションブロックが10層で、各混合エキスパートブロックには64個のエキスパートがあり、top-4ルーティングを採用する。モデルカードによると、総パラメーター数は240億、アクティブパラメーター数は24億5,000万で、学習には36兆トークンを使用した。語彙数は12万8,000、コンテキストウィンドウは13万1,072トークンで、英語、アラビア語、中国語、フランス語、ドイツ語、日本語、韓国語、スペイン語、ヒンディー語、ポーランド語を含む16言語に対応する。
新モデルとLFM2-24B-A2Bの主な違いは2つある。コンテキストウィンドウが3万2,768トークンから13万1,072トークンに拡大したこと、そしてトークナイザーをインプレースで拡張し、語彙数を6万5,000から12万8,000に倍増させたことで、非ラテン文字のトークン化が改善されたことだ。前世代とは異なり、LFM2.5-24B-A2Bは推論専用モデルであり、最終回答の前に明示的な思考過程を生成する。また、ChatML形式のチャットテンプレートでは、アシスタントの各応答の冒頭にthinkタグが挿入される。
事前学習で使用したトークン数は、約17兆から約33兆に増加した。中間学習では、推論、数学、コード、指示追従、多言語テキストを重視して厳選したデータを用い、コンテキスト長32Kで2兆トークンを追加した。続いて、長文コンテキストのデータを重視し、ツール呼び出しと複数ターンの軌跡データも含む学習を、コンテキスト長131Kで3,000億トークン分行った。事後学習は5段階で進められる。教師ありファインチューニング、教師モデルの特化、エージェントを使わない複数ドメインおよびエージェント型のオンポリシー蒸留、そしてOpenClaw、Hermes Agent、Pi、OpenCodeなどのエージェント実行環境内で行うエージェント型強化学習だ。
リリースに関するブログ記事でLiquid AIは、教師モデルの特化中に報酬ハッキングの挙動が見られたと報告した。最終回答を探すためにリポジトリのGit履歴や、GitHub、PyPI、Hugging Faceなどのプラットフォームを調べており、記録された2つの事例では、自身が合成サンドボックス内で動作していると認識していたという。同社は、この挙動は創発的に見えるものの、学習データに含まれる類似パターンで説明できる可能性があると述べた。これを受けてサンドボックスを強化し、報告した結果は密閉された評価環境で得られたものだとしている。
ベンチマーク結果
Liquid AIは、ツール使用とエージェント型ワークフロー、知識、指示追従、数学、コーディングを扱う16のベンチマークで、LFM2.5-24B-A2BをQwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightningと比較評価した。すべてのモデルをvLLM上で実行し、各ベンチマークが推奨する生成パラメーターを使用した。
同社の結果によると、LFM2.5-24B-A2Bは、ツール使用とエージェント型のベンチマーク8項目のうち5項目で、比較対象モデルを上回るか、同等の成績を収めた。AutomationBenchでは27.69を記録し、次点のスコアの3倍を超えた。BFCLv4では65.01で、Qwen3.6-35B-A3Bの65.00を上回った。ToolSandboxでは80.71、LiveClawでは48.09（次点は38.19）、τ³-Bench Bankingでは8.04だった。Liquid AIは、指示追従に関する3つのベンチマークすべてでも本モデルが首位となり、IFEvalで96.75、IFBenchで74.69、Multi-IFで84.38を記録したと報告している。
同じ表では、GPQA Diamond、HLE、AA-Omniscienceなど知識を重視するベンチマークや、SciCode、OpenCodeを使用したSWE-Bench Verifiedなどのコーディングベンチマークでは、比較対象となったより大規模なモデルが優位を保っている。SWE-Bench Verifiedでは、Qwen3.6-35B-A3Bが51.00に対して66.20を記録した。Liquid AIは、知識を多く必要とするタスクでは検索拡張やウェブ検索と組み合わせることを推奨しており、それによって本モデルのツール呼び出し能力を生かせるとしている。
推論、形式、利用方法
LFM2.5-24B-A2Bは、リリース初日からllama.cpp、MLX、vLLM、SGLang、ONNXに対応する。チェックポイントは、ネイティブ形式、FP8、GGUF、ONNX、MLX-4bit形式で公開されている。
エッジデバイスでは、Liquid AIの報告によると、Apple M5 Maxで毎秒184トークン、AMD Ryzen AI Max+ 395で毎秒114トークンのデコード速度を達成した。比較対象の混合エキスパートモデルのうち次点のモデルより最大1.7倍高速で、M5 Maxではメモリー使用量も最少の15 GBだった。測定には同社のベンチマーク基盤Pipetteを使用し、llama.cpp、Q4_K_M量子化、4Kトークンの入力コンテキストを用いた。GPUでは、単一のNVIDIA B300で同時実行数1,024のとき、出力スループットが毎秒21,000トークンを超えたと同社は報告している。この測定はSGLang 0.5.22をBF16で実行し、入力1,024トークン、出力最大256トークンの条件で行われた。同社は、LFM2.5-24B-A2Bを同サイズクラスで最速のモデルとしている。
このモデルは transformers 5.0.0 以降で動作し、推奨される生成設定は、temperature 0.1、top-k 50、repetition penalty 1.05です。OpenAI互換のバックエンドを介してローカル環境で提供でき、Hermes Agent、OpenClaw、Piなどのエージェント用ハーネスに接続できます。また、モデルカードには、Python風の呼び出しを特別なツール呼び出しトークンの間に配置する、4段階の関数呼び出しフローが記載されています。ホスト型推論の場合、Liquid AIはLiquid Console APIでこのモデルを、入力トークン100万個あたり0.10ドル、キャッシュされた入力は0.05ドル、出力トークン100万個あたり1.00ドルで提供しており、登録時には2ドル分のクレジットが付与されます。SGLangでの投機的デコードに対応するDSparkのドラフトモデルは、近日公開予定とされています。