コマンドを打たずに、WindowsでローカルLLMを動かせるアプリが登場した。Hugging Faceは10月13日(米国時間)、ローカルLLM実行エンジン「llama.cpp」をWindows 11のタスクトレイから操作できるアプリ「Llama Windows」を公開した。無償で利用できる。
Llama Windowsは、Hugging Face上のモデルをワンクリックでダウンロードし、llama.cppでローカル実行するためのWindows 11向けアプリ。これまでWindowsでllama.cppを使うには、ハードウェアに適したバイナリ、モデルの選定やパラメータの指定をターミナルで行なう必要があった。Llama Windowsではこうした複雑な操作が不要になり、リリースページからインストーラーをダウンロードし、ダブルクリックするだけでインストール可能だ。
さらに、NVIDIA最新のRTX Spark搭載PC向けの最適化も入っており、Windows on Arm上でネイティブに動作し、モデルはRTX SparkのGPUで実行される。llama.cppが高度に最適化されたランタイムであるため、手動調整なしにRTX Sparkの演算能力とメモリを最大限に活用可能。
インストールすればタスクトレイに常駐する。そのアイコンをクリックするとメニューがポップアップし、Hugging Face Hubのおすすめモデルの一覧が表示される。そこからダウンロードすると、ダウンロード済みとしてリストアップされ、モデルのロード/アンロードが可能。また、Alt+Spaceを押すとロードしたモデルとチャットできるWebUIを備えた枠なしウィンドウが開き、すぐに利用できる。
また、OpenAI互換APIを備えたローカルサーバー(アドレスはhttp://localhost:9931)として動作するため、自作のアプリやスクリプト、エージェントから、アプリでロードしたモデルを呼び出せる。モデルは標準のHugging Faceキャッシュに保存され、llama.cppやほかのHugging Faceツールと共有可能。
llama.cpp now has a Windows app 🦙
Llama Windows makes it easy to run models locally, with optimizations for NVIDIA RTX Spark.
📥 Browse and download models from Hugging Face
💬 Chat with local models right from your system tray
🔒 Keep your prompts on your PCpic.twitter.com/68dPHjTZlP
— NVIDIA RTX Spark (@NVIDIARTXSpark)October 13, 2026