従量課金制のエンタープライズOpenAIアカウントを使っていた場合、サクセナ氏は4月のCodex利用料が4000ドル(約64万円)に達していたと試算する。しかし、月額200ドル(約3万2000円)の個人プランですべてをカバーできた。同氏はこれを「恵み」と表現した。
ライ氏によれば、Foyerの約25人の社員全員分のアンソロピックおよびOpenAIの個人コーディングアカウントの月額合計は約3000ドル(約48万円)だという。API使用量に基づくエンタープライズプランであれば、月3万〜4万ドル(480〜640万円)の請求が発生していただろうと同氏は述べた。
開発者たちはこの手法をSNSで議論しており、ライ氏は小規模企業の間で広く普及していると見ている。「『プロシューマー』向けプランが現在のように補助していなければ、スタートアップによるトークン消費量はこれほど多くはなかっただろう」と同氏は語った。
FoyerがAI支出を低く抑える方法
OpenAIとアンソロピックのコーディングツールの登場は、800万ドル(約12億8000万円)の資金調達を行ったFoyerを大きく変えた。かつてFoyerでは約20人が同社のブラウザ拡張機能「Merlin AI」の開発に携わり、Chromeユーザー数を90万人にまで伸ばした。現在は、AIコーディングツールを駆使した3人の開発者が管理しているとライ氏は述べた。
その刷新により、Foyerはスマートフォンを通じてユーザーの周囲の音声を常時録音するコンパニオンアプリ「Thine」の開発に注力できるようになった。AIシステムにこうした「記憶」をコンテキストとして与えることで、ユーザーが日常的な作業をオフロードできるようにすることをチームは目指している。そのためには音声テキスト変換と大量のユーザーデータ管理が必要だが、そこでもAIツールが重要な役割を担っている。
「2〜3年前なら50人がかりでやっていた仕事を、今は約15人の開発者でこなしている」とライ氏は述べた。「大幅なコスト削減だ」
アンソロピックとOpenAIの個人プランは安価だが、エンタープライズプランには追加のツールや特典が付いてくる。各社はエンタープライズ顧客のデータをAIモデルの学習に使用せず、管理者が大規模なチーム全体の利用状況を管理できる。
アンソロピックの広報担当者は、小規模チームには個人プランが適している場合もあるが、企業がエンタープライズオプションを選ぶのはセキュリティ、ガバナンス、可視性の強化が目的だと述べた。OpenAIはコメントの求めに応じなかった。
個人プランの低価格に加え、ライ氏とサクセナ氏は、新しいモデルがリリースされた際にプランを柔軟に切り替えられる点もチームに好評だと述べた。
「明らかなのは、これが勝者総取りの市場ではないということだ」とライ氏は述べた。「まったくそうではない」
トークン価格の低下に期待
ライ氏とそのチームは、アンソロピックとOpenAIがそれぞれのIPOに向けて動く中、トークン価格の動向を注視している。同氏は半導体の改善が続くこと ―― エヌビディア(NVIDIA)はLLMのトークン単価を引き下げてきた ―― と、大手AIプロバイダーがよりオープンソースのモデルをリリースすることを期待している。
トークン価格が下がり続ければ、FoyerはOpenAIとアンソロピックがスタートアップを支えている個人プランの補助を打ち切ることを心配しなくて済むかもしれない。AIコーディングツールの利用に対する従量課金の請求が3万〜4万ドルから2000〜3000ドルにまで下がることをライ氏は期待している。これにより、Foyerのコンピューティング負荷の高いコンパニオンアプリ「Thine」への道も開けるだろう。
サクセナ氏は、今年はコーディングツールの改善とFoyerの低コストが相まって、チームのトークン使用量が以前の「100倍」になったと述べた。
CEOのライ氏はそれを訂正した。「10万倍だ」と同氏は言った。