OpenAI、判断特化「Decisions API」一般提供 最大10倍高速 入力100万トークン0.10ドル |ビジネス+IT

Google preferred source

0

会員(無料)になると、いいね!でマイページに保存できます。

共有する

OpenAIは10月22日(米国時間)、分類など小さな判断に特化した「Decisions API」の一般提供を始めた。GPT-6 Lunaを基盤とし、Responses API経由より最大10倍高速という。料金は入力100万トークンあたり0.10ドル(約16円)で、出力は課金しない。1リクエストで最大400問を処理でき、ボックスなどが利用している。

OpenAI、判断特化「Decisions API」一般提供 最大10倍高速 入力100万トークン0.10ドルの画像

OpenAIが一般提供を始めた「Decisions API」

 OpenAIは10月22日(米国時間)、AIアプリケーション向けのDecisions APIの一般提供を始めたと発表した。分類やルーティングといった小さな判断に特化したAPIで、「GPT-6 Luna」を基盤とする。Responses API経由でGPT-6 Lunaを使う場合と比べ、最大10倍高速だという。9月29日の開発者会議DevDayで披露されたものが、一般提供に移った形だ。

 回答の形式は3種類。条件が成り立つ確率を返す「predicate」、用意した選択肢から1つを選ぶ「choice」、段階別の基準に照らして点数を付ける「score」である。1リクエストで処理できる質問は最大400問で、従来(200問)の2倍に増えた。画像を使った質問の指定やJSON形式の入力にも対応する。

 料金は入力100万トークンあたり0.10ドルで、キャッシュされた入力は0.01ドル。出力トークンには課金しない。米国とEU域内で推論を完結させる「inference residency」に対応したほか、アジアの複数地域に処理能力を追加して遅延を改善したという。音声対話の「GPT-Live」とは、既存のセッションに設定を加えるだけで連携できる。

 利用企業の声も公表した。ボックスは保険証明書30件の経路選択が約5倍速くなり、精度はResponses APIと同じだったとする。データドッグは、AIが生成したコマンドの危険度の採点で、既存の高性能モデルと比べてp95(95パーセンタイル)の応答時間が40倍速くなったと説明している。シエラは1回の呼び出しあたりのコストが90%下がり、p95で280ミリ秒未満で動くという。スピークはGPT-Liveとの統合で、次の動作までの時間を1.4秒から0.13秒に縮めた。ランプは、AIの費用を実際の業務に紐づける処理が4倍速く、30%安くなったとしている。

 OpenAIによると、Decisions APIは専用のエンドポイントとして、GPT-6 Lunaで今日から利用できる。テキストや画像で試せる「Decisions Playground」も用意した。

 では、先行するTypeSafeの「Jev」やマイクロソフトのモデルと比べて、OpenAIの価格と速度はどこに位置するのか。各社の主張には、測り方をめぐる食い違いもある。

画像

【画像解説と記事全文はこちら】判断特化AI、料金と速度の比較

判断特化AI、料金と速度の比較

(出典:各社発表、報道をもとに作成)



この記事の続き >>

・OpenAIの料金は、競合と比べて高いのか安いのか
・OpenAIとマイクロソフト、速度の主張が割れる理由
・「測り方」をめぐる争いと、H2O.aiの反論

この続きは
会員限定(完全無料)です

ここから先は「ビジネス+IT」会員に登録された方のみ、ご覧いただけます。

今すぐビジネス+IT会員に
ご登録ください。

今だけ毎月当たる!ずっと無料の会員登録キャンペーン

ビジネス+ITプレミアム会員(無料)に登録すると

抽選で毎月20名様に

Amazonギフト券
5,000円分
当たる!

プレミアム会員に登録する(ずっと無料)
キャンペーン詳細・応募条件を見る

※この表示が出ている方は自動的にキャンペーンにエントリーされます。特典送付時にビジネス+ITプレミアム会員を継続し、メールマガジン購読設定をオンにしていることが条件です。その他の条件は詳細をご覧ください

すべて無料!今日から使える、
仕事に役立つ情報満載!

ここでしか見られない

2万本超のオリジナル記事・動画・資料が見放題!

完全無料

登録料・月額料なし、完全無料で使い放題!

トレンドを聞いて学ぶ

年間1000本超の厳選セミナーに参加し放題!

興味関心のみ厳選

トピック(タグ)をフォローして自動収集!

AI・生成AIのおすすめコンテンツ

Googleで見つけやすく

Google preferred source

評価する

いいね!でぜひ著者を応援してください

会員(無料)になると、いいね!でマイページに保存できます。

関連タグ