クレジットかトークンか：ベンチマークではなくプロダクトのためのAI料金設計

AI APIはどれもトークン単位で料金を設定しています。プロバイダーが支払っているのがトークンだからです。その理屈は完璧ですが、開発者体験としては最悪です。この記事では、私たちがなぜそこから離れたのかを説明します。

トークン課金の問題点

トークン課金は、プロバイダー側の不確実性をあなたに押しつけます。会話1回あたりのコストは、ユーザーがどれだけおしゃべりか、プロンプトがどこまで長くなるか、その日のモデルがどれだけ饒舌だったかに左右されます。ユニットエコノミクスが分かるのはローンチのあと、ダッシュボードの上で、たいていは嫌な驚きとしてです。

サポートチケットに回答するアシスタント製品なら、それでもかまいません。量が予測できるからです。しかしキャラクター製品にとっては敵対的です。ロールプレイの会話は長く、高温で、ユーザー主導です。プロダクトがうまくいけばいくほど、請求額は予測しにくくなります。

定額料金が私たちに課すコスト

このトレードオフについては正直に話しましょう。定額料金とは、ばらつきを私たちが吸収するということです。トークンの上限まで達する応答は、2文で終わる応答よりも私たちにとって高くつきますが、いただくのは同じ1クレジット、または3クレジットです。

それでも成り立つ理由は3つあります。

1. 上限があるので、ばらつきに限りがある。 max_tokensの最大値は1,200、コンテキストは24k文字です。その壁の内側なら、安い呼び出しと高い呼び出しの差は平均化できるほど小さく収まります。
2. 量が多ければ平均は安定する。 1つの会話は予測できませんが、1万の会話は分布になります。私たちはその分布をもとに価格を決め、毎月測り直しています。
3. シンプルさはマージンに値する。 「画像1枚10クレジット」とひと言で説明できる価格は、電卓が必要な価格よりもよく売れます。私たちはベーシスポイントで勝つより、契約を勝ち取りたいのです。

月額の後払いではなく、前払いクレジットにした理由

前払いはリスクを逆転させます。後払いの従量課金では、バグがそのまま請求額になります。午前3時に起きたリトライのループが、朝食の時間には本物の出費になっているのです。前払いクレジットなら、どんな暴走でも最悪のケースは現在の残高までです。システムは高くつく形で失敗するのではなく、明示的な402を返して安全側で停止します。

失敗時の扱いも、私たちの側で誠実になります。何も返さなかった生成は自動で返金され、利用明細にはっきりとマイナスの行として記録されます。後払いの従量課金では、失敗した呼び出しもこっそり請求されます。前払いクレジットなら、不当な請求は請求ページであなたの目の前に表示されることになります。インセンティブが正しい方向を向いているのです。

前払いがギフトカード商法のように感じられないよう、2つの設計上の選択をしています。クレジットには有効期限がないこと、そして大きなパックでは呼び出しごとの価格を変えるのではなくボーナスクレジットを上乗せすることです。だから画像の価格は、どこでもいつまでも、ひとつの数字です。

念のため付け加えると、月額プランも同じ仕組みです。サブスクリプションでは最初にクレジットが付与され（$15のHobbyなら1,800クレジット、$49のCreatorなら6,000クレジット）、使わなかった分はサイクルの終わりにリセットされるのではなく無期限で繰り越されます。私たちが決してしないのは、事後に従量で請求することです。

その上で収支を試算する

キャラクター製品に必要な、ざっくりした計算です。

revenue_per_user  = your_subscription_price
model_cost        = msgs_per_day × credit_cost × $0.01 × 30
premium_moments   = (images × 10 + voice_lines × input/100 × 3) × $0.01
margin            = revenue - model_cost - premium_moments

平均ではなく、P50とP95のユーザーで計算しましょう。P95のロールプレイヤーは10倍のメッセージを送ります。呼び出しごとの定額料金なら、P95のケースを計算できるようになります。トークン課金があなたから奪うのは、まさにこの点です。

トークン課金が正しいとき

出力を厳密に管理しながら文書を一括処理しているなら、トークン課金のほうが本当に公平です。私たちのモデルでは、おしゃべりなプロダクトの分をあなたが肩代わりすることになるからです。定額クレジットが真価を発揮するのは、利用がインタラクティブで、ロングテールで、ユーザー主導のとき。つまりキャラクター製品であり、私たちが作っている相手そのものです。

よくある質問

1クレジットはドル換算でいくらですか？

エントリーパックで約1セントです。Starterは$10で1,000クレジット。大きなパックでは価格そのものではなく単価が良くなります。Builderは$50で5,500クレジット、Scaleは$100で12,000クレジットで、1クレジットあたり約$0.0083になります。呼び出しごとの価格自体は決して変わりません。

クレジットに有効期限はありますか？

ありません。パックのクレジットもプランのクレジットも、使うまでワークスペースのウォレットに残り、毎月のプランのクレジットはサイクルの終わりにリセットされず無期限で繰り越されます。これが前払いのもう半分です。あなたが買っているのは処理能力であって、使わなければ消える利用枠ではありません。

呼び出しが失敗したりブロックされたりしたらどうなりますか？

何も返さなかった生成は自動で返金され、利用明細にはっきりとマイナスの行として記録されます。利用ポリシーの範囲外のリクエストはcontent_blockedを返し、一切課金されません。残高がなくなった場合は、こっそり請求額を膨らませるのではなく、402を返して安全側で停止します。

定額クレジットは、トークン課金より常に安いのですか？

いいえ。そこははっきり言っておきたいところです。出力が短く、上限も厳しく管理されているなら、トークン課金のほうが本当に公平な場合があり、私たちのモデルではよりおしゃべりなプロダクトの分をあなたが肩代わりすることになります。定額クレジットが勝つのは、利用がインタラクティブでユーザー主導のときです。長い返答も短い返答と同じ1クレジット、または3クレジットで、max_tokensの上限は1,200なので、私たちが吸収するばらつきには限りがあります。

すべての数字は料金表にあります。1画面に収まること、それもまた狙いのひとつです。