AIリクエスト上限
システム画面のAI request ceilingタブです。AIプロバイダーへの有料リクエストの送信速度に上限を設けることで、特定の1人や暴走した画面が月次予算を午後中に使い切ってしまわないようにします。
カウントはアカウント単位で行われ、ネットワークアドレス単位ではありません。これらはすべてサインイン後に行われるため、アドレスは誰も特定できないからです。上限を超えたリクエストは、いつ再試行できるかを示すメッセージとともに拒否され、費用は発生しません。
1分あたりのリクエスト数
Requests per minute per accountが上限値そのもので、0以上の整数で指定します。デフォルトは120で、通常の作業には十分すぎる余裕があります。目安として、「全言語に翻訳」は一度に約6件のリクエストを送信し、画像の一括生成は1分あたり約6件、店舗レビューの一括処理は1分あたり8〜24件程度です。
0を設定すると上限が無効になります — リクエストのカウント自体が行われなくなります。0以上の整数以外の値を入力すると、Enter a whole number of 0 or more (zero switches the ceiling off).が表示されて拒否されます。
変更は次のリクエストから即時反映されます。再起動は不要です。
対象範囲
What the ceiling coversには2つの設定があります:
- Every paid request — すべての有料リクエスト。これがデフォルトです。
- Push campaigns only — プッシュキャンペーンのみ。
デフォルトがすべての有料リクエストになっているのは意図的な設計です。プッシュキャンペーンだけが費用対象ではなく、それだけを上限の対象にすると、最もコストがかかるパス — アシスタント — が監視外になってしまいます。
上限は、すべてのAIリクエストが通過する単一のポイントに設置されており、個々の画面ごとではありません。そのため、ユーザーがボタンを押すのではなく、アシスタント自身のツールが行うリクエストにも上限が適用されます。
対象外となる内容
以下の2つのパスは上限の対象外です。それぞれに理由があります:
- クリエイティブの定期分析。 これはバックグラウンドで自動的に実行されるものであり、毎回のタイミングでペースを調整します。その費用はAI支出の概要に引き続き表示されます。
- 意味検索のためのテキストのベクトル変換。 これは独自の設定を持つ別のレイヤーです — セマンティック検索をご覧ください。デフォルトではベクトルはこのサーバー上で計算され、外部への費用は発生しないため、上限にも支出台帳にも表示されません。
一方、音声メッセージの文字起こしは上限の対象内です。メッセージを送信したアカウントにカウントされ、他のすべてと同じ上限が適用されます。送信者がアカウントと照合できない場合、クラウド認識は拒否され、そのメッセージには文字起こしが付きません。ただしこのサーバー上で動くエンジンは無償のため、その位置では引き続き文字起こしが行われます。
保存を押すと、両方の設定が一度に保存されます。変更なしに押すと変更なしと表示されます。