無制限
レート制限なし、最大コンテキスト、無制限の生成。
ゼロログ
何も保存されません。チャットと生成された画像はユーザーのデバイスに保存されます。
シンプルさ
利用可能なすべてのモデルは、いつでも推論の準備ができています。
無制限のAI推論
最も人気のあるモデル
Frequently Asked Questions
Arli AIとは何ですか？
Arli AIは、APIを介したLLM推論または画像生成推論のための、費用対効果が高く、無制限で信頼性の高いAI推論プラットフォームです。
なぜ制限がないのですか？
どのプランでも処理されるリクエスト数に制限はありません。当社のシステムは、アカウントが同時に行うことができる並列リクエストの数を制限するだけです。
応答速度はどうですか？
当社の通常プラン (Starter, Core, Plus, Pro, Max) は、すべてのユーザーに許容可能な応答速度を提供するために、負荷分散調整の対象となります。
プロンプトと生成のログを保持していますか？
ユーザーのリクエストや生成のログは一切保持していません。ユーザーのリクエストと応答がストレージメディアに触れることはありません。
なぜそんなに多くのテキスト生成モデルがあるのですか？
当社のLLMでは、ファインチューニングされた各モデルのLoRAを抽出します。これにより、元のモデルと同様のモデルの動作を維持しながら（ただし、完全に1：1ではありません）、必要に応じてLoRAをホットスワップすることで多くのモデルをホストできます。
モデルにはどの量子化を使用していますか？
当社はすべてのモデルを可能な限り最高の量子化で実行しており、ほとんどのモデルは8ビット、一部は品質を保つために8-4ビットの混合量子化で実行しています。ファインチューニングされたLoRAモデル（-サフィックス付き）は、その上に適用される高ランクのFP16 LoRAとして実行されます。
xフロントエンドで使用できますか？
フロントエンドが標準のOpenAI APIエンドポイントの使用をサポートしている限り、Arli AIで動作します。ボーナスとして、フロントエンドがサポートしていない場合でも推論パラメータを設定できるAPIキーごとのパラメータオーバーライドもあります。
AIモデルを自己ホストする代わりにArli AI APIを使用する理由は何ですか？
他のオプションよりもはるかにコストが低いことに加えて、サーバーレスプラットフォームから得られるものとしては、モデルをローカルで実行するのに最も近いです。当社は独自のオンプレミスの安全なサーバーで実行しており、常に最新のモデルに更新されています。
最新の更新はどこで見つけられますか？
subredditとdiscordサーバーに参加してください。定期的に更新を投稿し、モデルについて議論しています！
ここにないモデルを使用したい場合はどうすればよいですか？
使用したいモデルが当社のモデルページにない場合でも、ベースモデルのいずれかに基づいている限り、追加をリクエストするために当社に連絡することができます。