无限
无速率限制、最大上下文和无限生成。
零日志
不保存任何内容。聊天和生成的图像存储在用户设备上。
简洁
所有可用模型随时准备进行推理。
无限制 AI 推理
热门模型
Frequently Asked Questions
什么是 Arli AI？
Arli AI 是一个高性价比、无限制且可靠的 AI 推理平台，可通过 API 进行 LLM 推理或图像生成推理。
怎么可能没有限制？
我们的任何套餐都不限制处理的请求数量。我们的系统仅限制账户同时可以发起的并行请求数量。
响应速度如何？
我们的常规套餐（Starter、Core、Plus、Pro、Max）会进行负载均衡调整，以便为所有用户提供可接受的响应速度。
你们会保留提示词和生成日志吗？
我们严格不保留任何用户请求或生成的日志。用户请求和响应绝不会接触存储介质。
你们怎么会有这么多文本生成模型？
对于我们的 LLM，我们会为每个微调模型提取 LoRA。这使我们能够按需实时热切换 LoRA 来托管许多模型，同时保持与原始模型相似的行为（但并非完全 1:1）。
你们对模型使用什么量化？
我们以可行的最高量化运行所有模型，大多数模型以 8 位运行，部分模型以 8-4 位混合量化运行以保持质量。微调的 LoRA 模型（带 - 后缀）以高秩 FP16 LoRA 的形式叠加运行。
我可以将其与 x 前端一起使用吗？
只要前端支持使用标准 OpenAI API 端点，就能与 Arli AI 配合使用。此外，我们还提供按 API 密钥的参数覆盖，即使前端不支持，您也可以设置推理参数。
为什么使用 Arli AI API 而不是自行托管 AI 模型？
除了成本远低于其他选项外，我们还尽可能接近在本地运行模型的体验，这是无服务器平台所能提供的极限。我们运行在自己的本地安全服务器上，并始终跟进最新模型。
在哪里可以找到最新动态？
加入我们的 subreddit 和 Discord 服务器，我们会定期发布更新并讨论模型！
如果我想使用这里没有的模型怎么办？
如果您想使用的模型不在我们的模型页面中，只要它基于某个基础模型，您就可以联系我们申请添加。