个人小规模使用的免费 AI LLM API
status
Published
type
Post
slug
some-free-llm-api-collection-for-personal-use
date
Jun 26, 2024
tags
AI
Share
summary
文章提供了一系列适合个人小规模使用的免费大型语言模型（LLM）API 列表，包括海外和大陆地区的服务提供商信息，以及相关的开源项目和 API 网关项目。
背景
现下 LLM 可谓是百花齐放，各家大模型让人烟花缭乱，API 价格也逐渐降低。但在一些不太重要的脚本流程中，付费哪有白嫖来得香。
Free LLM API
海外
提供商(Provider) | 模型（Model） | 限制（Limit） | 文档（Doc） | 控制台（Console） |
Google | gemini-1.5-pro
gemini-1.5-flash
gemini-1.0-pro
gemini-pro-vision | 15 RPM（每分钟请求数）
1500 RPD（每日请求数）
1000K TPM （每分钟Token数） | ||
Groq | gemma2-9b-it
gemma-7b-it
llama-guard-3-8b
llama3-70b-8192
llama3-8b-8192
mixtral-8x7b-32768 | 14400 RPD
具体限制因模型而不同，详见：https://console.groq.com/settings/limits | ||
Cloudflare | ||||
glhf | ㅤ |
大陆
- 硅基流动 SiliconFlow
- LLaMA Family
- 讯飞星火
- 腾讯混元
- 字节跳动火山方舟
- 百度千帆
- 阿里灵积 DashScope
