19 lines
724 B
Markdown
19 lines
724 B
Markdown
# LocalAI
|
||
|
||
**LocalAI** 是免费的开源 OpenAI 替代品。LocalAI 可作为替代 REST API，与 OpenAI（Elevenlabs、Anthropic……）API 规范兼容，用于本地 AI 推理。它允许您在本地或使用消费级硬件运行 LLM、生成图像、音频（不止于此），支持多种模型系列。不需要 GPU。
|
||
|
||
## 主要功能：
|
||
|
||
- 使用 GPT 生成文本（llama.cpp、transformers、vllm 等等）
|
||
- 文本转音频
|
||
- 音频转文本（带音频转录 whisper.cpp）
|
||
- 图像生成
|
||
- 类似 OpenAI 的工具 API
|
||
- 向量数据库的嵌入生成
|
||
- 受限语法
|
||
- 直接从 Huggingface 下载模型
|
||
- 视觉 API
|
||
- 重新排序 API
|
||
- P2P 推理
|
||
- 语音活动检测（Silero-VAD 支持）
|
||
- 集成 WebUI！ |