本项目为xiaozhi-esp32提供后端服务,帮助您快速搭建ESP32设备控制服务器。Backend service for xiaozhi-esp32, helps you quickly build an ESP32 device control server.
最近更新: 1个月前LLamaSharp是一个跨平台库,用于在本地设备上运行LLaMA/LLaVA模型(以及其他模型)。它基于llama.cpp,能够在CPU和GPU上高效进行推理。通过提供高级API和RAG支持,LLamaSharp使得在应用程序中部署大型语言模型(LLM)变得方便。
最近更新: 1个月前n8n是一个开源、强大的工作流自动化工具,允许用户通过可视化方式连接不同的应用程序和服务。它将 AI 功能与业务流程自动化相结合,它可以帮助开发者和非技术人员创建复杂的工作流,实现数据在不同系统间的自动传输和处理。
最近更新: 3个月前Shimmy 是一个超轻量级(仅 5MB)的本地 AI 推理服务器,具备与 OpenAI API 兼容的接口、自动模型发现、热切换以及工具调用功能。采用 Rust 编写的单二进制文件方案,支持 GGUF 模型和 LoRA 微调适配器,完全免费且永久开源。
最近更新: 3个月前Codebuff 是一个开源的 AI 编码助手,它可以通过自然语言指令对代码库进行编辑。它不依赖单一模型,而是协调多个专业代理协同工作,以理解项目并进行精确修改
最近更新: 3个月前Trae Agent 是一个基于 LLM 通用软件工程任务的智能体。它提供了一个 CLI 界面,可以理解自然语言指令,并使用各种工具和 LLM 提供商执行复杂的软件工程工作流。
最近更新: 5个月前一个社区驱动的深度研究框架,它建立在开源社区的杰出工作基础之上。我们的目标是将语言模型与专业工具(如网络搜索、爬虫和 Python 代码执行)相结合,同时回馈使这一切成为可能的社区
最近更新: 5个月前高吞吐、低内存大模型推理引擎,其设计初衷直击行业痛点:传统推理框架在处理多请求并发时,普遍存在KV缓存内存碎片化严重、GPU利用率低下等问题。通过 PagedAttention 这一革命性技术,vLLM实现了近零浪费的KV缓存管理,同时完美兼容OpenAI API协议,让开发者无需改造现有生态...
最近更新: 5个月前LocalAI是免费的开源 OpenAI 替代品。LocalAI 可作为替代 REST API,与 OpenAI(Elevenlabs、Anthropic……)API 规范兼容,用于本地 AI 推理。它允许您在本地或使用消费级硬件运行 LLM、生成图像、音频(不止于此),支持多种模型系列。不需...
最近更新: 5个月前