# AI开发框架

**Repository Path**: lobyliang/aiframework

## Basic Information

- **Project Name**: AI开发框架
- **Description**: No description available
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 0
- **Created**: 2026-02-24
- **Last Updated**: 2026-09-11

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# ai_framework — Multi-Agent AI Service

生产级多智能体 AI 服务框架（FastAPI + Apache Burr 状态机编排），支持 RAG、语音、MCP 工具、
SSE 流式对话、MQTT 机器人接入（双向语音）、供应商/模型级并发控制与人民币计费。

## 架构

```
客户端: Web (Next.js) / 机器人 (MQTT 双向语音)
   │ HTTP/SSE                    │ MQTT
api/           传输层：routes / middleware / schemas / protocol(SSE)
application/   用例层：ChatService / ConversationService / RobotGateway / background
domain/        实体 + DTO（零 IO）
infrastructure/ db / llm(并发+计费) / rag(Qdrant+Weaviate) / storage / cache / mqtt / voice
agents/        Calendar / MaterialSearch（Apache Burr 状态机）
memory/        语义记忆 + 上下文构建
tools/         内置工具
```

完整说明见 [docs/ARCHITECTURE.md](docs/ARCHITECTURE.md)。

## Features

- **多智能体引擎** — Apache Burr 状态机编排（retrieve → chat_loop(LLM⇄工具循环) → result），Agent 插件注册；同轮无依赖工具并行执行
- **RAG** — Qdrant/Weaviate 双后端统一抽象（异步），多索引并行召回 + rerank + LLM 知识门控（已移除 Dify）
- **SSE 流式协议** — OpenAI 兼容扩展：text / tool_calls / interrupt / meta_info / reasoning / usage / cost / `[DONE]` / 错误帧
- **并发控制** — 配置文件（`config/llm_config.yaml`）供应商级 + 模型级两级信号量
- **人民币计费** — 各模型价格表计价，实时 cost 帧 + 价格落库（消息事件 + 对话累计），支持 DeepSeek 分时计价
- **MQTT 机器人** — 双向语音（VAD→ASR→LLM→TTS 回传）与文本通道，状态机下发
- **浏览器实时语音** — WebRTC（aiortc 可选依赖）：mic→ASR→对话→TTS 音轨回传 + DataChannel 事件，页面 `/voice`
- **语音 AI** — ASR（讯飞流式）/ TTS（豆包）/ VAD 模块化
- **文件管理** — MD5 去重、TTL 过期（expires_at）、本地存储
- **对话管理** — PostgreSQL 持久化、多轮上下文恢复（EventStore 快照 + 归档/压缩维护）、费用/用量统计

## Quick Start

```bash
python3 -m venv .venv && .venv/bin/pip install -e . --group dev
# 浏览器实时语音（可选重依赖 aiortc/av）: uv sync --group webrtc
cp docker/.env.example .env   # 按需修改
.venv/bin/python main.py      # 或: uvicorn ai_framework.main.app:app
```

API 文档: `/docs`（Swagger）。冒烟: `curl http://localhost:8000/health`

## Project Structure

```
src/ai_framework/
├── main/            app 工厂 + container(组合根) + CLI
├── api/             路由 / 中间件 / schemas / protocol
├── application/     ChatService / ConversationService / RobotGateway / background
├── domain/          实体 / DTO / 端口协议
├── agents/          base + registry + graphs + nodes + models + mcps + prompts
├── infrastructure/  db / llm / rag / storage / cache / mqtt / voice
├── memory/          语义记忆 / 工作记忆 / 上下文构建
├── tools/           内置工具
└── config/          pydantic-settings + llm_config.yaml（并发/计费）
tests/               unit / integration / api / core
scripts/             ci.sh / check_imports.py / benchmark.py
web/                 Next.js 前端
docker/              Docker Compose（app/web/postgres/redis/qdrant/weaviate）
```

## 测试与门禁

```bash
bash scripts/ci.sh          # 导入门禁 + pytest + ruff
python scripts/benchmark.py # 性能基准（TTFT/健康检查/DB 吞吐）
```