本仓库提供专为 OpenHarmony 系统、Spacemit K1/K3 系列芯片优化的 AI 推理引擎二进制分发版。集成业界主流推理后端 —— llama.cpp(大语言模型)与 ONNX Runtime(通用机器学习模型),所有库与可执行文件均已预编译,开发者可直接下载使用,免去交叉编译的繁琐过程。
SherpaOnnxTts_SpaceMit 是一个基于 sherpa-onnx 框架,专为 SpaceMiT RISC-V 平台优化的离线文本转语音(TTS)引擎。其核心功能是将文本转换为自然流畅的语音,所有计算均在本地完成,无需网络连接。
SherpaOnnxVadAsr_SpaceMit是一个基于ONNX Runtime的语音处理框架示例,专为端侧AI语音识别场景设计。它集成了语音活动检测(VAD)与非流式语音识别(ASR)能力,可在完全离线的状态下完成从“检测人声”到“识别文字”的全流程。
vlm演示是基于OpenHarmony开发的本地vlm模型对话应用,支持与vlm模型进行对话,包括文本对话和图片对话。在设备端启动llama-server即可开始进行对话,生成图片描述等功能。示例图片已锁定,不提供自定义图片上传功能。
YOLODetection是基于 OpenHarmony 的 AI 视觉检测应用,集成目标检测、人脸检测、人脸识别三大功能,使用 ONNX Runtime 在 RISC-V 设备上进行推理。