标签： 大模型本地部署

本地部署

K3588S开发板用rkllama部署7B大模型实战教程

适用平台：ROC-RK3588S-PC 开发板（8GB 内存）操作系统：Ubuntu 22.04 LTS (内核 6.1.118)核心框架：rkllama (GitHub: NotPunchnox/rkllama)模型：Qwen2.5-Co...