在高通跃龙™ QCS8550平台和dify搭建本地知识库
发表于 2025-05-15 09:00:00

Tips:本教程基于搭载高通跃龙™ QCS8550平台的设备,硬件及固件包由阿加犀提供。

一、环境准备

1、将板卡用usb数据线连接到PC端,通过命令行界面adb调试查看本机IP (例:192.168.100.100)
[需含adb相应驱动,自行安装]

2、ssh -p 2222 aidlux@192.168.100.100登陆到A8550PM2环境
sudo -i切换到root用户,密码aidlux

首先卸载系统内预装的nginx,使80端口释放:

systemctl stop nginx

systemctl disable nginx

kill -9 nginx

然后安装docker-compose:

apt update

apt install docker-compose

二、下载运行

任选一个目录,如/home,下载配置文件

git clone https://github.com/langgenius/dify.git

cd dify/docker

cp .env.example .env

Docker-compose up -d

[Tip:如果docker和代码下载失败,请给添加一些科学手段]

三、配置dify

docker启动后,一共会有10个容器运行

之后即可通过192.168.100.100(示例)访问网页端界面,并创建一个管理员账号

四、加载模型

点击设置

可以选择使用网络上免费额度的模型(比如火山),也可本地开源模型(ollama),这里以火山的免费模型为例

跳转火山引擎官网,根据教程获取模型的api及endpoint


这里我们添加LLM和embedding模型各一个

五、添加知识库

选择添加知识库,并上传文件


导入文件后点下一步

若选择通用、经济方式,则不调用embedding模型,只用本地环境即可完成

若使用父子分段、索引方式选择高质量,则需要调用embedding模型,同时也有更多选择

完成后保存

六、测试

添加一个应用,比如一个聊天机器人

添加知识库以后,就可以根据知识库回答啦

CSDN官方微信
扫描二维码,向CSDN吐槽
微信号:CSDNnews
微博关注
【免责声明:CSDN本栏目发布信息,目的在于传播更多信息,丰富网络文化,稿件仅代表作者个人观点,与CSDN无关。其原创性以及文中陈述文字和文字内容未经本网证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本网不做任何保证或者承诺,请读者仅作参考,并请自行核实相关内容。您若对该稿件有任何怀疑或质疑,请立即与CSDN联系,我们将迅速给您回应并做处理。】