嵌入和重排是处理知识库过程所需的重要节点,良好的嵌入模型可以更好的理解语义,重排模型对知识片段排序十分必要。
本地安装嵌入和重排模型使用起来不方便,每次都要启动,连接远程服务经常各种异常。而且小尺寸的嵌入和重排模型已经有服务商提供免费API。
下面我们要利用的就是 硅基流动 提供的免费重排、嵌入模型,在Dify中配。
流程
1.注册硅基流动账号,申请一个KEY
2.在模型广场查看硅基流动提供的免费嵌入、重排模型
3.本地部署或在线注册DIfy后,选择:设置-模型供应商-SILICONFLOW,输入KEY后保存
4.设置可用模型,这里我把不必要的模型禁用到,避免不小心产生费用
5.进入知识库,在创建知识库阶段,可选择免费嵌入模型
6.进入编排,引用的知识库区域可以看到重排选项