自己编写程序调用LLM API来进行开发时面临的问题：
开发周期长，需要按月来计算 重复造轮子，看上去一个简单工作还是要花很长时间来实现 模型调优麻烦，调整参数、流程、测试方法都较为原始 技术新、链路长、挑战大
由此我想到，如果要做其它AI应用，最好能找到更简单的开发平台，低代码或者无代码更好。
我们使用过的一些AI应用平台有：
OpenAI的Plugins、GPTs 百度的文心一言百宝箱、灵境矩阵、智能体 字节跳动的Coze商店……等
这些平台虽各具特色，但我始终觉得存在一些局限，我们的AI开发需求主要包括：
独立于模型厂商的智能体平台 可以自由选择LLM API 集成好向量数据库等常用部件 应用可以放置到网站 支持接入微信等平台
根据这些需求，我在网上搜索并比较了一阵子，基本确定Dify平台可以满足以上需求，它适合做以下4种AI应用：
聊天助手 文本生成 Agent 工作流
Dify的一些简介：
定位：开源的大语言模型(LLM) 应用开发平台 关键技术栈：对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎、稳健的 Agent 框架、灵活的流程编排，并同时提供了一套易用的界面和 API 团队：中国班底全职15人，开源贡献者数百人 开始时间：2023年3月 部署方式：云服务或本地部署
Dify的几种部署和版本：
云服务（快速上手） 免费版：试用 专业版：年付4200元/年 团队版：年付11200元/年 企业版：深度定制 自托管（灵活但有技术难度） 社区版：开源免费 商业版：商业授权
同事在阿里云ECS上搭建了社区版，我考虑到版本升级可能产生维护成本，为确保服务稳定性，最终采购了Team版本供大家使用。后来发现Dify官方的服务器也不太稳定，于是我们在公司内网的PC上部署了社区版，同时在互联网上的ECS上也搭建了社区版，算是各种版本都用上了。
在上一篇博客文章《尝试为我的博客创建一个聊天机器人》中，我基于Dify搭建了Chatbot，并开发了几十个应用（后面再介绍）。我们同事看到阿里云宣称其AI客服机器人可实现10分钟快速部署，实际试了一下，第一次需要几十分钟，后面熟悉了可以更快，而再用Dify发现所用时间与阿里云平台中搭建AI客服机器人所用的时间也差不多。
没有评论:
发表评论