1.5 KiB
1.5 KiB
LLMHub
目标和愿景(Why)
这个软件要解决什么问题?
- 解决企业一键自主部署大模型
- 集成调用大模型繁琐且困难的问题
- 现在大模型平台各家api各有出入,我们要做的是整合成一套方便可用的接口
目标用户(Who)
谁是目标用户?
- 普通消费者:免费使用我们的基础服务和订阅我们的服务高级服务
- 企业客户:本地化部署我们的服务
- 内部员工:使用LLMHub接口构建各种 AI 软件
用户的使用场景是什么?
- 手机(在线)
- 电脑(在线/离线)
核心功能(What)
这个软件的“最小可行产品”(MVP)应该包含哪些功能?
- 能够较为方便的部署本地大模型,能够较为方便的配置在线大模型,并提供统一的对外API,让客户快速集成大模型服务到自己的应用
哪些是核心功能,哪些是附加功能?
- 核心功能:抽象出通用接口,并且我们的服务只需要调用这个抽象接口提供能力即可。
- 附加功能:基于我们这个核心的抽象接口服务构建的上游服务。 (比如画图,图像识别,ai训练,数据分析,文件生成,设备操作,语音服务)
技术和平台(How)
前端
- Dart
- Flutter 多端支持
后端
- Kotlin
- Spring Boot
- Spring Cloud
发展计划与迭代
- 持续迭代开发
- 后期开源部分代码
- 具体计划见 LLMHub 开发计划表