docs/CN/LLM-Hub/llmhub.md
2025-04-16 22:40:15 +08:00

1.5 KiB
Raw Blame History

LLMHub

目标和愿景Why

这个软件要解决什么问题?

  • 解决企业一键自主部署大模型
  • 集成调用大模型繁琐且困难的问题
  • 现在大模型平台各家api各有出入我们要做的是整合成一套方便可用的接口

目标用户Who

谁是目标用户?

  • 普通消费者:免费使用我们的基础服务和订阅我们的服务高级服务
  • 企业客户:本地化部署我们的服务
  • 内部员工使用LLMHub接口构建各种 AI 软件

用户的使用场景是什么?

  • 手机(在线)
  • 电脑(在线/离线)

核心功能What

这个软件的“最小可行产品”MVP应该包含哪些功能

  • 能够较为方便的部署本地大模型能够较为方便的配置在线大模型并提供统一的对外API让客户快速集成大模型服务到自己的应用

哪些是核心功能,哪些是附加功能?

  • 核心功能:抽象出通用接口,并且我们的服务只需要调用这个抽象接口提供能力即可。
  • 附加功能:基于我们这个核心的抽象接口服务构建的上游服务。 比如画图图像识别ai训练数据分析文件生成设备操作语音服务

技术和平台How

前端

  • Dart
  • Flutter 多端支持

后端

  • Kotlin
  • Spring Boot
  • Spring Cloud

发展计划与迭代

  • 持续迭代开发
  • 后期开源部分代码
  • 具体计划见 LLMHub 开发计划表