这是一位开发者分享的工具清单，可以提供从开发到部署、从数据管理到应用监控的全方位支持，大幅度节约你的探索成本~

LLM 应用开发框架 (开源 )

  1. Langflow：无代码编排工具，用于拼接不同的模块。 https://github.com/logspace-ai/langflow

  2. Deepset Haystack：基于Hugging Face Transformers的开源框架，用于查询和理解文本数据。 https://haystack.deepset.ai

  3. LlamaIndex：数据框架，便于将大型语言模型连接到自定义数据源。 https://www.llamaindex.ai

  4. LangChain：对于LLM应用开发入门者来说的必选工具。 https://www.langchain.com

  5. Prompt flow：微软开源的一套开发工具，旨在简化基于LLM的应用开发。 https://microsoft.github.io/promptflow

LLM 驱动的知识库和聊天机器人平台

  1. FastGPT：基于LLM大语言模型的知识库问答系统，提供开箱即用的功能。 https://fastgpt.run

  2. Dify：集成第三方API插件能力的平台，提供数据准备、Prompt Engineering等功能。 https://dify.ai/zh

  3. 毕昇：基于大语言模型的应用开发运维一体化平台。 https://github.com/dataelement/bisheng

国外版商业化闭源产品

  1. Baseplate：为LLM应用优化的后端，简化数据管理和应用构建。 https://www.baseplate.ai

  2. Stack AI：无代码工具，允许设计、测试和部署AI工作流程。 https://www.stack-ai.com

  3. Relevance AI：服务企业级客户的平台，提供多模态交互的AI应用构建。 https://relevanceai.com/blog

LLMOps 平台

  1. 星环科技：国内的LLMOps平台，提供提示管理和评估等功能。 https://www.transwarp.cn/subproduct/sophon-llmops

  2. Humanloop：帮助开发者在大型语言模型上构建高性能应用程序。 https://humanloop.com

  3. HoneyHive：监控和评估工具，提供版本控制和日志记录。 https://honeyhive.ai

LLMOps 工具包

  1. traceloop：提高LLM应用可观察性的工具。 https://www.traceloop.com

  2. Helicone：开源的可观测性平台，记录请求到OpenAI的日志。 https://www.helicone.ai

  3. Portkey：提供模型管理和可观测性功能的工具。 https://portkey.ai

提示词交流社区和交易平台

  1. PromptBase https://promptbase.com

  2. FlowGPT https://flowgpt.com

  3. PromptHero https://prompthero.com