服务层:AI 代理工具包
在服务层中,提供了一个开发平台,结合了后端即服务(Backend-as-a-Service)和大语言模型操作(LLMOps)的概念,使得 dAI-Apps 开发者能够快速构建生产级生成应用。即使是非技术人员也可以参与到 AI 应用的定义和数据操作中。
通过整合构建 LLM 应用所需的关键技术栈,包括对数百个模型的支持、直观的提示编排接口、高质量的 RAG 引擎以及灵活的代理框架,同时提供一套易于使用的接口和 API,该平台为开发者节省了大量重新发明轮子的时间,使他们能够专注于创新和业务需求。
这一层专注于定义和持续改进 dAI-Apps 应用的开发,其优势包括:
将 LLM 集成到现有业务中——通过引入 LLM 增强当前应用的能力。访问现成的 RESTful API,将提示与业务逻辑解耦。管理接口跟踪数据、成本和使用情况,同时持续改善性能。
LLM 基础设施——作为内部 LLM 网关,加速 GenAI 技术的采用。
探索 LLM 能力——通过不同的 LLM 轻松实践提示工程和代理技术,并将其与其他实时外部知识集成。
提示:目前,服务层的大多数服务仅限邀请使用。主网上线后将开放公开测试。
最后更新于
这有帮助吗?