为什么选择大模型服务平台?
阿里云大模型服务平台(百炼)是专为生成式AI开发而设计的综合平台。 您可以通过它轻松访问行业领先的基础模型(FM),包括Qwen-Max、Qwen-Plus、Qwen-Turbo和Qwen 2系列,并一键设置检索增强生成(RAG)架构,使用企业数据定制这些模型。只需几个简单的步骤,您即可创建AI代理,并开发了解您业务的生成式AI (GenAI)应用程序,无需担心底层基础设施和计算能力。所有操作都可以在隔离的VPC网络中进行,从而降低隐私风险。
-
增强的基础模型(FM)
阿里云通义千问、通义万相和开源的Qwen模型系列增强了问答、写作、NL2SQL等能力,为您的GenAI应用程序助力
-
内置模型推理和评估工作流
借助支持SFT和LoRA的综合工具、内置的模型压缩和推理加速、基于可视化模板的多维模型评估,以及一键式模型部署,加快模型开发工作流
-
简化的大模型应用开发
通过可视化画布上的预建工作流、高度可定制的编排、基于模板的提示工程以及可与您业务系统轻松集成的丰富API,加速生成式AI应用程序的开发
-
全面的安全措施
在专有网络(VPC)中完成基于您企业专属数据的模型定制和应用程序开发,并使用PrivateLink访问数据,由此确保数据在存储和传输中的安全;以可定制的内容治理规范化prompt和内容;并将负责任的AI原则与人工干预工具相结合
在控制台中激活大模型服务平台(百炼),获取完整体验
场景
一键设置集成了AnalyticDB PostgreSQL版的RAG架构
强大的VectorDB
AnalyticDB PostgreSQL版可对海量数据进行引擎优化,具有超过100亿个矢量的检索能力,并支持通过多租户数据和访问隔离来提高安全性。
RAG检索优化
百炼和AnalyticDB PostgreSQL版联合利用RAG融合等技术进行深度检索优化,显著提高了向量召回的准确性。
企业数据安全
您可以将企业数据存储在您的私有域中,并将数据与域内AnalyticDB PostgreSQL版引擎关联,同时结合全面监控、审计和授权管理,以确保安全性和合规性。
全面兼容
除了百炼之外,AnalyticDB PostgreSQL版还是通义灵码(AI编码助手)、通义点金(金融AI)等多款阿里云AI产品的RAG引擎,并兼容人工智能平台(PAI)。
利用Assistant API轻松开发智能体
专为代理开发而设计
- 支持通义千问模型系列和监督式微调(SFT)
即用型插件和可定制功能
- 面向开发者的SDK开发支持
- 快速介入和基本记忆能力
提示工程
- 160多种提示模板,适用于各种工作和生活场景
- 模板中的变量可配置,支持定制
- 基于元提示的优化
- Few-shot prompting的示例选择工具
功能增强
- 采用新算法和新技术的与时俱进的架构
- 针对提示、响应和任务执行进行优化的原子功能
- 与OpenAPI一致的SDK开发范式
隔离云网络中的全面安全措施
网络安全
网络和传输安全:您可以在隔离的VPC网络中完成数据集管理、模型微调和推理、代理创建和应用程序开发。 无论您的业务是部署在VPC网络还是本地环境中,您都可以通过PrivateLink访问百炼,以确保整个过程中数据传输的安全可靠,从而实现一致的性能和正常的运行时间。 您还可以自定义网络安全策略,例如限制网关访问和端口转发。
防攻击:阿里云百炼提供广泛的防护,可抵御DDoS攻击、CC攻击、流量清洗、Web篡改、数据抓取、Web漏洞、未授权流量等。
数据安全
数据隔离:研发数据和生产数据隔离,研发和生产环境中的中间件和资源(计算和存储资源)隔离降低了风险,并保证在开发过程中不涉及企业数据。
数据存储和加密:日志数据定期清理并进行加密归档,针对OSS里的企业数据进行加密。
数据访问管理:您可以应用企业级数据访问管理和数据披露管理来根据业务需求定制数据访问。
内容安全
生成内容的安全:大模型服务平台自动监控和识别生成内容中伦理道德、价值观、法律等方面的多种风险级别的风险。
人工干预:您可以使用内置干预工具快速处理用户输入内容、提示消息和生成内容中的合规性问题。