9月19日,在2024云棲大會上,阿里云正式發布百煉專屬版2.0,可基于公共云VPC和專有云部署,支持圖表、公式、圖片、音視頻等多模態、非結構數據的解析,幫助政企客戶安全快速地開發大模型。
當大模型引發新一輪AI創新浪潮后,阿里云于2023年10月推出了百煉平臺。該平臺集成了國內外主流優質大模型,提供模型選型、微調訓練、安全套件、模型部署等服務和全鏈路的應用開發工具,為用戶簡化了底層算力部署、模型預訓練、工具開發等復雜工作。
但是,政企市場面臨一系列大模型落地“難題”:一方面,政企業務的獨特性、敏感性,對大模型開發環境有特殊要求;另一方面,政企市場歷史悠久,存在大量圖表、公式等復雜資料,如何將這些資料處理成大模型能夠理解的數據,成為政企訓練大模型、打造智能體的關鍵挑戰。
為此,阿里云于2024年推出百煉專屬版,是為政企客戶構建的一站式大模型及智能體服務平臺,提供從基礎模型推理服務到復雜模型定制化訓練、行業智能體搭建的全方位服務,實現AI能力的快速接入與應用。
2024云棲大會,百煉專屬版再升級,將提供以下能力:
在底層算力上,兼容“公共云VPC”和“專有云”環境,并已嵌入阿里云“飛天企業版”云平臺;支持多芯異構的算力調度,支持多租戶模式下的算力、模型、數據隔離與共享。
在大模型訓推方面,支持高性能分布式訓練,訓練吞吐率提升20%;基于軟硬協同的推理加速,將精度無損量化提升至0.5%,推理速度提升3倍以上。
在模型方面,預置通義7B到72B多尺寸大語言基礎模型及多模態大模型,同時兼容主流模型框架、支持三方大模型自定義接入。
在模型服務方面,支持圖表、公式、圖片、音視頻,以及大文件和巨量文件的解析;基于平臺豐富的工具和插件,開發者可通過“拖拉拽”快速搭建智能體。
目前,基于百煉專屬版打造的智能體已在政務、電力、醫藥研發、科學研究等多個領域落地。知名藥企阿斯利康基于百煉專屬版以及通義千問搭建的醫藥智能體,可對藥物不良反應進行自動分析和總結,將科研人員從繁瑣的文獻閱讀、篩選、撰寫工作中解放出來,提升藥物安全把控的效率和準確度。阿斯利康的藥物安全把控效率已提升300%,準確率已從90%提升至95%。
阿里云智能副總裁、解決方案研發部總經理曾震宇表示,行業大模型正在千行百業加速落地。相信大模型一定能夠助力行業智能化的發展,也希望百煉專屬版能夠與合作伙伴一起,為行業創新打造“好用”“易用”的智能助手。
友情鏈接: 政府 高新園區合作媒體
Copyright 1999-2024 中國高新網chinahightech.comAll Rights Reserved.京ICP備14033264號-5
電信與信息服務業務經營許可證060344號主辦單位:《中國高新技術產業導報》社有限責任公司