阿里云发布全栈AI负载高可用 与用户共建AI时代云上IT新治理
12月17日上午,阿里在中国信息通信研究院主办的云发用户云上2024第五届“GOLF+IT新治理领导力论坛”主论坛上,阿里云重磅发布了全栈AI负载高可用架构,布全以满足AI大模型企业级应用在大规模参数量、栈A载高复杂结构和高性能算力背景下,可用对云服务处理能力可扩展性、共建服务连续性、时代服务质量和故障快速恢复的新治需求。
以为生成式 AI 打造持续的阿里卓越用户体验为目的,阿里云全栈AI负载高可用架构可达到GPU故障预测准确率92%,云发用户云上千卡规模集群连续训练有效时长大于99%,布全秒级模型自动保存、栈A载高分钟级故障恢复;每分钟10000个pod扩展,可用分钟级自动扩容;核心模型服务99.99%的共建API SLA,模型应用服务全链路可观测等重要的时代AI业务高可用目标,在大规模数据处理和训推场景下,实现了对Gen AI应用业务连续性、响应速度、稳定性和安全性的全面保障。
在论坛上,2025年中国数字化治理领域最新评估结果揭晓,阿里云成为首批通过信通院“企业用云治理能力成熟度评估”评测的两家企业之一,同时获得该项能力评估最高等级。
阿里云全栈AI负载高可用架构正式发布
在AI算力需求逐渐超越通用需求的今天,以GenAI为代表的应用场景和技术倍增,云上企业需要处理和存储的数据量呈指数增长,AI驱动的应用在高负载情况下,对保障业务的连续性、响应速度、稳定性和安全性均提出了更高要求。
为此,阿里云在升级云平台自身的技术服务能力的同时,将GPU、异构算力集群、容器集群、存储、向量数据库、机器学习平台等AI负载高可用全面融入云平台架构设计,围绕大模型训练微调、推理、多模态数据处理等环节,构建具备“高可用模型训练、灵活弹性的推理资源、数据高可靠”特性的全栈AI负载高可用架构,实现了从通用负载向AI负载的可用性演进,为客户AI业务构建提供稳定的业务服务和出色的用户体验。
在高可用模型训练方面,阿里云AI基础设施高可用能力融入云服务整体架构设计,基于AI算法的故障预测,实现训推环节的性能瓶颈分析和潜在故障分析,GPU故障预测准确率达92%,同时将异常预测接入自愈链路,训练恢复自愈率超90%、千卡规模集群连续训练有效时长大于99%,实现秒级模型自动保存、分钟级故障恢复;同时,CPFS 高性能存储集群,在超大集群中 20TB/s 的吞吐能力,支持更大及更加频繁的 Checkpoint 读写,能够更好地防止数据丢失,并提升训练的稳定性和可靠性。在网络层面,阿里云自研的高性能网络,业界首创双平面的高可用网络架构,网络Link和设备中断,训练任务不中断。
在推理资源方面,阿里云容器计算服务ACS的弹性能力实现每分钟可以进行10000个pod扩展,分钟级自动扩容;PAI-EAS模型在线服务,适用于实时推理、近实时异步推理等多种AI推理场景,能感知每个请求的执行进度,做到更公平的任务调度,提高扩缩容效率。同时,阿里云将跨区域的主动式重路由技术运用到数据中心间的通信,从而在跨数据中心推理网络上,达到跨域带宽业界最高的 99.995% SLA,实现秒级内重新路由,提供一个更加稳定的网络通信延迟。
对于在实时语音交互、实时AI搜索等高性能场景有推理需求的客户,阿里云百炼模型服务平台,基于预训练模型为用户提供模型推理与应用构建托管服务,核心模型服务API达到 99.99% SLA,高性能场景核心用户用例中的首包延时小于300毫秒,能够有效解决应用开发、模型调用等过程中的跨区域TPM限制、高并发需求下API响应变慢等问题,提升Gen AI应用推理与构建时的用户体验。
在数据高可靠方面,阿里云数据存储与数据库服务面向不同计算引擎、多种 AI 框架进行了深度集成,形成承载PB级甚至EB级大规模数据统一的存储底座,同城冗余容灾,高达99.995% SLA,数据多副本冗余、大文件断点续传、批量和多线程数据操作保障数据服务高可靠,向上支撑面向单AZ, 双AZ, 三AZ及跨Region的高可用服务,跨Region AI数据的就近读写和负载均衡,满足AI数据多活的强一致性,AI数据冷备、热备、故障自动切换,解决AI数据故障风险。
AI时代与用户共建云上的IT新治理
AI时代的浪潮中,企业对于高可用架构的需求不仅仅停留在节点的稳定性上,而是在更高的层面追求智能化运营。阿里云全栈AI负载的高可用架构已为企业奠定了坚实的技术基础,而进一步的挑战则在于如何提升云上系统的运维管理与治理能力。通过与用户携手,阿里云致力于在云环境中构建一个AI-Native的智能化、自动化和可持续的IT治理体系,为企业的创新之路保驾护航。
阿里云根据多年服务客户的经验总结为一系列的方法论和架构设计原则,推出了阿里云卓越架构 Well-Architeched Framework,意在帮助企业在云上构建一个安全、稳定、高效的应用环境。面向AI技术融入带来的更复杂更大规模的,根据云计算的弹性、实时交付、自助化等特点,阿里云卓越架构进一步升级了用云企业运维管理和治理规则基线的最佳实践,依靠Well-Architeched云卓越架构来学习-度量-优化,落地治理潜在的风险隐患,从安全、稳定、效率、成本、性能五大支柱全面提升系统整体韧性和运营效率。
阿里云开放平台负责人何登成表示,“在云上构建可靠的系统是云厂商与用户共同的责任。云厂商负责提供云平台的可靠性,确保提供的云服务可用性符合或超过阿里云服务等级协议;用户需要根据业务需求,选择合适的产品服务,并根据云相关文档的指导搭建高可用架构,来确保云上应用的可靠性。”
尤其在AI迅猛发展的今天,企业更应让业务系统利用现代云平台的基础设施达到高可用,总结成三个"面向":面向失败的设计架构,面向精细的运维管控,面向风险的应急快恢。同时,用户可以在建设持续稳定的云环境过程中,面向AI并结合AI,通过良好的AI模型训推架构设计、AI数据资产处理与存储、智能诊断与风险预测等手段,进一步提升系统可用性、可靠性、可持续性。
阿里云获信通院企业用云治理能力成熟度评估最高等级
据信通院发布的《企业用云治理能力成熟度分级要求》,企业用云治理能力成熟度评估共分为L1-L5共5个等级,分别为L1基础级、L2应用级、L3优秀级、L4先进级、L5卓越级。该分级要求不仅适用于对云服务使用方用云治理能力成熟度进行评估,也适用于对云服务提供商云服务治理产品、技术能力成熟度进行评估。阿里云测评结果为L4+,是目前阶段云服务提供商实际获得的最高等级。
此前,阿里云企业用云治理能力曾两度获得信通院评测认可,包括2022年“企业云治理能力成熟度模型”获信通院科技治理领域年度明星解决方案及产品;2023年“云治理中心”获信通院科技治理领域年度明星解决方案。
今年,针对企业用云发展路径、企业云治理发展趋势分析与洞察,阿里云联合埃森哲发布《云治理企业成熟度发展2024年度报告》,报告调研取样来自400多家企业客户,横跨互联网、金融、新零售、交通等多个行业,旨在帮助用户理解云治理概念、企业用云实践的现状及变迁趋势,并基于云治理框架的五大分类(即稳定性、安全合规、成本效益、高效性能、卓越运营),报告作为企业云上旅程的实践样本,为面向AI时代做好IT新治理和云上架构优化提供更多的参考与决策依据。
(完)
-
[流言板]记者:塔特姆新合同均薪6300万,但扣税后到手仅2500万大场面先生!萨拉赫对Big6已7次梅开二度,仅次于瓦尔迪和希勒马卡报:巴萨本周一将向法官申请临时措施,要求给奥尔莫注册马卡报:巴萨本周一将向法官申请临时措施,要求给奥尔莫注册孙兴慜:我不想给梁民革加盟热刺太大压力,因为他才18岁索兰克挑传助攻,库卢精彩凌空抽射破门[一图流]最后团战元流先进场打残干将,狼队众人齐心破水晶拿到胜利[流言板]瓶子发文:打野影,有什么说法嘛?哦哟,又看见一个人说最佳架枪位什么东西?牛逼666本身派大星的数据又不差,那个流量选手又没进总决赛,之后,他的粉丝又说什么呢?看总决赛那还打什么常规赛,直接打总决赛不就可以了?搞笑呢,这是[一图流]最后团战元流先进场打残干将,狼队众人齐心破水晶拿到胜利
- ·[流言板]雷霆和步行者球员全部跑错半场,球员教练和裁判全懵了…
- ·longskr已经基本确定17了
- ·莫德里奇致敬纳瓦斯:你的塞维利亚和西班牙永远不会忘记你所做的
- ·刚刚对比了一下更新后的约基奇和新司机
- ·[流言板]段冉:古德温和迪亚洛都是超级外援,山西队眼光真绝
- ·国防部:美日等应停止涉华虚假叙事
- ·《夺宝奇兵:古老之圈》测评!耕升 RTX 40 系列+路径追踪带来沉浸体验
- ·[流言板]八冠王对阵十冠王,官方列出两队过往全部荣誉!
- ·意媒:本轮莫塔或让麦肯尼客串边卫 达尼洛受轻伤&传闻影响将缺席
- ·《七年,陈默在云端给布氏鲸安了个“家”》
- ·萨拉赫:我们的防守还需要改进 我很高兴能成为队史第四的射手
- ·[一图流]廉颇梦奇目标直抵小玖硬生生将其击杀,狼队打出零换四
- ·[流言板]被罚离场!张宁全场出战34分钟,11中5得到10分5板1助攻
- ·叶兆言:写作之外,我是个很无聊的人
- ·索博本场1球1助攻 1造良机+2失良机 8对抗6成功 获评8.2分
- ·罗德里戈社媒:以5座冠军和伯纳乌的美好一天结束2024
- ·男女款齐全:红妮磨绒保暖内衣套装49元大促(日常109元)
- ·[流言板]八冠王对阵十冠王,官方列出两队过往全部荣誉!
- ·一年吸金近300亿美元!NVIDIA成2024散户最爱
- ·萨拉赫本场2球2助攻+2造良机 8射3正1中框1失良机 获评9.4分
- ·伞兵和伞粉还是太软柿子,太好说话了
- ·[流言板]本赛季至今已有4支球队场均净胜分+10,雷霆+11.7领跑
- ·波氏热刺场均英超进球数高达3.6个,带队50场以上的教练中最多
- ·2024人民企业社会责任论坛召开 荣耀绿洲护眼入选企业行动案例
- ·[流言板]丹尼尔斯赛季已有6次6+抢断,次数超过近15年所有抢断王
- ·热刺vs利物浦数据:控球相当,射门9
- ·再进就要上亿了‼️25岁伊萨克戴帽近4轮6球2助,纽卡连场4
- ·[流言板]八冠王对阵十冠王,官方列出两队过往全部荣誉!
- ·让文物“扭动”起来!抖音电商携手超50家博物馆开启“文创年货节”
- ·AVG为啥就能试训张德胜跟龙四?
- ·【西海岸】李月汝继续在土耳其联赛升级打怪,全场16投10中狂砍24分11个篮板,最终加拉塔萨雷女篮战胜贝尔格莱德红星女篮。
- ·在《Fallout 76》“辉光深渊”更新中探索地下城 现已发布
- ·侠客江湖《燕云十六声》开服 索泰RTX 40系显卡DLSS 3快意畅玩!
- ·萨拉赫本场2球2助攻+2造良机 8射3正1中框1失良机 获评9.4分
- ·詹姆斯怎么想的?这么远就投,命中率不要了?
- ·热刺vs利物浦数据:控球相当,射门9