大模型算力荒?浪潮信息也来“掘金卖铲”87岁晚节不保,这次再多的名和利,都救不了“自毁前程”的魏纪中
时间:2025-03-05 00:12:17 来源:中原夏波网
图片来源@视觉中国刚刚过去的掘金卖铲一周,浪潮信息发布新品OGAI(Open GenAI Infra)元脑生智
,大模多的的魏意在为大模型业务提供AI算力系统环境部署
、型算信息算力调度及开发管理能力的力荒浪潮利都软件栈。浪潮信息作为一家以服务器为主营业务的也岁企业,受到来自生成式AI带来的晚节算力牵引潜力,下游客户需求旺盛 ,不保但另一方面,次再在英伟达
、名和英特尔等供应商出口限制的救不纪中影响下,人工智能芯片普遍短缺,自毁做软件,前程也是掘金卖铲增强市场竞争力的多一种选择。浪潮信息高级副总裁刘军告诉钛媒体,大模多的的魏当前阶段仍处于大模型开发阶段 ,型算信息除了缺算力外 ,基础模型能力还没有足够高的提升
,最终呈现出来的效果也不见得会真正能投入使用 。刘军认为
,算力供给解决到一定程度
,基础大模型的开发能力提升到一定程度,就具备了商业化能力 ,进而在各类场景、应用的落地通道也就打开了 。而在中国,现阶段能真正达到GPT-4的模型的还没有,这就意味着将应用创新能力都寄托在OpenAI上也是明显不可能,也是不现实的。大模型也需要生产力工具据公开信息 ,2021年9月
,浪潮信息就已经在研发大模型,面向大模型场景解决方案,支持AI芯片
、服务器
,以构建低时延的分布式系统
。浪潮信息发布参数量为2457亿的中文大语言模型“源1.0”。在“源”大模型的研发过程中,浪潮信息的AI团队逐步建立了完整的从公开数据爬取到数据清洗
、格式转化、数据质量评估的完整流程和工具链 ,并完成了5TB高质量中文数据集的清洗工作。“源”大模型的数据集和清洗经验和帮助国内不少AI团队提升了其大模型的性能表现 。在这个过程中,浪潮信息遇到了很多大模型研发应用中的问题 ,例如公共算力调度问题、数据清洗问题、大模型分布式训练性能不佳等等。为此,浪潮信息团队从三个层面进行优化
:一是系统全栈性,对于涉及多团队
、多环节
、多流程的业务 ,需要系统性架构和全栈解决方案;二是兼容适配性,由于模型训练需要大量的开源工具、组件
,但存在兼容和性能方面的问题;三是性能优化的挑战
,一个大的集群系统涉及的组件数以千计,怎样优化性能是问题。举个例子 ,针对于提升大模型分布式训练的计算效率,特别是在实际的AI集群环境中 ,可能存在GPU之间的互联带宽受限 ,或者AI服务器之间的网络互联带宽有限的情况,浪潮信息自2022年以来为客户将大模型训练的GPU峰值效率从30%左右提升到50%,提升GPU利用率。而在“源”大模型研发过程中 ,针对千卡规模算力的高效调度问题,浪潮信息通过对云原生的调度系统进行了改造来大幅加速其启动速度
,并重点解决了RDMA网络在容器中的接入和适配优化
,从而采取构建满足大模型需求的算力调度系统;针对训练任务的长期稳定运行问题,浪潮信息还引入了多种对集群性能的监控手段和性能数据分析方法。客户最关心什么但实现AIGC的能力 ,除了算力资源的限制外,仍存在诸多技术难点
,包括在模型的训练、效果测评
、落地场景应用方面兼具挑战性,对普通开发者和中小企业来说更是可望不可及。整体来看
,OGAI(Open GenAI Infra)元脑生智软件栈由5层架构组成 ,从L0到L4分别对应于基础设施层的智算中心OS产品
、系统环境层的PODsys产品、调度平台层的AIStation产品、模型工具层的YLink产品和多模纳管层的MModel产品。L0层智算中心OS的定位是面向智算中心等公共算力服务平台
,面向多租户场景,提供灵活多样的以裸金属为主的AI算力服务 。L1层PODsys聚焦于AI集群部署场景 ,提供了包括基础设施环境安装、环境部署 、用户管理、系统监控和资源调度一整套工具链,旨在打造一个易用、高效
、开放、兼容的智算集群系统环境部署方案
。L2层AIStation聚焦于AI开发场景
,通过云原生技术对集群系统中的计算资源
、存储资源和网络资源进行统一的接入和纳管,提供了易于使用的开发环境和作业管理界面 ,并基于内置算力调度系统和训练稳定保障系统来实现易于接入、按需分配
、弹性扩展和高效稳定的AI研发应用支撑平台
。L3层YLink聚焦于大模型的开发过程
,通过集成整合浪潮信息在大模型研发过程中的工具和开源工具
,为用户提供高效、便捷与标准化的大模型开发与优化流程 。L4层MModel定位于多模型管理与服务平台,帮助客户更好地管理和评估模型
,加速模型的部署和应用 。浪潮信息人工智能与高性能应用软件部AI架构师Owen ZHU还告诉钛媒体 ,“现在企业面临的最大挑战是 ,需要用大规模硬件的基础设施才能够训练一个类似于ChatGPT同等能力的模型
,这个复杂性是固有的。”他解释 ,OGAI技术栈是从L0到L4层是分层解耦设计和实现的,也就是说并不用把整个OGAI技术栈提供给用户,才能够实现大模型开发,而是对应需要实现的层级功能进行选择
。如果用户只需要提供算力多租户的裸金属方案 ,可能只需要L0层智算中心OS,不用关心最终用户会怎样进行大模型开发;如果用户需要模型开发相关工具链,可以按需选择L3层YLink提供的各类工具进行研发生产 。关于发布OGAI的初衷 ,Owen ZHU指出
,“浪潮信息做这件事情
,是先行者,这是由视角决定。浪潮信息服务了全球客户
,包括国内也是最主要的AI应用客户群体,能够第一时间感知到大模型市场在缺什么
,遇到了哪些问题。”从用户的角度来看,更强的算力基础设施也会倒逼需求侧进一步升级。“做模型的不懂算力,做算力的不懂模型” ,这种情况长期存在
,但很多算法的创新与硬件的发展是相辅相成 ,两者又需要共同发展。浪潮信息的这一做法是否切实可行
,仍需市场来验证。(本文首发钛媒体APP
,作者 | 杨丽)
-
NBA常规赛:快船战胜爵士取3连胜!阵容磨合渐入佳境!小萨:打进季后赛让萨克拉门托陷入了纵容长春亚泰明日主场战蓉城 伤兵满营,亚泰依旧“不服气”江苏女幼师出轨照曝光,画面不堪入目!原创 CBA赛程官宣!10月20号开战,常规赛分52轮,球迷施压季后赛场次有钱真好!中超唯一超级外援表态,上港终于吃下定心丸继枭龙后,哈弗第二条龙正式定名“猛龙”,搭1.5T Hi4插混动力新婚夫妇同房后妻子黄体割裂险丧命 网友:爱是抑制金融债“开闸”消金公司称积极准备中 上半年多家公司业绩超预期全场8人轮换,6人得分上双!打成这样的热火,最后还是输给老冤家狂轰35+15+12!全联盟第一,NBA最强超巨诞生,MVP总冠军全都要smart入局价钱战,提价1万有点“小打小闹”
相关内容
- ·【英超】孙兴慜加冕队史助攻王,助热刺大胜纽卡斯尔
- ·有些尴尬!凯恩1.2亿欧加盟拜仁!只为冲击生涯首冠,结果0-3惨败女运动员“难以启齿”的心酸:比赛前要“刮毛”,赛后忍痛扯泳衣
- ·重回熟悉的赛场,首位登陆澳超的女足队员肖裕仪:回娘家的感觉真好尘埃落定!周继红被查悬念揭晓,来看看央视传来最新消息
- ·马德里竞技本赛季能赢得西甲的原因
- ·巴黎圣日耳曼与它愤怒的球迷看到71岁朱琳老去的模样,才发现:杨洁选的第一美女果然名不虚传
- ·皇马“侮辱性”价格报价姆巴佩,巴黎圣日耳曼面临出售压力!刘涛黑历史被扒出,某女星公开指责:她技术很好,为上位不顾一切
- ·[瞎话板]怯夫新赛季15次背靠背:不断4年15次,并不断2年全同盟至多
- ·尤文图斯的欧冠资格悬了!江苏省高考女状元,遭多所985名校拒绝录取,成为“最惨状元”
- ·足坛豪门翻车夜!毛抬厂三兄弟齐输球,连德甲霸主拜仁都1-5惨败c罗被索赔超70亿元!努力半生,一朝归零,巨星也不适合经商
- ·天气局威信批注“吐鲁番游客头发挺立如刺猬”
- ·西南海吉星智慧财富园名目签约落户成都新津
- ·西南海吉星智慧财富园名目签约落户成都新津
- ·狂砍31+8+11!历史第一!超级巨星再创巅峰,NBA最强纪录即将诞生
- ·车车杀疯!罗马诺:拉维亚已经正式签约,总价5800万镑
- ·多名NBA球星出席 男篮天下杯星味淡
- ·450万法拉利遭“老头乐”刮蹭,车主仅索赔190元
最新内容
- ·不是拉文,不是德罗赞,湖人正式报价公牛,詹姆斯放话希望他能来
- ·状师解读摄影师维权使命:视觉中国无权维权,致使涉嫌敲诈!
- ·原创 内马尔之后,利雅得新月再引强援!球迷:别踢亚冠了,去踢欧冠吧
- ·NBA历史只有3个高中生状元秀,他们都是谁,实力如何?刘畊宏夫妇录节目被偶遇,真实身材引关注,网友:跟直播间差别大
- ·太阳官宣布克!杜兰特迎来噩耗,三巨头不是答案,沃格尔压力大
- ·NBA历史华丽篮球鼻祖,魔术师约翰逊的师傅,他到底多强?幼师穿超短裙领舞,后排爸爸们很尴尬!网友:思想肮脏看啥都有问题
- ·国务院国资委申明!
- ·肖裕仪加盟澳大利亚球队,中国女足留洋军团凑齐11人,男足仅一人苦苦支撑孔子真是韩国人?韩国学者拿出两大“铁证”,中方仅用4字回复
- ·英超爆冷周!曼联阿森纳输完切尔西输,曼城险翻船,铁锤帮被砸晕蒋介石在关键时刻处决了三位能改变时局的大将,从此走上了不归路
- ·新技术有望缩短冷冻器官“保鲜期”
推荐内容
- ·港科大推出图像分割 AI“Semantic
- ·马竞看上26岁日本王牌攻击手,菲利克斯替代者,谨防西甲豪强截胡张子枫未修生图流出,被网友公开批评:她的胸碍了谁的“意淫梦”?
- ·原创 内线新星将继续留在欧洲锻炼,掘金球迷还得继续忍受小乔丹?
- ·美特斯邦威独创人带着所有员工离沪迁杭!
- ·西媒:格雷米奥不放苏亚雷斯离队,除了非支出7000万美元解约金
- ·女足天下杯第一角逐日前瞻:澳大利亚难言晃动,挪威期待重修下场
- ·国内米兰民间:球队免签35岁夸德拉多,签约至2024年
- ·凯尔特人与达拉诺
- ·水庆霞:队员们要勾通起来踢好角逐 执教女足被良多人意见
- ·英超综合|阿森纳力压利物浦 曼联反超埃弗顿王健林建议购房者:“买三不买二、面积不超过110平”,有何深意
热点内容
- ·1-5!德甲班霸耻辱之夜:联赛首败,落后榜首3分,凯恩夺冠变难了
- ·德甲综合 | 多特大胜十人弗赖堡 柏林联合暂登榜首1990年邓丽君和林青霞在海滩偶遇,互相拍了10张照片,今已成绝版
- ·随身带枪,这名严正涉毒逃犯,落网!
- ·[瞎话板]ESPN提问:开拓者与热火的新赛季初次交锋,利拉德会在哪?
- ·狂轰42+7+3!火箭新人仍被无视?归队名额没他份,乌度卡另有打算
- ·状师解读摄影师维权使命:视觉中国无权维权,致使涉嫌敲诈!
- ·【观察】弗赖堡,突然成了德国足球人才基地26张晚清老照片,名妓果然是名妓,就算是放在今天那也是妥妥美女
- ·亚冠联赛大改革!奖金翻三倍,增加女足联赛幼师穿超短裙领舞,后排爸爸们很尴尬!网友:思想肮脏看啥都有问题
- ·原创 补强首选!交易截止日之前NBA备受关注的球员:湖人里弗斯入选!
- ·大运进行时丨杂技与魔术表演在大运村精彩上演 成都尽显绿色风尚轻度抑郁症的人,多半会有这3句“口头禅”,希望你一句都没说过