无惧限制 Intel为中国公司定制了一张AI大模型入场券_砍柴网

首页 > 科技快报 > 业界 >

无惧限制 Intel为中国公司定制了一张AI大模型入场券

2023-07-14 17:27

一款名叫Gaudi2的AI芯片，2022年和2023年英特尔都为其开了一场发布会，为什么？
有两个方面的原因，一个在当前国际形势下的合规之举，另一个在生成式AI热潮下亮出的入场券。

无惧限制 Intel为中国公司定制了一张AI大模型入场券

这里的入场券有两层含义，一层含义是对正在四处寻找合适芯片的AI大模型算法公司来说，英特尔的Gaudi2能够成为这些公司发展业务的算力基石，足够的算力大模型竞赛的入场券。
另一层含义是对于英特尔来说，拿出的能和英伟达最先进的H100 GPU比拼的产品，是其在AI大市场里披荆斩棘的入场券，也是一个“大杀器”。
站在AI的变革时刻，手握AI时代入场券的公司，如何才能成为AI时代的领导者？
英特尔有一个十分清晰的路线图，2025年将会推出更适合AI需求的芯片，新的产品将融合Gaudi和GPU。
Gaudi2再次发布的2个原因
2022年的英特尔On产业峰会上，英特尔发布了新一代高性能深度学习AI训练处理器Habana Gaudi2，那时的Gaudi2训练BERT模型的性能相比英伟达A100就有2倍的性能优势，广受关注。

无惧限制 Intel为中国公司定制了一张AI大模型入场券

2023年7月，英特尔在北京又举行了一次Gaudi2的发布会，原因有两个。
“过去5个月大模型的演进非常快，去年发布audi2之后，我们做了大量软件模型的优化工作，可为大规模的多模态和语言模型提供出色的推理性能。”英特尔公司执行副总裁，数据中心与人工智能事业部总经理Sandra Rivera说，“这次我们不只是带来了一颗芯片，还带来了基于Gaudi2可以大规模部署训练以及推理大模型的整体解决方案。”
为了市场需求再次发布是一个原因，另一个原因是因为政策。
“这次在中国发布的Gaudi2，是中国定制版产品，对于出口或支持中国的客户没有任何问题。”Sandra分享。
中国版Gaudi2和国际版最大的区别是网口的数量，国际版集成以太网端口数量是24个，中国版减少到了21个，这一变化会降低中国版Gadudi2网络速度，对整体的性能影响不大。

无惧限制 Intel为中国公司定制了一张AI大模型入场券

这其实是在满足互联总线带宽不能超过400GB/s的美国出口法规限制。雷峰网(公众号：雷峰网)了解到，在法规的限制下，下一代Gaudi3在中国市场销售的版本也会和国际版有所不同。
用性价比和英伟达掰手腕
英特尔发布中国版Gaudi2并积极宣传的目的非常明确——从英伟达手上分一杯羹。
生成式AI火热之后，英伟达次新的A100和最新和H100 GPU在全球都成为了紧俏商品。在中国这种情况更加严重，并且因为有美国法规的限制，A100和H100并不能直接向中国市场出售，只能销售互联带宽更低的A800和H800。
这给包括英特尔在内的所有高性能AI加速芯片的提供者一个绝佳的机会，能从英伟达手里分一杯羹，就意味着抓住了AI这个未来十年甚至更长时间的大市场。
Gaudi2非常聪明地从性价比的角度与当下最强大的H100和A100竞争，这种聪明更直白的说就是抓住了用户最急切的需求。
“A100的定价相比此前的产品已经偏贵，到H100时定价已经贵的有些夸张，加上供货紧缺带来的价格上涨，H100让大量公司都对替代产品更有兴趣。”多位AI行业从业者都对雷峰网表示，“只要其它AI芯片的性能和体验达到英伟达的80%，价格是英伟达的一半，就一定有客户愿意买单。”

无惧限制 Intel为中国公司定制了一张AI大模型入场券

性价比可以借用数据直观体现。最受欢迎的AI开源模型提供商Hugging Face分享性能结果显示，Gaudi2在多种训练和推理基准测试中表现出的超过英伟达 A100 GPU的性能。在训练计算机视觉模型时，Gaudi2的每瓦性能是A100的2倍，对于1760亿参数的BLOOMZ推理，Gaudi2的每瓦性能是A100的60%，有全方位的能效比优势。

无惧限制 Intel为中国公司定制了一张AI大模型入场券

再看AI领域权威的基准测试MLPerf在六月发布的最新结果。
Gaudi2和英伟达H100是唯二提交GPT-3模型训练结果的半导体解决方案。结果显示，Gaudi2在384个加速器上训练GPT-3的时间为311分钟，英伟达在512个H100 GPU上的训练时间则为64分钟。

无惧限制 Intel为中国公司定制了一张AI大模型入场券

“这意味着，基于GPT-3模型，每个H100的性能领先于Gaudi2 3.6倍。”Habana Labs首席运营官Eitan Medina直言，“性价比是影响H100和Gaudi2相对价值的一个重要考量因素。Gaudi2服务器的成本要比H100低得多，所以Gaudi2的价格优势能够大大缩小了与H100的性价比差距。”

无惧限制 Intel为中国公司定制了一张AI大模型入场券

无惧限制 Intel为中国公司定制了一张AI大模型入场券

谈性价比，不能绕开软件，也就是使用体验。
几分钟就能迁移代码，Gaudi2高度适配大模型
芯片的使用体验，对于有开发经验的工程师来说是迁移的，对于没有代码的工程师来说是上手的难度。
Hugging Face 的首席布道者Julien Simon分享他使用Gaudi的经历，“在我第一次使用时，只花了10分钟，其中还包括阅读文档。在运行了我的加速脚本后，它立即就可以工作。我必须说这是我见过的最简单的开发体验之一，如果你有现成的代码，可以在几分钟内进行迁移。”
几分钟就能迁移原有模型的开发体验来源于英特尔针对Gaudi平台深度学习训练和推理优化的SynapseAI软件套件。这一软件套件集成PyTorch、TensorFlow、DeepSpeed框架，也支持Kubernetes编排，定制编译器。

无惧限制 Intel为中国公司定制了一张AI大模型入场券

同时，SynapseAI软件套件也有强大的合作伙伴生态系统，包括Hugging Face、PyTorch Lightning、RedHat。其中，超过5万个模型在Hugging Face平台上使用Optimum Habana软件库进行了优化。
这让Gaudi2对大模型开发者非常友好，从github上也能看到Optimum Habana对大量大模型支持的情况。像是对Stable Diffusion（一个用于从文本生成图像的最先进生成式AI模型之一）训练，Gaudi2能够实现从1张卡至64张卡近线性99%的扩展性。

无惧限制 Intel为中国公司定制了一张AI大模型入场券

随着软件优化的持续深入，开发者能够拥有更好的开发体验。而与Hugging Face的合作，也让开发者不用考虑英伟达的CUDA软件生态。
“确实很多人在用CUDA进行人工智能运算，但是大模型的开发者，大部分不会做那么底层的开发的，他们是在一个比较高的框架，比如PyTorch、TensorFlow上面做创新。”Sandra十分有信心，“我们和Hugging Face做了一些对策和合作，一些现有模型只花几十秒的时间就可以调通，能够运行在Gaudi上。”
“Gaudi2之前已经有一代产品，我们做了好几年积累，底层软件库都已经开发好。”Eitan补充，“我们希望让开发者能够在最上层的20%做他的开发，这里的开发和CUDA没有那么直接的关联。”
目前，浪潮信息已经发售基于Gaudi2深度学习加速器的浪潮信息AI服务器NF5698G7，这款服务器集成了8颗Gaudi2加速卡HL-225B，还包含双路第四代英特尔至强可扩展处理器。
英特尔也会打造基于Gaudi2的大规模集群，作为英特尔开发者云的一部分向中国客户提供。
2025年有更整合的GPU
Gaudi2是英特尔在大模型热潮里拿出的算力武器，但对于生成式AI的需求显然还不足够。
“明年我们会发布下一代产品Gaudi 3。”Sandra还透露，“2025年时，我们会把Gaudi的AI芯片与GPU路线图合二为一，推出一个更整合的GPU的产品。”
混合DSA（领域专用架构）是AI芯片领域明确的趋势，将Gaudi和GPU整合，既能发挥DSA的性能和能效优势，又能拥有GPU的通用性，这是高性能AI芯片公司都在努力的方向，但软件是一个挑战。
“从开发者的角度，他们更看重的是可持续的软件生态。”Sandra非常清楚，“在迭代产品的同时，我们要对开发者做最好的软件支持，让他们投入软件的一些代码能够在迭代的时候可以更好复用。”
当然，除了朝混合DSA的方向努力，英特尔还有丰富的AI产品组合的优势，包括CPU、GPU、FPGA和DSA。

无惧限制 Intel为中国公司定制了一张AI大模型入场券

Sandra对雷峰网表示，“很多数据中心的客户有成百上千个至强，他们可以很方便的在现有的数据中心上用至强做一些简单的推理工作。对于千亿级参数的模型训练，需要像Gaudi这样在性能、性价比或者是在供电上都是有平衡考量的产品。GPU Max在科学计算领域可以提供更高的性能和性价比。”
百度智能云服务器高级经理何永占就分享了其使用至强的经验，集成英特尔AMX加速引擎的第四代英特尔至强可扩展处理器为ERNIE-Tiny模型带来了多倍的性能优化。
显然，英特尔在生成式AI热潮里已经交出了不错的答卷，接下来就要看其能在AI大市场里俘获多少客户的心。
【来源：快科技】

共有评论0条

相关推荐
Intel高管：AMD集显竞争力不足！但没计划推Strix Halo竞品
前CEO基辛格：接手Intel后才发现衰败程度超乎想象！
21年老将窃取2nm机密投奔Intel：台积电不忍了！正式宣布起诉
Intel大连晶圆厂正式改名SK海力士：升级之路却被彻底堵死
霄龙CPU功不可没！AMD服务器市场份额近40%：明年剑指Intel王座
想要Intel锐炫B770独显 官方回应：敬请期待
Intel 18A成了！微软已正式下单 谷歌、英伟达也都要用
Synopsys 将为 Intel 18A 提供 IP 支持，含客户端 PCIe 6.0/7.0
华人CEO上任第二把火！Intel将宣布裁员20%：超21000名员工失业
显存性能跃升！Intel下代Arc独显有望用上GDDR7
Intel CEO陈立武：将在AI硬件领域与NVIDIA一较高下
NVIDIA游戏显卡有望Intel代工！采用18A制程
Intel：前CEO基辛格将获得5700万元离职补偿
Intel Panther Lake要推迟到明年上市！18A工艺成关键
Intel想卖掉自己几乎不可能！先问问AMD答不答应
太狠心了！Windows 11 24H2不再支持Intel 8/9/10代酷睿
Intel下代独显将用上Xe3P架构！不用台积电改由内部代工
Intel下一代Celestial独显可能基于Xe3P架构，将回归自家工厂生产
股价大涨7%！报告称Intel或将拆分晶圆厂与台积电合资
美国保证最强大芯片将于本土生产 Intel应声大涨超6%
英特尔计划拆分风投部门Intel Capital为独立基金，主要投资者地位不变
高通卷土重来再战服务器芯片市场！Intel前Xeon首席架构师加盟助阵
Intel Arc B570显卡性能首秀！比B580慢12%
性能最高暴增97%！Intel公布酷睿Ultra 200S微码更新数据
Intel 18A首款产品Panther Lake亮相！确认下半年发布
Solidigm退出消费市场：曾经闪亮的Intel SSD 完全消失
中国全球首发！Intel酷睿Ultra 200S 65W国内开启预售
三十年悬案真相大白：Intel奔腾FDIV Bug终于找到根源
Nvidia、AMD和Intel罕见联手，投资一家光芯片公司
传Intel 18A工艺良品率仅10%：或影响英特尔未来整个产品堆栈开发
2099元 撼与科技推出Intel Arc B580 TITAN OC显卡：12GB GDDR6显存
Intel显卡驱动减肥500MB 但仍有1.1GB！远超N/A
AMD首次在数据中心收入超越Intel，EPYC和Instinct AI加速器功不可没
AMD逆袭！数据中心营收历史首次超越Intel
Intel成都封测基地扩容！加强本土供应链和客户支持
重温20年合作情谊！Intel CEO晒与杨元庆合影：自豪共创科技先河
终结闭源霸权 Meta Llama 3.1横空出世！Intel第一时间适配并提供加速
就是不用自家工艺！Intel第二代独立显卡上台积电4nm
Intel下代接口LGA1851完整布局曝光：PCIe、USB一览无余
Intel出售爱尔兰工厂49%股份：获110亿美元缓解财务压力
Intel CEO将宴请中国台湾供应链：包括被NVIDIA独漏的仁宝电脑
Intel Lunar Lake处理器集成内存封装：引发供应链不满
微软+高通真爱！ASR自动超分仅限骁龙X Elite：AMD/Intel都不行
Intel把BMG-G21添加到LLVM补丁中，可能是首款推出的Battlemage GPU
跑分损失最多28％！13/14代i9稳定的代价太大了：秒变i7
再战英伟达？MTK和Intel联手，投资RISC-V芯片新贵
封闭没有前途！Intel打造开放AI生态 誓要虎口夺食
Intel Gaudi 3 AI加速器可以卖给中国，但挥刀砍掉一半
Intel宣布全新至强6：E核、P核兵分两路
Intel AI PC加速计划两大重磅升级！300多项专属功能
美国半导体芯片重镇遭重挫：出口损失57亿美元！Intel有三座厂
传性能暴涨超50％！Intel未来处理器要用台积电2nm
2023年俄罗斯成功进口了20亿美元芯片！涉及Intel/AMD/ADI等厂商
Intel CEO谈中国半导体现状：现有工具最多生产7nm芯片，落后10年
背刺Intel！苹果连发三款3nm处理器：M3系列性能暴增、表现让高通紧张
等了一年多！Intel Arc A580显卡终于发布：全家团圆了
Intel酷睿Ultra桌面版复活？一个美丽的误会
AMD图形大神突然宣布离职：曾炮轰RTX 4090烧毁，重回英伟达还是去Intel？
Intel 14代酷睿发布时间定了！平均性能提升仅3％
Intel发布全新16nm制程工艺：成本、功耗更低！客户一呼百应
“1.8nm”工艺没有对手 Intel有信心2023年签下首个客户
24核M2 Ultra处理器性能跑分出炉 Intel与AMD笑了：苹果还嫩
Intel Mac退出苹果舞台 消息称2024年将启动“macOS退休”计划
5倍于ChaGPT Intel推出Aurora genAI大模型：1万亿参数
Intel被曝预算砍掉10％、裁员20％！官方回应
Intel 20A工艺杀手锏之一惊艳首秀！反超台积电就靠它
Intel下代至强急冲冲上64核心！320MB三级缓存暴涨1.84倍
Intel “1.8nm”工艺抢先量产 台积电：不评价 我们的2nm还是最好的
抢夺Intel最赚钱业务！打破美企天花板 华裔女性全面接管AMD逆袭
Intel宣布高管降薪：CEO基辛格基本工资砍了25%
微软、Intel之后Adobe也返回俄罗斯了：能下载PS软件
Intel 13代酷睿国行价格公布！有的涨400、有的降100
Intel 13代酷睿核显变强了：看齐AMD Vega10
13代还没发 Intel 14代酷睿已经跑起来了！14核心20线程
最受玩家追捧显卡、系统一览：CPU上AMD继续抢占Intel份额
Intel 13代酷睿旗舰i9-13900K偷跑开卖：2850元真便宜
NVIDIA GTX 1630亮机卡终于来了！Intel都能灭之
旗舰才干掉RTX 3060！Intel独立显卡官方跑分公布
Intel游戏卡阵容空前强大：54款游戏已验证 核显也能玩
中国独占！Intel Arc A380桌面显卡终于发布：6GB显存无敌
发布三个月：Intel Arc显卡终于支持Vulkan 1.3
10nm至强处理器再次跳票 Intel：AMD有可乘之机了
Intel处理器明年又要换LGA1851接口：老散热扣具通用良心了
Intel CEO会见三星高层，可能会找三星代工部分芯片
显卡越崩越难卖 厂商急等AMD/NVIDIA/Intel救场
Intel曾承诺四月底放出Arc独显的驱动更新，但至今未见踪影
AMD考虑学习Intel和NVIDIA：CPU、显卡软件可能收费
Intel 56核心至强样品首曝：频率仅3.3GHz、功耗达420W
Intel的Arc独显频率为什么如此之低？因为他们给出的是最低值
Intel 18A工艺提前半年量产 已经有代工客户了
24年来第一次！Intel/NVIDIA/AMD同时发显卡
折扣远高于Intel AMD推锐龙、霄龙销售返点抢OEM份额
Intel物理封杀12代酷睿AVX512：大核架构与至强共享的意外而已
12代酷睿大喜 DDR5内存突然不缺货了：16GB容量999起步
Intel放出公告，表示已经解决了12代酷睿所碰到的DRM兼容性问题
Intel酷睿i5-12490F曝光：中国市场特供大缓存版
Intel预热12代鸡血版i9-12900KS：最高加速5.5GHz
Intel H670主板取消：B660、H610被曝涨价
Intel ARC独显GPU分析：性能看齐RTX 3070 Ti有戏
CES 2022：Intel和AMD都会在1月4日召开新品发布会
IPC大涨19％ Intel 12代酷睿处理器口碑翻身：好评如潮
Intel ARC入门游戏独显曝光：只要千元出头
12代Core i9-12900HK跑分曝光，领先M1 Max百分之3
Intel发布第三季财报 营收191.92亿美元：净利同比增长60％
Intel CEO接受采访，表示NVIDIA在业内太专有
芝奇推出幻锋戟及炫锋戟系列DDR5内存，最高频率能到6400MT/s
Intel显卡团队接受采访，谈到供应以及挖矿等相关问题
Intel 200亿美元投资2座芯片工厂：2024年首发20A埃米工艺
Intel高管披露Arc显卡合作厂商？官方否认
Intel首批三款ARC显卡信息曝光，旗舰显卡瞄准RTX 3070
美国能源部下一代超算选择部署Intel Xeon Scala
Intel 10月底举办创新大会：12代酷睿正式登场
时隔两年的更新，Intel推出Xeon E-2300系列处理器
Intel发布新款NUC P14E笔记本，拥有2K屏幕及77Wh电池
Intel 10nm终于冲到八核：5GHz血战Zen3
Intel提前解密11代桌面酷睿：除了14nm全变了
Intel DG1独立显卡全球首发 规格高度保密
Intel、AMD等芯片厂获250亿美元补贴：保证不被中国超越
Intel：10nm工艺不受7nm延期影响 正常上市
苹果自研PC处理器架构细节曝光：性能对比Intel直接溢出
分析师对Intel看法突变：目标股价大涨38% 10nm一帆风顺
Intel科普：为什么电脑待机的时候耗电量依然不低？
CPU缓存有有什么用？Intel官方答案来了
苹果甩开Intel：开发芯片为未来Mac做准备？
ARM的诞生是被逼出来的？因为intel不给技术！
Intel手机基带往事：因苹果而始，为苹果而终
Intel放弃5G基带太对了 专注高价X86芯片
Intel放弃5G手机基带：对三星有利？
三星存储芯片收入暴跌 Intel有望重回半导体收入一哥
Intel决心调整：不再局限PC、CPU等市场
Intel挤回一管牙膏！14nm退化22nm还挖坑
Intel发布5G基带芯片XMM 8160：下载速度已看懵
Intel公布48核新至强处理器性能：部分场景比AMD双路EPYC快3.4倍
​被诉窃取基带机密输送Intel 苹果回应高通：没证据乱喷
AMD在PC市场的份额持续扩大优势，Intel压力山大
三星芯片收入反超Intel 登上首位霸主
斩立决！Intel闪电终结68核心Xeon Phi 7200加速卡
斗Intel扶Google，王雪红被坑惨后投靠大陆
历史上首次，Intel将失去半导体老大地位！
震惊！近20年历史的Intel IDF峰会突然宣布彻底取消！
AMD Ryzen处理器的推出真的把Intel逼慌了吗？
Intel为何与NVIDIA在AI应用芯片上争吵?
14nm不死！Intel Coffee Lake曝光：主流平台首上6核
iPhone 7不走寻常路：或拯救困境中的Intel
别具“芯”意！Intel开启智慧物联新模式
英特尔新款可跟你聊天的太阳眼镜亮相CES
为了让机器人也“Qualcomm inside”，高通做了什么？
来自中国的ARM构架，如何打败 Intel的顶级芯片？
英特尔IDF首日拿出两个杀手锏 虚拟与现实从此连接

<返回

<返回首页

Copyright CmsTop.com
2026年02月28日 08:25:57