首页 >行情 > 正文

每日视点!大模型热到芯片暴涨,阿里百度成了英伟达的打工仔

2023-04-18 17:45:25

图片来源@视觉中国

钛媒体注:本文来源于微信公众号中国企业家杂志(ID:iceo-com-cn),作者 | 闫俊文,编辑 | 李薇,钛媒体经授权发布。

中国科技公司和创业者竞相追逐大模型,引发GPU芯片需求量的暴增,以及价格的疯狂上涨。


(资料图)

GPU是ChatGPT训练和部署的关键部件,这是强大算力的基础设施。根据公开消息,微软的Azure云服务为ChatGPT构建了超过1万枚A100 GPU芯片的AI计算集群。

千芯科技董事长陈巍告诉《中国企业家》,以A100芯片为例,从去年年底到现在,其单价涨了超过50%,从之前约5万元涨到了近10万元。由于A100已经被美国禁止售往中国内地,国内同行预估仅有3万枚存量。推出的A100替代版A800,国内厂商也是排队拿货,并且常常无货。

国内某大型服务器厂商的员工王石也感受到了这股浪潮。他告诉《中国企业家》,近期供应的压力比较大,包括等供应商的压力也比较大,但这并不代表错过了这一波就没有机会了,“相信今年年内供需回归到相对理性的水平”。

“我要给大家降温。这是一个突发的需求,大家不要着急,不是说我错过了这两个月或者三个月,我就失败了,远远没有到那个时候。”王石强调。

据《中国企业家》统计,除了阿里巴巴、百度等互联网巨头之外,商汤科技、昆仑万维、毫末智行、360等公司也官宣了自己的大模型,如果再加上王小川、王慧文、李开复等创业者,中国年内推出的大模型数量已经超过了10个。

一些行业人士预测,国内需要有8至20个大模型,比如生物医药计算、材料计算、化学计算、自动驾驶、气象等大模型,甚至未来四五十个也说不定。

算力、算法和数据构成了AI时代的三要素,而算力又是电力般的基础设施,有多少枚GPU,有多少算力,成为外界评估大模型研发和创业成败的关键。

在这一轮由ChatGPT掀起的大模型创业潮里,黄仁勋和成为了大赢家。

据统计,2020年,全世界跑AI的云计算与数据中心,80.6%都在用英伟达的GPU驱动。截至发稿,股价为270美元,比2022年9月时的低点119美元翻了一番,总市值为6669亿美元,成为美国第五大上市公司,比德州仪器、超威半导体(AMD)、高通、英特尔等芯片企业市值相加还要多。

五分之二的预算买算力

已经供不上货了。

近期,马斯克为推进推特内部的新AIGC项目,购买了大约1万枚GPU。从2022年末,微软就实行了GPU资源配额供给,但今年1月以来审批时间越来越长,如今部分申请需要等待几天甚至几周才能获批。同时,微软向预订的数万枚GPU芯片,交货无期。

2月份,出门问问CEO李志飞和美团联合创始人王慧文,讨论了大模型创业要花多少钱、入门门槛什么样。李志飞认为,门槛至少需要5000万美元,其中的2000万美元就是用来购买算力的。王慧文和李志飞不久前相继宣布在大模型领域创业。

根据陈巍测算,国内如果想要直接训练出一个ChatGPT3级别的大模型,常规最少需要1000枚A100级别的GPU芯片,而如果想要实际部署,不考虑冗余和响应速度,对于搜索引擎级别的服务,至少需要6000枚A100级别的GPU芯片。仅仅芯片一项,最小投入就到了近10亿元人民币。

一份流传的《阿里AI专家交流纪要》显示,百度年初紧急下单3000台8张芯片的A800服务器,这意味着需要2.4万枚A800,而预计全年百度会有A800和H800共5万枚的需求。阿里云预计在今年需要1万枚左右,其中6000枚是H800。此外,阿里云也会用到平头哥这种自研的芯片,每年采购大概3000枚。

2022年9月,发布H100型号GPU,但被美国禁止出口至中国,但怎会忍心错过中国的大模型热,为了出口,牺牲了部分性能,在今年推出了H800版本。

对照百度发布的文心一言,陈巍测算,按照国内成本估算单次应答成本5分钱,如果日访问量10亿人次,以月租价格评估,每天云计算成本约5000万元人民币,一个月将增加成本15亿元,一年增加成本180亿元,远远高于训练成本。此前媒体估算,ChatGPT光3月份的电费就得交近200万美元,这差不多跟27.5万中国居民一个月用电量相当。

《中国企业家》了解到,对于不缺钱的巨头来说,A100存储量也不多,未来采购以A800和H800为主,但仍需要V100等老式芯片补充。V100性价比高一些,在云上跑的成本是A100的三分之二左右,但运行速度较慢,如果是ChatGPT4级别大模型就不够用了。

也就是说,要想大模型算得更快、更准,必须适配最先进的GPU芯片。虽然拿不到最先进的GPU,但大模型玩家依然在积极囤货。按照上述数字估算,国内对A800以及H800的需求已经到了数十万级别。

王石说,目前来看,对于算力的需求可以说是上不封顶,有多少算力,都希望能够投身进来,“只能这么说,越多越好”。

仅仅靠资本似乎已经玩不转了,大模型之战,最后结局可能还是巨头之间的游戏。

一位头部投资机构的负责人告诉《中国企业家》:“创投界这点资本是不值一提的,资本它对整个行业的格局不造成影响,本来就这点钱也投不起,中国这几个VC加上PE,今年不在ChatGPT上投下10亿、20亿美元,水漂都打不起来,做不了几个训练级,但是百度和华为如果愿意在上面努力去做的话,我觉得投得起。”

瘸腿奔跑的中国大模型

不管是阿里巴巴、腾讯、百度等巨头,还是王慧文、王小川等创业者,他们不得不戴着枷锁跳舞:一方面,迫于美国的芯片禁令,他们得不到最先进的芯片源源不断的支持;另一方面,他们还要追赶国外已经到了ChatGPT4水准的技术。

陈巍感慨中国AI企业的不易。如果得不到国外先进的芯片,中国企业只能使用比较老旧或者工艺成熟但不那么先进的芯片,综合性能可能只有A100的60%,数量需要更多,跑得却更慢,综合成本要高出20%至30%,对于企业来说,这很有可能是赚钱和不赚钱的分水岭,活下去和活不下去的分水岭。

处处受限,起步又晚,但大模型也得干下去。

王小川在接受媒体采访时说,晚了也得干。美国人之前把核弹造出来,中国就不造了吗?这跟创业公司本身没关系,是中国要不要做的问题。

王石认为,中国企业没必要“芯片焦虑”。他提到了前几年“挖币”造成的硬盘泡沫,结果造成了SSD(硬盘)的一地鸡毛,整个硬盘厂商在2022年整年可能都在消耗库存。

GPU只是大模型创业链条中的一环,机房环境、算法、人才等等也必须配套跟上。

IT设备特别是计算设备的迭代和更新太快,如果在没有准备好的时候,放在库房里没有用,放一年,价值就浪费了。“现在都在用A800,今年下半年就有H800,性能提升很快,这个时候抢到了A800,但如果还没有用起来,是没有价值的,永远会有新产品出来。”王石表示。

王石还补充说,现阶段,算力的供应无论如何是不够的。这有两个策略,一个是把后台的产能跟上,另一个则是优化效率,通过算法等技术手段提升可用算力的效率。

英伟达成最大赢家

阿里和腾讯近期在算力市场都有重大动作。

阿里云在4月11日峰会上说,阿里云进行有史以来最大幅度的一次降价,通用计算将大幅降低,对比上一代主售产品最高可下降40%,还发布了“飞天免费试用计划”,开放计算存储、数据库、机器学习等核心产品免费试用。

腾讯则发布了新一代高性能计算集群HCC,采用了国内首发的H800 GPU。有数据称,腾讯云新一代集群的算力性能较前代提升高达3倍,是国内性能最强的大模型计算集群。

但不管哪家,他们都摆脱不了一个名叫英伟达的厂商,其创始人黄仁勋,江湖人称“黄教主”,他多次为此次ChatGPT浪潮鼓风。

“我们正处于AI的iPhone时刻。”黄仁勋在3月2023年GTC大会上说,“初创公司正在竞相打造颠覆性产品和商业模式,科技巨头也在寻求突破。”

在此次大会上,黄仁勋发布了ChatGPT专用芯片H100,而且他宣布,将会把由八块旗舰版A100或H100芯片集成的超级AI计算系统通过租赁的方式开放给企业。每月租金为37000美元,以加速推动这轮大语言模型引领的AI繁荣。

外媒一份数据显示,英伟达占据了95%图形处理器的市场份额。IDC数据显示,国内GPU服务器在2021年占国内服务器市场规模的比例超过88.4%,的产品占比超80%。

联想集团CTO芮勇说,目前来看,还是的天下,但未来不确定,因为大家对算力的需求只会越来越大。

行业人士说,未来GPU和算力的需求一定是多元的,或者说异构的。到了现在算力需求大爆发的时候,带来的第一个变化就是在这个领域多元化的蓬勃发展。

水大鱼大,但虾米和浮游生物等也会有存活机会。多元带来了更多的机会,但是最后谁能胜出,就看谁的战略定力,能持续地投入。

(应采访对象要求,文内王石为化名)

责任编辑:

上一篇: 下一篇:
x
推荐阅读

每日视点!大模型热到芯片暴涨,阿里百度成了英伟达的打工仔

2023-04-18

环球视点!财报速递:图南股份2022年全年净利润2.55亿元,总体财务状况良好

2023-04-18

焦点热讯:进口新车报道:2020进博会:新一代丰田Supra亮相 2.0/3.0T都有

2023-04-18

焦点资讯:"中控技术"成功发行GDR,推进数字化转型和海外布局

2023-04-18

【世界播资讯】【会员动态】优秀企业介绍:汕头市澄海区鼎翔达塑胶制品有限公司

2023-04-18

环球头条:外交部:美应停止干涉中国内政 停止损害中国利益

2023-04-18

环球关注:马鞍山市雨山实验学校:春暖花开日 研学正当时

2023-04-18

天天热点评!朝阳区举行2023年“百企千人”大型人才招聘会

2023-04-18

世界观速讯丨湖南:全省粮油加工业锚定新目标 今年总产值力争突破1820亿元

2023-04-18

天天观速讯丨供给扰动继续 沪锡高处不胜寒?

2023-04-18

天天滚动:全信股份(300447)盘中异动 股价振幅达10.03% 上涨8.86%(04-18)

2023-04-18

焦点信息:第二批国家级文明旅游示范单位名单公示 天津水上公园景区上榜

2023-04-18

焦点短讯!2023上海车展:2023款捷达VS5正式亮相

2023-04-18

世界热讯:京东总部在哪里办公_京东总部在哪里

2023-04-18

天天时讯:爞什么意思_そばにいるね什么意思

2023-04-18

通讯!新冠抗体“保护期”快到了,需再接种疫苗吗?

2023-04-18

天天快讯:共阳极数码管接什么电平(共阳极数码管)

2023-04-18

前沿资讯!茶宠能不能用开水煮 茶宠可以用开水煮吗

2023-04-18

速递!4月17日基金净值:嘉实基本面50指数(LOF)A最新净值1.8077,涨2.2%

2023-04-18

【独家焦点】半生给女儿写诗的”厂长爸爸“走了|世界读书日

2023-04-17

报道:为什么鸣礼炮21响_礼炮为什么是21响

2023-04-17

全球通讯!无锡产业发展:公司二级子公司已收到公安机关立案通知

2023-04-17

实时:每日观点:全网曝光!刘姓女演员道歉

2023-04-17

速讯:上海车展明日开幕:展馆分布、交通出行、门票事项全攻略

2023-04-17

【天天热闻】关东煮是日本的还是中国的_中国关东在

2023-04-17

天天时讯:渣打银行贵金属分析师库珀表示 今年第一季度 各国央行的黄金购买量可能是2013年以来最强劲的

2023-04-17

【世界播资讯】近期金价出现回调 黄金中枢将逐步抬升丨大宗商品

2023-04-17

今日要闻!欠钱不给怎么办

2023-04-17

全球观察:女童被卡,悬在四楼窗外,他们接力上演最美托举

2023-04-17

全球快播:seo/sem是什么意思_seo推广是什么

2023-04-17

【当前热闻】受油气价格上涨影响 “两桶油”2022年营收增长均超过20%

2023-04-17

世界快资讯:“在需要时能顶上,这是我们的使命”

2023-04-17

【天天播资讯】听古琴、赏粤剧、觅商机……广交会商务考察团走进越秀考察

2023-04-17

环球微资讯!A股13份年报被非标背后:审计机构愈发谨慎 信息披露更加规范

2023-04-17

新资讯:今晚开始!国内成品油零售价迎今年最大涨幅:加满一箱多花20元

2023-04-17

头条:配黄色皮带的牛仔裤英文_牛仔裤英文

2023-04-17

环球热文:建筑机器人亮相山东绿博会,腻子施工速度比人工快10倍!

2023-04-16

快讯:春潮带雨晚来急的意思是什么呀_春潮带雨晚来急的意思?

2023-04-16

当前播报:跳水——世界杯西安站女子10米台:全红婵、陈芋汐晋级决赛

2023-04-16

世界最新:越秀资本:股东拟参与转融通证券出借业务

2023-04-16

微速讯:初灵信息:涉股权转让纠纷被起诉,涉案额1.6亿元

2023-04-16

焦点热门:全国已春播粮食面积超1.4亿亩

2023-04-16

每日视讯:上海汽车芯谷·全球(首届)汽车芯片产业峰会在嘉定召开

2023-04-16

世界百事通!电信手机卡更改套餐的方法有哪些?

2023-04-16

焦点快播:刺客信条奥德赛英雄一击怎么用_黑之英雄的一击无双又出动漫吗

2023-04-16

当前聚焦:大连人2比1南通支云

2023-04-16

天天短讯!【ES三周年】一文弄懂css权重

2023-04-16

全球速递!2023汉马选手见面会,肯尼亚高手现学武汉话,打破纪录的何杰想坐传奇公汽521

2023-04-15

实时:您想了解的都在这里了 请收好这份2023上海车展观展指南

2023-04-15

世界报道:紧凑级SUV,1.5T爆182马力,来自本田打造,16.49万,适合家用?

2023-04-15

最资讯丨中国算力!总规模全球第二!

2023-04-15

环球热点评!红楼梦人物形象概括_红楼梦人物形象

2023-04-15

环球观热点:全国首个!《京津冀烈士褒扬合作框架协议》签署,三地将共享英烈资料

2023-04-15

每日热文:安卓手机怎么升级系统_手机怎么升级系统

2023-04-15

每日快报!为中国和世界消费市场把脉

2023-04-15

焦点!小轿车起火自燃,公交驾驶员和热心人紧急灭火

2023-04-15

【新视野】房屋知识科普:贷款买的房子房贷还没还完可以过户吗

2023-04-15

每日看点!微粒贷怎么样开通?微粒贷开通的方法及流程(微粒贷怎么样开通)

2023-04-14

环球时讯:赛特新材: 赛特新材:2022年年度报告摘要

2023-04-14

世界看点:癸卯年黄帝故里拜祖大典用什么酒供奉黄帝?还是仰韶彩陶坊!

2023-04-14

天天百事通!医用纯化水设备

2023-04-14

天天滚动:中国移动网上营业厅_中国移动选号

2023-04-14

每日速讯:常德国家农业科技园区开展“家庭助廉 团团圆圆”主题活动

2023-04-14

热议:学生体重48公斤被学校谈话 基本信息讲解

2023-04-14

当前快报:oppo怎么导入自己动态壁纸

2023-04-14

天天快看点丨西南证券给予京基智农买入评级,牢铸生物安全优势,养殖新星迅速成长

2023-04-14

新动态:1人指挥失误,1人发挥失常,球迷建议这2人离开山东男篮

2023-04-14

世界热议:【男科圣手】杭州阿波罗医院[排名前三]-杭州做包皮手术比较好的医院

2023-04-14

环球滚动:民间借贷债权转让条件有哪些?民间借贷债权转让注意事项有什么?

2023-04-14

热点聚焦:台湾修订“打诈法案” 无正当理由收集账户罪最重处5年徒刑

2023-04-14

天天快播:宋杰:三国“第一夫人”——曹操之妻卞氏

2023-04-14

环球时讯:中核科技(000777)4月13日主力资金净买入809.70万元

2023-04-14

热点!尖峰集团:4月13日融资买入380.57万元,融资融券余额4.81亿元

2023-04-14

观察:汇聚新动能 激发新活力——各方共话中小机场高质量发展

2023-04-14

全球热头条丨中小行敏锐调降存款利率 市场有望迎来增量资金

2023-04-14

每日精选:瑷珲条约时间 瑗珲条约

2023-04-14

当前最新:全球连线|记者探访中老铁路国际旅客列车老挝始发站——万象站

2023-04-13

焦点快看:陈妍希出席活动,穿一条卡其色工装连衣裙,清新又显活力!

2023-04-13

今日快讯:台岛周边东部战区空军持续演练

2023-04-13

焦点速讯:小米平板6上架预售:4月18日发布

2023-04-13

世界关注:家门口的公园何时能建好?

2023-04-13

天天即时看!多地下调医保单位缴费率,职工待遇不受影响

2023-04-13

观点:人工智能生成的特斯拉标志

2023-04-13

【新要闻】东方金诚:3月出口大超预期,经济回升也在带动进口改善

2023-04-13

天天热议:香港金管局本月三度入市捍卫港汇 港元拆息全线上扬

2023-04-13

全球信息:火影忍者内容简介_火影忍者简介内容简介

2023-04-13

全球实时:A股异动 | 立达信跌超5% 一季度净利预减67.56%至60.35%

2023-04-13

环球今热点:麻辣豆腐的家常做法视频_麻婆豆腐的家常做法

2023-04-13

世界消息!滨州沾化:发展特色农业 助力乡村振兴

2023-04-13

今日热门!安徽一医院副院长,被查!

2023-04-13

天天播报:30岁女人最喜欢什么礼物

2023-04-13

头条:普兰店区气象局发布大风蓝色预警【IV级/一般】

2023-04-13

全球快报:巨星农牧04月03日被沪股通减持27.66万股

2023-04-13

全球视讯!新股中签率速查|美利信网上发行最终中签率为0.0284096508%

2023-04-13

环球资讯:成都申办2036年奥运会?官方回应

2023-04-12

世界热头条丨空间解析几何知识_空间解析几何

2023-04-12

全球头条:瞳似星星的男子

2023-04-12

天天微动态丨屡败屡战,字节想在国内复制Shein?

2023-04-12

世界速读:可立克:拟收购海光电子20%股权

2023-04-12

天天关注:龙大美食:公司将于2023年4月29日披露2022年年度报告及2023年第一季度报告

2023-04-12