租用AI算力价格贵?未来北京有望给你打五折
北京商报 2023-07-04 22:36:25

大模型时代,算力是底座。北京市经信局党组书记、局长姜广智在日前举办的2023全球数字经济大会人工智能高峰论坛(以下简称“人工智能论坛”)上表示,北京正筹划出台“算力券”,支持基于大模型落地应用场景的中小企业获取多元化、低成本优质算力。

眼下,大模型正推动智能算力需求爆发式增长。但智能算力很贵,除了互联网大厂等极个别企业有能力自建智算平台外,大多数中小企业目前还是依赖于购买或租用算力,其成本也并不低。这成为了中小企业狂奔大模型赛道的痛点和堵点。而北京“算力券”的推出,将有望打通这一堵点,为产业打开全新的想象空间。

算力有望打五折


(相关资料图)

就北京筹划出台“算力券”政策,北京市经信局相关负责人在接受北京商报记者采访时介绍,目前“算力券”政策正在研究中,具体细节还未敲定。不过,可以明确的是,“算力券”中算力的供应方来自北京经信局正在征集的“北京市通用人工智能产业创新伙伴计划”成员。

北京商报记者在北京市经信局官网查询发现,7月3日,北京市经信局已经发布了第二批伙伴名单,63家伙伴企业中,算力伙伴10家,分别为北京百度网讯科技有限公司、北京世纪互联宽带数据中心有限公司、中国电信股份有限公司北京分公司、中国移动通信集团北京有限公司、北京昇腾创新人工智能科技中心有限公司、京东科技信息技术有限公司、北京红山信息科技研究院有限公司、企商在线(北京)数据技术股份有限公司、北京神州数码云科信息技术有限公司、北京金山云网络技术有限公司。

此前发布的第一批伙伴成员中,共有算力伙伴2家,分别为阿里云计算有限公司和北京超级云计算中心。

关于算力券的具体价格,前述北京经信局相关负责人表示正在研究中。不过,他也指出,目前算力伙伴提供的算力价格尚未公布,但基本已经是市场价格的五、六折左右。

算力租赁的市场价格是怎样的?提供算力服务的北京昇腾创新人工智能科技中心有限公司CTO杨光告诉北京商报记者,目前市场价格约为15-20元/卡/时,1P大约是3-4张卡。“‘卡’指单芯片,目前算力价格确实也不是很统一。但这个价格对于中小企业来说还是比较昂贵的,所以急需有普惠算力支持企业发展。”

杨光举例,一个常规的AIGC项目租用的算力规模涉及到的“点”比较多,费用并不太容易进行统一计算,“但是有公开数据显示,训练一个GPT-3需要花费460万美元”。

此前有消息称,国际算力设备龙头企业英伟达也计划开放DGX Cloud实例,企业可以“云租赁”的形式按月租用DGX Cloud集群,价格为每实例3.7万美元/月起。DGX Cloud能为AI超级计算提供完整的解决方案,借助该集群,企业用户可扩展大型多节点训练工作负载的开发,无须等待需求量通常很大的加速计算资源。

“出台‘算力券’政策,主要是为了解决中小大模型企业算力成本问题,支持基于落地应用场景的中小企业获取多元化、低成本优质算力。”前述北京经信局相关负责人表示,“如果企业有需要,我们很愿意提供算力供需对接的平台。”

需求暴增推高算力价格

本次北京经信局筹划“算力券”的背后,是呈现爆发式增长的智能算力需求。

随着ChatGPT在今年的爆火,各大科技企业都开始逐鹿细分行业大模型,包括但不限于交通、医疗、数字政务等细分领域。根据北京市经信局在人工智能论坛上披露的数据,我国目前已有80余个大模型公开发布,其中北京约占一半。“但除了大型互联网企业、AI龙头企业具有较多的GPU算力芯片储备外,中小企业在发展AI模型、应用过程中,遭遇算力瓶颈。”

一家科技企业负责人王楠告诉北京商报记者,他们公司主要通过向大厂购买算力来解决算力需求,而ChatGPT在今年突然崛起,许多大厂的GPU算力芯片价格都涨了不少,一段时间里甚至高价也很难买到。

算力成本涨了多少,从英伟达GPU芯片的交付价格即可一窥。目前,AI算力中最关键的芯片GPU被英伟达垄断,市场占有率达到90%以上。以英伟达GPU芯片A100为例,该芯片价格从去年12月开始上涨,截至今年4月上半月,其5个月价格累计涨幅达到37.5%;同期A800价格累计涨幅达20%。同时,英伟达GPU交货周期也被拉长,之前拿货周期大约为一个月,现在基本都需要三个月或更长。甚至,部分新订单“可能要到12月才能交付”。

北京商报记者查询后了解到,一张40G显存的A100芯片,在电商平台上所标售价达6.25万元。因此,A100芯片也一直被广大科技发烧友戏称为“小金砖”。

这也导致了自建智能算力平台成本极高。今年5月,上海张江一家数据公司的相关负责人在接受媒体采访时曾表示,“一台包含8张A800的DGX超算,现在市面上的价格可能要到230万元到250万元之间,价格还在持续上涨。”

而算力的需求究竟有多大?资料显示,OpenAI为了训练ChatGPT,构建了由近3万张英伟达V100显卡组成的庞大算力集群,GPT-4更是达到了100万亿的参数规模,其对应的算力需求同比大幅增加。如今国内多家企业宣布投身大模型的公司,如果再叠加计算上围绕大模型的人工智能生态和由此产生的用于推理的算力需求,未来的算力缺口将更加惊人。

“总体上看,我国的算力需求从静态来说目前‘基本’能够实现算力供需之间的平衡,但是从动态角度来说,未来越来越多的行业、企业要运用大模型、运用人工智能多模态,算力在未来存在非常大的缺口。”北京社科院研究员、中国人民大学智能社会治理研究中心研究员王鹏在接受北京商报记者采访时表示。

加大算力供给是根本

庞大的算力需求为AI算力产业带来了广阔的市场空间。来自IDC的数据与预测显示,2021年中国智能算力规模达到155.2EFLOPS(每秒一百亿亿次的浮点运算)并在之后的几年始终保持稳健增长态势,预计到2026年将突破进入每秒十万亿亿次浮点计算级别,智能算力实现1271.4EFLOPS的庞大规模,2021-2026年期间,预计年复合增长率达到52.3%。

各科技巨头在算力上的投入也十分明显。在百度2023年Q1财报中,其AI的内容贯穿始终。腾讯发布的2023年Q1财报中,在数实经济、广告和游戏三大核心业务集体发力下,腾讯重回增长曲线。值得一提的是,关于算力和人工智能的部分,同样占据了财报很大的篇幅。

但算力成本高,成为了制约企业的一道坎,特别是对中小企业而言。而算力租赁或许可以成为目前解题的突破口。在杨光看来,企业采用租赁方式使用算力能够弹性提供算力,满足不同模型训练所需要的算力需求。

“由企业自身建设、运维算力设备所需的投入非常高,并不是一般企业所能承受的。可以参考的解决办法,首先是统一建设集中化的算力中心,统一分配,部分头部企业已经开始了这方面的布局。其次便是算力租赁,通过政府搭线,给企业提供优质的、相对廉价的算力,降低企业成本。”王鹏说道。

天使投资人、资深人工智能专家郭涛从通用算力和智能算力的细分角度进行了分析,他表示,当前部分地区已出现通用算力过剩现象,算力租赁可以有效解决算力供需对接问题。不过,当前大模型建设所更需要的是智能算力,智能算力受到智能计算中心建设滞后和高端芯片难以获取等方面影响,市场供给不足,对人工智能相关产业的规模化、普惠化落地产生负面影响。

“算力租赁虽然可以在一定程度上平衡算力需求,但并不能从根本上解决算力稀缺问题。未来,随着大批智能计算中心项目建设运营,有望从根本上解决智能算力瓶颈问题。”郭涛说。

“过去几年以通用算力为主,智能时代尤其ChatGPT时代则以智能算力为主。”杨光指出,解决大模型企业的成本还是要加大智能算力基础设施建设,“北京也正在先行先试建设多个公共智算平台,除了我们位于门头沟的北京昇腾人工智能计算中心外,海淀正在规划北京人工智能公共算力平台,朝阳也在规划北京经济算力中心等。”

(文章来源:北京商报)

租用AI算力价格贵?未来北京有望给你打五折

2023-07-04 22:36:25

重点聚焦!“港”创科25人|独家专访香港生产力促进局总裁毕坚文:香港推动“新型工业化”须与内地城市协同合作

2023-07-04 22:53:03

雅本化学:有规模化生产NMN原料的产线 将择机推进投建

2023-07-04 22:43:11

卡卡网口子超市(口口卡盟)

2023-07-04 22:15:59

槽钢型号及尺寸规格表(槽钢型号)

2023-07-04 22:18:26

360浏览器2021(360lui浏览器) 微动态

2023-07-04 22:05:42

经营规模不受空间限制不是电子商务的特点(经营规模)

2023-07-04 22:25:49

基本户开户许可证核准号从哪里查(基本户开户许可证) 世界热消息

2023-07-04 22:19:09

全球热点!买在了历史高点,定投多久能回本?

2023-07-04 22:21:12

汽车会卷成像电视一样的消费品吗?_天天热议

2023-07-04 22:12:09

李迅雷:中国新生儿数量或被低估,但老龄化对经济影响仍严峻

2023-07-04 22:05:44

天天最资讯丨美元存款利率调降,人民币汇率收涨

2023-07-04 22:11:26

中国的反制终于来了!

2023-07-04 22:11:22

拂晓51975306_拂晓

2023-07-04 22:09:49

北向资金今日净买入歌尔股份4.26亿元

2023-07-04 22:07:25

昊志机电收关注函:说明谐波减速器等产品是否已实际应用并形成批量销售_环球热闻

2023-07-04 22:06:34

339家公司公布最新股东户数

2023-07-04 21:58:04

晶晨股份:选举John Zhong为董事长并聘任为总经理

2023-07-04 21:50:07

中美荷反制,欧美卡脖子

2023-07-04 21:35:11

环球微动态丨只撩不爱,情债满身的星座朋友,你还会继续爱吗

2023-07-04 21:50:55

【热闻】深圳储能企业近7000家 启动新型储能试点示范项目申报

2023-07-04 21:36:34

当前播报:广西将建优质高效中医药壮瑶医药服务体系 强化人才培养

2023-07-04 21:41:31

蓝黛科技:目前公司产品暂未涉及汽车流媒体后视镜相关业务

2023-07-04 21:51:46

中银协报告:持牌消金客户实际承担利率已压降到监管规定范围内

2023-07-04 21:42:59

新能源车行驶中电池脱落 回应:工作人员操作疏忽

2023-07-04 21:51:55

全球热点评!山东中烟青州卷烟厂组织开展创新创效成果评审交流

2023-07-04 21:15:50

ln是什么函数的导数(ln是什么函数)|世界速看料

2023-07-04 21:10:36

牙齿发炎吃什么药好得最快(牙齿发炎吃什么消炎药) 全球快消息

2023-07-04 21:07:28

环球视点!任丘县志村庄来历(任丘县)

2023-07-04 21:10:06

世界快资讯丨沈阳火车票网上订票(沈阳sk客运站网上订票)

2023-07-04 21:24:18

赤焰七星和青飘飘的爱情故事(赤焰七星)|天天通讯

2023-07-04 21:08:34

暴跌18%!钻石价格跳水后,黄金消费在电商迎来沸点

2023-07-04 21:11:21

蔡徐坤“翻车”波及燕京啤酒!高端路上流水广告费:四年耗资21亿元 每日关注

2023-07-04 21:23:22

出手反击!芯片“新粮食”限制出口_热议

2023-07-04 21:24:03

胡锡进“入A”一周:10万入市不断追加赚了2600元,称再也不吃“韭菜”包子

2023-07-04 21:05:30

中国存款最新十强省份出炉!浙江高居第三,安徽紧追湖北

2023-07-04 21:15:52

捷安高科:实控人等拟合计减持不超3.97%股份

2023-07-04 20:59:27

全球今日讯!奇信退:公司股票7月5日摘牌

2023-07-04 20:57:51

中信建投稳裕定开债基限购_看点

2023-07-04 21:08:00

焦点讯息:工银瑞信中证国新央企现代能源ETF7月17日起公开发售

2023-07-04 20:53:41

天天滚动:深交所:昊志机电10个交易日涨幅超100%,期间自然人买入占比超73%

2023-07-04 21:07:33

艺术小人才舞台展风采 湖北省举办“童心向党”庆七一专场音乐会

2023-07-04 20:52:17

这个“远程医疗协作网”让藏族同胞在“家门口”享受上海高质量医疗服务-环球头条

2023-07-04 20:59:18

当前速递!光智科技:拟不超3亿元投建房屋、建筑物工程

2023-07-04 20:47:54

北元集团:公司不存在且未知悉任何恶意做空等操纵把控股价行为|天天简讯

2023-07-04 20:32:45

【快播报】同济科技:上半年净利润同比预增122%-159%

2023-07-04 20:42:06

交易异动!昊志机电:近3个交易日上涨43.78% 不存在应披露而未披露的重大事项 全球微速讯

2023-07-04 20:47:44

“汉漾”青年人才代表韩雄俊:更多创新成果能在武汉得到实践和应用 焦点信息

2023-07-04 20:36:33

negro和nigger区别(neg)

2023-07-04 20:05:52

up是什么意思呢down(u p是什么意思)

2023-07-04 20:18:13

哪些东西属于劳保用品类别(哪些东西属于劳保用品)-环球热议

2023-07-04 20:20:58

体内湿气重吃什么食物去湿(体内湿气重吃什么食物)

2023-07-04 20:27:52

全球报道:品德操守的具体内容(品德操守是指什么)

2023-07-04 20:08:11

视讯!王健林,不服输

2023-07-04 20:23:16

“寡淡”的汾酒,该何去何从? 焦点速讯

2023-07-04 20:07:32

全球快报:匿名向母校捐款6亿元,神秘校友是他!

2023-07-04 20:16:31

小米系继续“脱钩”,“扫地茅”石头科技,怎么了? 世界速读

2023-07-04 20:25:07

A股下半年乘风破浪?投资主线有哪些?十大券商策略来了

2023-07-04 20:24:38

通讯!山观经寺相关内容简介

2023-07-04 19:55:26

环球新资讯:点石斋画报·老西洋镜_关于点石斋画报·老西洋镜介绍

2023-07-04 20:00:18

碧桂园:6月实现权益合同销售金额约160亿元

2023-07-04 19:36:58

特斯拉上海工厂6月交付新车超9.3万辆 同比增长19%|快看

2023-07-04 19:48:17

国家能源局局长章建华:推进能源法、电力法、煤炭法、可再生能源法等制修订

2023-07-04 19:52:38

全球热议:烟台市芝罘区“信用赋能”打造“共促双赢”诚信体系

2023-07-04 19:44:10

安邦股份助力基层治理“提质增效” 实现“社企共赢”

2023-07-04 19:47:31

大美边疆行·这里是吉林丨一组海报Show出吉林兴边富民新图景-环球简讯

2023-07-04 19:27:03

环球观点:李世民之后是谁继承皇位(李世明)

2023-07-04 19:25:29

全球速读:港务局是什么单位类型(港务局是什么单位)

2023-07-04 19:19:56

田艾籺(田艾)-动态

2023-07-04 19:14:10

全球信息:旺旺号(旺旺邮箱)

2023-07-04 19:17:55

电脑打不了字了怎么办(电脑打不了字怎么回事)

2023-07-04 19:16:28

天天观察:蔡徐坤塌房!燕京啤酒的复兴之路怎么走?

2023-07-04 19:16:01

“不敢坐”的共享按摩椅,不只是因为卫生

2023-07-04 19:10:36

“胡锡进炒股”火了,他的投资思路能学吗?-环球最资讯

2023-07-04 19:24:36

京沪等七大重点城市人均消费不及2019年,什么信号?|每日关注

2023-07-04 19:10:26

倒闭!孙正义踩雷“西方版微信”,95%用户都是假的_焦点滚动

2023-07-04 19:07:27

康恩贝:上半年净利同比预增139.4%-163.35%|每日快看

2023-07-04 18:47:19

科伦药业:上半年净利润同比预增56.67%-65.88%_天天看点

2023-07-04 19:06:10

天天微动态丨飞龙股份:预计上半年净利润同比增长440%-524%

2023-07-04 19:02:19

证监会同意广钢气体、泰凌微科创板IPO注册

2023-07-04 18:51:20

当前消息!8848广告词搞笑版视频_8848广告词

2023-07-04 18:59:38

【全球新视野】伟思医疗:二代精康磁产品预计下半年启动FDA注册流程

2023-07-04 18:30:54

2023年第一次国家农产品质量安全抽检总体合格率达97.5%_全球微速讯

2023-07-04 18:46:32

豪恩汽电亮相创业板 上市当日涨超126% 天天热议

2023-07-04 18:32:44

极米科技:未来公司将逐步完成超级混光技术在公司产品上从高端向下的布局 环球即时看

2023-07-04 18:49:11

全球消息!交付量超预期 特斯拉总市值逼近6.4万亿 概念股市盈率最低仅5倍(名单)

2023-07-04 18:47:26

北京公交卡余额查询官网电话(北京公交卡余额查询官网)

2023-07-04 18:22:14

中南大学学生卡(中南大学校园卡电子服务平台)

2023-07-04 18:08:41

可瑞敏哪里能买到(可瑞敏)

2023-07-04 18:07:19

兰州市财政局官网首页(兰州市财政局官网)

2023-07-04 18:04:03

【天天播资讯】会计数字的正确写法模板(会计数字的正确写法)

2023-07-04 18:04:51

中国限制镓和锗出口 业内人士如此评论

2023-07-04 18:23:09

世界播报:中国限制出口镓和锗,已有美企积极申请出口许可!哪些企业将受影响?

2023-07-04 18:09:47

当前消息!刚刚,小米“掐架”华为!

2023-07-04 18:09:17

尾盘突发!人民币爆拉超400点,A股走强汽车涨停潮,国债利率大涨

2023-07-04 18:22:54

世界热文:谷爱凌演讲完整版 谷爱凌礼服穿错了 基本情况讲解

2023-07-04 18:12:43

阿姨洗铁路娜娜米怎么读_阿姨洗铁路_天天热资讯

2023-07-04 18:07:19

资讯推荐:新奥股份跌3.41% 年内最高点某券商喊买入

2023-07-04 18:02:45

固德威跌6.87% 高点下跌后安信证券等率先喊买入_世界时讯

2023-07-04 17:57:16

德赛西威涨10% 机构净买入1.15亿元-今亮点

2023-07-04 17:43:52