商汤临港算力中心:亚洲最牛的AI"超级大脑"有多能打

- 算力需求高的时候,电力不够,设备跑不动,耽误事;

- 算力需求低的时候,电力用不完,白白浪费。

而商汤的算电协同,就是解决这个问题的。

2. 三层架构:打通从电力到算力的全链路

商汤首创了IAAS+MAAS+算电协同的三层架构,咱们不用记专业术语,简单理解就是三个协作部门:

- 第一层(IAAS):负责提供硬件算力,就是那5.4万张GPU和服务器,相当于干活的工人;

- 第二层(MAAS):负责提供AI模型服务,比如商汤自己的日日新大模型,相当于给工人派活的主管;

- 第三层(算电协同):负责协调电力供应和算力需求,相当于管后勤的调度员,确保工人干活的时候不缺电,没活的时候不浪费电。

这三个部门无缝衔接,形成了一个完整的闭环,让整个智算中心高效运转。

3. 核心技术:三个搞定协同

要实现算电协同,靠的是三个关键技术,咱们一个个说:

(1)能源大模型:能预测用电需求的AI

商汤专门训练了一个能源大模型,这个模型就像一个电力预言家——它会分析海量的数据,比如过去的算力使用情况、天气变化(天气热的时候设备散热耗电多)、企业的用算计划等,精准预测未来一段时间的电力需求。

比如它预测到明天上午10点,有三家企业要同时训练大模型,算力需求会达到峰值,就会提前通知电力系统:明天10点要多供电;如果预测到凌晨2点算力需求低,就会让电力系统少供电,把多余的电存起来。

(2)高频智能调度:15分钟调整一次,反应超快

普通的数据中心可能一天才调整一次电力供应,而商汤这个中心的调度周期是15分钟,还会每5分钟修正一次策略——相当于每15分钟就一次算力需求和电力供应的匹配度,发现不匹配就立刻调整。

比如突然有一家企业临时加了一个紧急的AI计算任务,算力需求突然增加,调度系统会在15分钟内发现这个变化,马上协调电力系统增加供电,同时优化其他任务的计算资源,确保不耽误任何工作。这种反应速度,就像快递小哥实时调整配送路线,永远能准时送达。

(3)超级储能系统:相当于一个巨型充电宝

为了应对电力供应的波动(比如电网突然停电、电压不稳),商汤和宁德时代合作,建了一个17.888MW的超级储能王炸——这就是一个巨型充电宝,能把多余的电能存起来,需要的时候再释放出来。

比如电网白天供电紧张,储能系统就会释放之前存的电,保障设备运转;晚上电网供电充足,储能系统就会充电,把多余的电存起来不浪费。这个储能系统,解决了智算中心的能源焦虑,让它就算遇到电网波动,也能正常干活。

4. 实际效果:又省钱又环保,效益看得见

这套算电协同系统不是花架子,实际效果特别明显:

- 全年能节电1000万度以上,这相当于3000户普通家庭一年的用电量,既环保又为国家节省了能源;

- 能降低30%以上的能源成本——智算中心的电费是一笔巨大的开支,节省30%可不是小数目,这让商汤的算力服务更有价格优势,能吸引更多企业来合作;

- 还推动了整个行业的绿色化升级,很多其他智算中心都开始学习这种模式,让AI产业不仅能算得快,还能算得环保。

本小章还未完,请点击下一页继续阅读后面精彩内容!

四、谁在这儿借算力?应用场景覆盖方方面面

这么强大的算力中心,可不是自己孤芳自赏,而是已经服务了很多客户,应用场景遍布科研、产业、城市治理等多个领域,真正做到了算力赋能千行百业。

1. 支撑商汤自己的大模型战略:日日新训练基地

商汤的日日新SenseNova大模型,就是在这个算力中心里训练出来的。这个大模型能写文案、画画、做设计、回答问题,功能特别强大,而它的每一次迭代升级,都离不开临港算力中心的支持。

比如大模型从1000亿参数升级到万亿参数,需要处理海量的数据,普通的计算设备根本扛不住,而临港算力中心的5.4万张GPU能轻松搞定,让大模型的训练时间大幅缩短——原来可能需要几个月,现在几周就能完成,这让商汤能快速响应市场需求,在生成式AI的竞争中占据优势。2024年,商汤的生成式AI收入已经达到12亿元,同比增长103.1%,这背后离不开临港算力中心的支撑。

2. 服务头部企业:字节、拼多多都来借算力

现在已经有40多家核心客户在使用商汤临港的算力,都是咱们耳熟能详的企业:

- 互联网企业:字节跳动、拼多多这些公司,有大量的AI任务需要处理,比如字节的推荐算法、拼多多的智能客服,都需要强大的算力支持;

- 金融机构:多家国有银行和商汤合作,用算力来做风险预测、客户画像分析——比如通过AI分析客户的消费习惯和信用记录,判断贷款风险,这比人工分析更准确、更高效;

- 其他行业客户:还有智能制造、智慧医疗、自动驾驶等领域的企业,比如某汽车厂商用这里的算力训练自动驾驶模型,某医疗公司用算力开发疾病诊断AI。

其中有一家国有银行还和商汤签了3年的长期合约,每年付费1.2亿元,可见这些客户对临港算力中心的信任。