手机浏览器扫描二维码访问
“算力是AI世界发展的基础,而算力的瓶颈归根到底还是电力....”
“根据ChatGPT原国外团队,提供的数据来说,他们的AI大模型训练,电力需求将以每年约10%的速度增长,能耗将为常规云工作的三倍。”
“而这仅仅是训练AI模型的前期电力,仅占模型实际使用时所消耗电力的40%。而我们的1%,在这一方面,即便服务器使用的相对来说比运算量的ChatGPT要少30%,这一年来的运转下来,我们的用电量依旧是相当惊人的。”
“是的,AI服务器的功率较普通服务器高6-8倍,这对于电源的需求也将同步提升,通用型服务器原来只需要2颗800W服务器电源,而AI服务器的需求直接提升为4颗1800W高功率电源,服务器能耗成本直接3100元直接飙升到元,大涨3倍。”
“你还没有算应对为运行日益能源密集型工作负载的计算机服务器组群供电和散热而产生的额外成本。”
“以目前的形式来看,大厦的回收电量勉强能够支撑部分支出,但是到了冬日....”
“据全球最大商业房地产服务公司统计,数据中心客户囊括了小型企业到大型云服务供应商,目前消耗电力的速度快于数据中心运营商扩展容量的速度。由于人工智能用例的增加,供应限制日益严重,导致数据中心收取的价格更是离谱,显然这个方案是不可行的。”
.......
在ly大厦的一间会议室中,大家为1%“吃电”的大模型服务器,而感到头疼。
何依霖看着会计送过来的账单,竖起了眉头。“技术开发那块现在怎么说了?”
“可使用高度优化、甚至是更简单、更专业的小型神经网络模型来降低数据中心成本,方法是减少云端的模型规模,将海量参数网络用于快速训练较小的模型,并将工作负载完全移出云端,从而将生成式AI应用程序更加经济高效地分发给智能手机、PC、车辆和移动XR产品等分布式平台上运行。”技术部总监说道。
何依霖在桌子上敲动着手指,对这一块拿不定主意,他技术方面得仰仗李奥才行啊。
“随着消费者使用量的增加,成本将不可避免地攀升。将计算转移到边缘,并将其分配给PC、智能手机和XR设备等客户端是降低资本和运营成本的关键途径。”技术部总监又补充说明道。
“通俗的来说....就是现在人工智能的潜力是无限的,但物理和成本最终可能是界限。”何依霖概括的说道。
“是的。”技术部总监点头说道。
按照当前的技术路线和发展模式,1%必将引发两个问题:一方面,数据中心的规模将会越来越庞大,其功耗也随之水涨船高,且运行越来越缓慢。
另一方面,AI芯片朝高算力、高集成方向演进,依靠制程工艺来支撑峰值算力的增长,制程越来越先进,其功耗和水耗也越来越大。
这时,李奥打来了电话。
何依霖的烦恼顿时烟消云散,今天是李奥出院的日子,今天早上还发微信过来说过几天来新家过生日派对呢。
何依霖赶忙接起,刚接通,就听到李奥近乎咆哮的声音。
“他妈的,我要你从现在开始,以任何手段,针对深控这个狗娘养的,我要穆家从此再无翻身之日,马勒戈壁的。艹!!”
无敌:从有个仙人未婚妻开始 无术式,但第四天灾 身穿年代,万事皆OK 重新攻略疯批女主[快穿] 末日来袭,我在校园守护女神 直播开出租,女乘客个个是老司机 万人嫌断情绝爱后 应许 和不回家的大佬结婚后 攻略对象都是恋爱脑[娱乐圈] 美人师尊老是找我贴贴 失算 刃恒:100天,从恋爱到结婚 重生八三,手撕偏心奶奶护家人 除我以外,全员诡秘 教授,该放产假了 为摆脱剧情我扑倒了影后 在无限世界努力保持正常人状态 救命:看守怪物成病娇了该怎么办 心动不可降解
龙起南洋简介emspemsp关于龙起南洋十九世纪中叶,中国在西方的入侵下开始沉沦!列强的坚船利炮轰开了国门,鸦片掠夺了国人的财富,神州蒙尘!机械冶金双料博士龙宇飞回到晚清,崛起于南洋,推翻满清,搭上殖民扩张的末班车,实现民族复兴!龙起南洋,纵横四海,终结风帆时代!新书铁血强国正式上传,书友们多多支持啊!...
红袖读书首届全球征文大赛参赛作品如果您喜欢八零小俏媳首长,宠上瘾,别忘记分享给朋友...
异兽流不变人无感情戏林夜重生了,成为了大学校园里的一只流浪小黑猫。好在他获得了一个加点面板,只要进食积攒能量就能进化,并且获得各种神奇能力。阴影操控控制世间所有阴影。黑夜主宰夜间战斗力提升100。噬元吞灵胃部生成次元空间,可吞噬万物。恐惧凝视激发生物内心潜藏的最大恐惧。恰逢蓝星诡异复苏,无数诡异自诡界而来,林夜惊讶的发现,让世人恐惧莫名的强大诡异竟然也能当作食物。于是乎世间最大的恐怖诞生了。我叫林夜,白天属于太阳,夜晚属于我,爱好是吞食诡异。如果你是美女,你可以叫我小黑,但如果你不是,请你叫我夜王,或者诡异之主。...
这就是无敌简介emspemsp这就是无敌是王冠非锟的经典玄幻魔法类作品,这就是无敌主要讲述了白策在考虑一个事情,自己这是无敌了吗?可是,自己什么也没做,王冠非锟最新鼎力大作,年度必看玄幻魔法。海棠屋(haitangshuwucom)提供这就是无敌最新章节全文免费阅读!。...
重生花样年华,玩转市井豪门,携手逆袭人生,共揽一世风云!如果您喜欢八零军嫂有点苏,别忘记分享给朋友...
妈咪!!老爸说你是他的宝贝,他的甜心,他的哈尼,没有你他活不了。相亲捡到带着娃的总裁大人,踢不掉,逃不了,还被调戏,傅帝很认真的追人中。总裁,太太喝醉了抱着阿斯顿马丁喊哈尼。买了。第二天如果您喜欢帝少心头宠娇妻,一送一,别忘记分享给朋友...