研究揭示:AI“推理环节”电力需求高于预期
【HowToTech科技】10月14日消息,《Cell》的姐妹期刊《Joule》本周刊登了一项名为《持续成长的人工智慧能源足迹(The growing
energy footprint of artificial intelligence)》的研究论文,该论文由科研机构Digiconomist的创始人Alex
De
Vries发表。这篇论文指出,未来人工智能(AI)的推理性能可能会对电力需求造成巨大压力,到2027年,AI的用电量可能相当于荷兰一整年的电力消耗。
据HowToTech科技了解,Alex De
Vries强调,一直以来,人们普遍认为AI模型的训练过程是电力消耗最大的环节,但根据SemiAnalysis和谷歌的报告,实际上,AI中的“推论环节”消耗的电力更多。从2019年到2021年,与AI相关的能源消耗中,预计有60%来自模型推理。
Alex De Vries还引用了谷歌在2021年公开披露的18.3
TWh电力消耗数据,声称当时AI占了谷歌公司整体用电量的10%到15%。然而,在谷歌全面实施“AI搜索”后,该公司在AI方面的电力消耗最高可能达到27.4
TWh,接近爱尔兰一整年的电力消耗(29.3 TWh)。
从整个市场角度来看,随着英伟达合作伙伴台积电(TSMC)计划于2027年开始量产新的CoWoS工厂,Alex De
Vries估计到那时,英伟达交付的所有AI服务器的总用电量将达到85至134 TWh,相当于荷兰一整年的电力消耗。
为减缓AI对电力的不断增长需求,Alex De
Vries建议AI产业应提高硬件效率,改善模型演算效率,并要考虑使用AI的必要性,以减少AI行业的能源消耗成本。
延伸阅读:
OpenAI 测试长输出版 GPT-4o:单次输出达64K tokens
【HowToTech科技】8月1日消息,OpenAI在7月29日透露,他们正在对一款名为GPT-4o Long Outp...
ISC.AI2024数字安全峰会:360、华为、微软等共话安全+AI新挑战
7月31日,ISC.AI 2024数字安全峰会在北京国家会中心顺利召开。峰会以“打造安全大模型,引领安全行业革命”为主题...
ISC.AI2024开幕 周鸿祎发布国内首个免费安全大模型
“把大模型拉下神坛就要把免费贯彻到底,今天我在行业里第一个宣布安全大模型免费。”7月31日,ISC.AI2024第十二届...
实时对话更自然,OpenAI 向部分付费订阅用户开放 GPT-4o 语音模式
【HowToTech科技】7月31日消息,OpenAI于当地时间30日宣布,即日起GPT-4o的语音模式(注:Alpha...