人工智能(AI)正在對社會造成衝擊,而且人們注意到,它的飛速發展不僅需要高性能的算力,還需要巨大的電力,這種需求將會越來越大。
訓練AI耗電
AI大模型是「大數據+大算力+強算法」結合的產物,訓練一個AI大模型需要消耗多少電力?
以Open AI開發的大型語言模型GPT-3為例,該模型具有1,750億個參數。為用於訓練,研究人員連續運行1,024個GPU(圖形處理單元)約一個月的時間。
美國密歇根大學電機工程和電腦科學副教授喬杜里(Mosharaf Chowdhury)估計,訓練GPT-3一次消耗的電量為1,287兆瓦時(1兆瓦時等於1,000度電)。這個數字相當於一個美國普通家庭120年的電力消耗。
GPT-3是四年前推出的,如今大型語言模型的參數規模正在以指數級增長。據報道,2023年推出的GPT-4,總共有1.76萬億個參數,相當於GPT-3的10倍。預計明年推出的GPT-5,具有更快的速度和更強的語言處理能力,其訓練耗能估計會更加可觀。
推理和應用耗電
起始階段的訓練AI只是短期事件,而使用才是長期過程。隨著應用的普及、使用人數的增加,耗電量將不斷疊加。
總部位於法國巴黎的政府間國際組織——國際能源總署(IEA)今年1月發布的一份報告中表示,ChatGPT響應一個請求平均耗電2.9瓦時——相當於點亮一個60瓦的燈泡約三分鐘。這幾乎是Google平均搜尋耗能的10倍。
據悉,ChatGPT每天響應約2億個需求,為此它每天消耗超過50萬千瓦時的電力,相當於1.7萬個美國家庭平均一天的用電量。按照一年365天計算,ChatGPT每年消耗18,250萬度電。
Google每天進行約90億次搜索,如果Google在搜索中大規模整合生成式人工智能,國際能源總署估計每年將需要額外10太瓦時的電力(1太瓦時等於10億度電)。
數據中心耗電
數據中心是AI的基礎設施,它為AI提供了必要的計算資源、存儲能力和網絡寬頻,使得AI應用能夠高效運行和發展。
同時數據中心還必須提供強大的冷卻系統來維持適宜的溫度,因為成千上萬台服務器和晶片整齊列陣,晝夜不停地運轉,產生大量的熱量。因此,數據中心本身的耗電非常可觀。
據國際能源總署報告,2022年全球數據中心的用電量估計為 460 太瓦時,幾乎佔全球電力總需求的2%。不過該耗電不完全是因為AI,加密貨幣挖礦也消耗了近四分之一,2022年達到110太瓦時。
該報告表示,數據中心的電力消耗主要來自兩個過程,計算佔40%,冷卻需求同樣佔40%,剩餘的20%來自其它相關IT設備。
國際能源總署估計,到2026年,數據中心的總用電量可能翻一倍,達到1,000太瓦時,大致相當於日本全國的年度用電量。2026年與2022年相比,增加的用電量,少則相當於一個瑞典,多則相當於一個德國。
AI推動數據中心發展
AI的崛起,正在加速推動數據中心的不斷擴展和升級,耗電量也相應暴增。
全球範圍內的數據中心,2015年只有約3,600個,2021年已接近8,000個。而根據資訊科技網站Brightlio的統計,截至2023年底已達到10,978個。據信其數量還在不斷增加。
美國目前擁有5,388個數據中心,是全球數據中心最多的國家。根據全球最大的風能和太陽能開發商新紀元能源公司(NextEra Energy Inc.)行政總裁凱徹姆(John Ketchum)的說法,未來二十年,美國的電力需求預計將增長40%,而過去二十年的增長僅為9%。
凱徹姆表示,數據中心是需求激增的最大原因。當被問及為何數據中心突然消耗如此多的電力時,他的回答直截了當:「是AI。」
如今各國正掀起「主權AI」浪潮。由於各國的語言文字不同,在經濟發展、國家安全的需求,以及美中競爭的大環境下,亞洲、中東、歐洲和美洲國家都在投入建設新的本國的AI運算設施。英偉達創始人兼行政總裁黃仁勳2月在杜拜舉行的世界政府峰會上對與會者表示,每個國家都需要擁有自己的智能產品。
全球AI霸權的爭奪可能取決於哪些國家擁有足夠的數據中心和電力來支持AI技術。這就意味著,人工智能、數據中心對能源的需求將會越來越大,以至無限。
如何應對
最大的雲端服務提供商亞馬遜、微軟和Google,曾宣布其數據中心完全使用綠色能源的目標。三家公司都表示,正在研究使用更少電力或更有效地平衡電網需求的技術方法,包括提高晶片和服務器的效率,同時設法減少冷卻需求。
也有一些科技領袖認為,適應新局面的關鍵是能源突破。Open AI行政總裁奧特曼(Sam Altman)年初在達沃斯世界經濟論壇年會上表示,未來AI技術的迭代需要能源突破,人工智能技術消耗的能源將遠遠超過人們的預期。「如果不取得突破,就不可能實現這一目標。」他說,「它激勵我們加大對核融合的投資。」
上個月,微軟聯合創始人蓋茨創立的能源公司泰拉能源(TerraPower)在美國懷俄明州開始建造下一代核電站,其反應堆使用鈉而不是水進行冷卻。他相信這將「徹底改變」發電方式。他在奠基儀式上告訴在場的人們,他們「所站的位置即將成為美國能源未來的基石」。
人工智能是否可以持續發展,正在受到關注,其中能源是一個關鍵要素。@
------------------
🏵️《九評》20周年
https://hk.epochtimes.com/category/專題/退黨大潮
🔔下載大紀元App 接收即時新聞通知
🍎iOS:https://bit.ly/epochhkios
🤖Android:https://bit.ly/epochhkand