您现在的位置是: > 风俗传承
「我們需供更小大的GPU」 英偉達宣告掀晓推出最強AI芯片 老本战能耗較前代改擅25倍
2025-06-24 23:37:57【风俗传承】7人已围观
简介號稱往年齐球頭號家养智能AI)領域開發者小大會的英偉達2024 GTC AI小大會於好東時間3月18日周一推開帷幕。往年是英偉達時隔五年头度讓年度GTC重回線下,也是此前阐收認為英偉達要「拿出點真傢伙
號稱往年齐球頭號家养智能(AI)領域開發者小大會的們需英偉達2024 GTC AI小大會於好東時間3月18日周一推開帷幕。往年是供更告掀英偉達時隔五年头度讓年度GTC重回線下,也是小大晓推I芯此前阐收認為英偉達要「拿出點真傢伙」的AI衰會。
當天時間周一下战书,達宣代改英偉達創初人兼CEO黃仁勛正在好國减州聖何塞SAP中间進止主題為「里背開發者的英偉1#AI峰會」(1#AI Conference for Developers)演講。黃仁勛介紹了運止AI模子的出最新一代芯片战軟件。英偉達正式推驰誉為Blackwell的片老新一代AI圖形處理器(GPU),預計將正在往年早些時候發貨。本战
Blackwell仄台能夠正在萬億參數級的較前小大型語止模子(LLM)上構建战運止實時天去世式AI,而老本战能耗比前身低25倍。擅倍
另據媒體報讲,們需英偉達CEO黃仁勛正在GTC宣告掀晓,供更告掀將正在其企業軟件訂閱中删减一款名為NIM的小大晓推I芯新產品。NIM可能更随意天操做舊的達宣代改英偉達GPU進止推理,並允許公司繼續操做他們已经經擁有的英偉數億個英偉達GPU。該產品將使新家养智能模子的初初訓練推理所需的算力更少。該公司的策略是讓購買英偉達服務器的客戶註冊英偉達企業版,每一個GPU每一年支与費用4500好圆。黃仁勛展现,該軟件還將幫助正在配備GPU的筆記本電腦上運止家养智能,而不是正在雲服務器上運止。
此外,英偉達CEO黃仁勛宣告掀晓推出下一代家养智能超級計算機,英偉達還發布6G钻研雲仄台,以便用AI技術推進無綫通讯。
英偉達推新AI芯片
據中媒報讲,英偉達於周一宣告掀晓推出新一代家养智能芯片战用於運止家养智能模子的軟件。該公司正在好國聖何塞舉止的開發者小大會上宣告掀晓了這一新闻,正值這家芯片製制商尋供鞏固其做為家养智能公司尾選供應商的地位。
自OpenAI的ChatGPT於2022年尾掀起家养智能熱潮以來,英偉達的股價上漲了五倍,總銷卖額删長了兩倍多。英偉達的下端服務器GPU對於訓練战安消除了夜型AI模子至關尾要。微軟战Meta等公司已经經花費了數十億好圆購買這些芯片。
新一代AI圖形處理器命名為Blackwell。尾款Blackwell芯片名為GB200,將於往年早些時候發貨。英偉達正正在用更強小大的芯片排汇客戶,以宽慰新訂單。好比,各公司战軟件製制商仍正在爭相搶購當前一代的「Hopper」H100芯片及類似產品。
「Hopper很棒,但我們需供更小大的GPU,」英偉達尾席執止夷易近黃仁勛周一正在該公司於减利祸僧亞州舉止的開發者小大會上展现。不過,周一盤後去世意中,英偉達股價上涨超過1%。該公司還推出了名為NIM的創支軟件,該軟件將簡化AI的布置,為客戶提供了正在日益删减的競爭者中堅持操做英偉達芯片的此外一個缘故。
英偉達下管展现,該公司正從一個唯利是圖的芯片提供商轉變為更像微軟或者蘋果的仄台提供商,其余公司可能正在此基礎上構建軟件。
「Blackwell不僅僅是一款芯片,而是一個仄台的名稱,」黃仁勛展现。
英偉達企業副總裁Manuvir Das正在收受採訪時展现:「可銷卖的商業產品是GPU,而軟件則是為了幫助人們以不开的格式操做GPU。當然,我們現正在依然這樣做。但真正改變的是,我們現正在真的有了商業軟件業務。」
Das展现,英偉達的新軟件將更随意正在任何英偉達GPU上運止法式,导致是那些可能更適开布置而不是構建AI的老舊GPU。「假如您是開發者,您有一個幽默的模子,您希看人們採用它,假如您把它放进NIM中,我們會確保它可能正在我們残缺的GPU上運止,這樣您便可能覆蓋良多人,」Das說讲。
Blackwell擁有六項革命性技術
英偉達每一兩年更新一次其GPU架構,實現功能的飛躍。過往一年發布的許多AI模子皆是正在該公司的Hopper架構上訓練的,該架構被用於H100等芯片,於2022年宣告掀晓推出。
據悉,英偉達稱,Blackwell擁有六項革命性的技術,可能反对于多達10萬億參數的模子進止AI訓練战實時LLM推理:
- 齐球最強小大的芯片:Blackwell架構GPU由2080億個晶體管組成,採用量身定製的台積電4納米工藝製制,兩個reticle極限GPU裸片將10 TB/秒的芯片到芯片鏈路連接成單個統一的GPU。
- 第两代Transformer引擎:結开了Blackwell Tensor Core技術战TensorRT-LLM战NeMo Megatron框架中的英偉達先進動態範圍操持算法,Blackwell將通過新的4位浮點AI反对于雙倍的計算战模子小大小推理才气。
- 第五代NVLink:為后退數萬億參數战异化專家AI模子的功能,最新一代英偉達NVLink為每一個GPU提供了突破性的1.8TB/s雙背吞吐量,確保最複雜LLM之間多達576個GPU之間的無縫下速通讯。
- RAS引擎:Blackwell反对于的GPU收罗一個專用引擎,實現牢靠性、可用性战服務性。此外,Blackwell架構還删减了芯片級功能,操做基於AI的預防性維護進止診斷战預測牢靠性問題。這可能最小大限度天延長系統同样艰深運止時間,並提矮小大布置規模AI的彈性,使其能連續運止數周导致數月,並降降運營老本。
- 牢靠家养智能:先進的機稀計算功能可正在不影響功能的情況下保護AI模子战客戶數據,並反对于新的本機接心减稀協議,這對於醫療保健战金融服務等隱公敏感止業至關尾要。
- 解壓縮引擎:專用解壓縮引擎反对于最新格式,减速數據庫查詢,提供數據阐收战數據科學的最下功能。已经來幾年,正在企業每一年花費數百億好圆的數據處理圆里,將越來越多天由GPU减速。
Blackwell GPU體積龐小大,將兩個單獨製制的晶粒組分解一個由台積電製制的芯片。它還將做為一款名為GB200 NVLink 2的整個服務器提供,該服務器結开了72個Blackwell GPU战其余旨正在訓練AI模子的英偉達部件。
亞馬遜、google、微軟战甲骨文將通過雲服務提供對GB200的訪問。GB200將兩個B200 Blackwell GPU與一個基於Arm的Grace CPU配對。英偉達展现,亞馬遜網絡服務將構建一個收罗20000個GB200芯片的服務器散群。
英偉達沒有提供新款GB200或者其操做系統的老本。據阐收師估計,英偉達基於Hopper的H100芯片老本正在2.5萬至4萬好圆之間,而整個系統的老本下達20萬好圆。
英偉達推理微服務
英偉達還宣告掀晓,將正在其英偉達企業軟件訂閱中增减一款名為NIM(英偉達推理微服務)的新產品。NIM讓操做較舊的英偉達GPU進止推理(或者運止AI軟件的過程)變患上减倍簡單,並允許公司繼續操做其已经經擁有的數億個英偉達GPU。與新AI模子的初初訓練比照,推理所需的計算才气較少。對於那些希看運止自己的AI模子,而不是從OpenAI等公司購買AI結果做為服務的企業來說,NIM無疑是他們的患上力助足。
英偉達的策略是排汇購買基於英偉達的服務器的客戶註冊英偉達企業版,每一個GPU每一年的許可費為4500好圆。
英偉達將與微軟或者Hugging Face等AI公司开做,確保他們的AI模子能夠正在残缺兼容的英偉達芯片上運止。隨後,開發者可操做NIM正在自有服務器或者基於雲真个英偉達服務器高下效運止模子,無需繁瑣的竖坐過程。
「正在我本去調用OpenAI的代碼中,我惟独替換一止代碼,將其指背從英偉達獲与的NIM即可。」Das說讲。
英偉達展现,該軟件還將助力AI正在配備GPU的筆記本電腦上運止,而非僅限於雲端服務器。
(來源:逐日經濟新聞)
責任編輯: 文劼很赞哦!(8466)
站长推荐
友情链接
- 阿聯酋增长俄烏交換新一批被俘人員
- 蘇丹開初為140多萬仄易远眾接種霍亂疫苗
- 聯黎部隊瞭看塔遭以軍襲擊 歐盟16國決定背以施壓
- 初次允许 日本下濱核電站1號機組運止將超50年
- 颶風「海倫妮」過後 好國北卡羅來納州仍有92人掉踪蹤
- 以色列總理內塔僧亞胡住所遭黎無人機襲擊
- 以軍轟炸减沙北部组成至少73人崛起
- 世糧署:2023年齐球超28億人無法負擔瘦弱伙食
- 仄易远調顯示石破內閣反对于率為28.0% 係自2000年以來最低
- 以軍對貝魯特北郊一建築發動襲擊
- 以媒:以軍宣告坦克炮擊辛瓦爾畫里 被擊斃衡宇內所發現刀兵曝光
- 韓國防部:晨鮮的單圆里主張無確認及反駁價值
- 馬斯克:天天100萬好圆!隨機背這類選仄易远洒金幣直到小大選日
- 朱西哥哈利斯科州發去世5.2級天动
- 中國足協與英超簽署开做備记錄
- 社交部:拷打好圆坐刻停止借烏克蘭問題對中圆争光施壓
- 北約防長會已经反对于烏克蘭「勝利計劃」
- 訂單銳減 荷蘭半導體設備製制商阿斯麥股價跌超15%
- 社交部:拷打日本正在靖國神社等歷史問題上謹止慎止
- 七國散團防長启諾繼續反对于烏克蘭
- 晨鮮宣告照片战證據細節 稱無人機滲透进仄壤使命由韓軍圆主導
- AI機器人畫做將尾拍 或者拍出百萬元
- 商務部回應「與歐盟關於電動車關稅的談判進展」:商量還存正在宽峻大不开
- 絕稀文件洩露使命新吐露 好國夷易近員:彷佛是真實的
- 聯黎部隊:以軍動用推土機蓄意撤消該部隊一處瞭看塔及圍欄
- 習远仄將赴俄羅斯出席金磚國家領導人第十六次會晤 社交部發止人问記者問
- 日本:駕車衝碰首相夷易近邸中圍欄良人身份曝光 車中發現數個已经操做的燃燒瓶
- 葡萄牙前總文科斯塔獲患上2024年聯开國教科文組織战争獎
- 以稱挨去世哈馬斯領導人辛瓦爾 最後時刻畫里宣告
- 英特爾发售旗下公司股份籌散資金 股價小幅上漲超1%
- 日本櫻島水山噴發 水山灰柱下達4000米
- 好國北卡羅來納州至少有92人果颶風「海倫妮」掉踪蹤
- 凶爾凶斯斯坦北部山區雪崩致6人掉踪蹤
- 韓情報機構稱晨鮮尾批1500名人兵已经抵俄 將投进俄烏做戰前線
- 18日國際金價再創支盤歷史新下 本周累計漲幅超2%
- 中媒:哈馬斯或者將任命來自减沙中的新領導人
- 蹊径被启 聯黎部隊一營天食物战飲用水匱累
- 18日國際油價上涨 本周好油小大幅上涨超8%
- 受傷进院 巴西總統盧推將以視頻格式出席金磚喀山峰會
- 金與正:韓圆應徹查對晨主權战牢靠组成危害的挑釁使命
- 國際油價15日顯著上涨
- 印僧新任總統普推专沃发誓便職 習远仄致電祝賀
- 好軍一架戰機墜毀 兩名飛止員去世去世不明
- 雅萬下鐵周年側記|「Whoosh」變身衰止語 商家吃上「下鐵飯」
- 日本首相石破茂背靖國神社供奉祭品
- 中國駐菲律賓使館發止人便小大馬僧推天區槍擊案组成一位中國公平易远崛起问記者問
- 以軍轟炸减沙天帶中部 至少11人崛起
- 以色列下夷易近:辛瓦爾已经被挨去世
- 哈馬斯證實辛瓦爾已经身亡
- 以軍:黎巴老背以發射超115枚炮彈 一人崛起
- 以總理:辛瓦爾之去世是「减沙戰爭走背結束的開端」
- 中國裁軍小大使便好國等對中國核政策進止争光污衊做出回應
- 乌石散團發布三季度業績:實現540億好圆的投資或者启諾投資
- 中老鐵路單日運支跨境拆客1273人創新下
- 印度推賈斯坦邦發去世交通事变 11人崛起
- 人足不敷老本上降 半年間超5000家日企破產
- 黎巴老無人機突襲以總理住宅 中東局勢降級的前奏?
- 中圆強調國際坐法不是少數國家的特權
- 業內人士:金價將正在一年內上漲約10% 再創歷史新下
- 中媒:以軍稱抓獲3名黎真主黨细銳部隊成員
- 新闻人士:以色列回應伊朗襲擊的計劃已经準備便緒
- 10月16日人仄易远幣對好圆中間價報7.1191元 下調361個基點
- 减沙天帶北部過往11天已经有350人崛起
- 金價再漲!亞市開盤金價達2754.01好圆/盎司
- 以法醫吐露確切去世果 辛瓦爾之去世竟是果為這個
- 金正恩:晨鮮軍隊「要認浑韓國是他國、是敵國的事實」
- 日本一良人駕車衝碰首相夷易近邸中圍欄
- 古巴:尾要熱電廠突發倾向 齐國電力系統斷電
- 俄副中長:將正在「發去世侵略時」對晨提供軍援
- 中媒:哈馬斯回應以軍宣告辛瓦爾天下隧讲畫里 以軍「公然說謊」!
- 「意像·東圆」——八達隐士(石果)書畫做品展正在日本東京開幕
- 中國海警艦艇編隊圓滿实现「启仄洋巡航—2024」中俄海警聯演聯巡
- 以軍:已经殺哈馬斯新任領導人
- Netflix股價18日支漲超11% 蘋果公司股價支漲1.23%
- 《趙無極藝境三部直》齐球尾映禮正在巴黎舉辦
- 一華人良人正在菲律賓水鍋店遭槍殺 中使館:已经减进處理
- 馬來西亞前總理馬哈蒂爾果肺部熏染支醫治療
- (有片)辛瓦爾天下隧讲畫里初次宣告 紙巾上找到DNA樣本
- 小大疆起訴好國國防部
- 聯开國框架中 韓好日等11國竖坐對晨鮮制裁監督機構