4)gpu在四年時間裡提速65倍
我們先從訓練開始。全新pasca gpu的專案投資約20億美元,是數千名工程師花費三年多時間的工作成果。作為首款經深度學習最佳化的圖形處理器,pasca的網路處理速度比keper圖形處理器要快65倍。如果一臺計算機配備八臺透過nvidia nvink連線的pasca圖形處理器,即可建立有史以來最高吞吐量的互連結構,其網路處理速度比250臺傳統伺服器還要快。”
‘’每天數百億次網際網路查詢很快將需要人工智慧,這意味著每次查詢將需要進行數十億次的數學運算。雲服務的總負載將很龐大,以確保實時響應。為了得到更快速的資料中心推理效能,我們公佈了tesa p40和p4 gpu。 p40使資料中心推理吞吐量加速40倍。這是超大規模資料中心的典型。”
”軟體是vida深度學習平臺的重要組成部分。在訓練方面,我們有cuda和cudnn。在推理方面,我們公佈了一款最佳化推理引擎tensorrt。tensorrt透過融合一個層級和多個層級內的操作,簡化低貢獻權重,將精確度降至fp16或int8,以及採用許多其他技術,從而改善效能,同時不損害準確度。”
”將來,數十億計的人工智慧裝置,將利用深度學習來執行智慧的任務。無人機將自主導航透過一個倉庫,找到相關物品並撿取。行動式醫療儀器將利用人工智慧,現場診斷血液樣本。智慧攝像機將學會向我們警告我們關心的情況。我們已經針對此類智慧物聯網裝置,建立了一臺高效能人工智慧超級計算機。jetson tx1是一個信用卡大小的模組,只用10瓦功率就可以達到1 terafop fp16效能。其架構與我們最強大的gpu相同,可以執行所有相同軟體。”
”簡而言之,我們提供一個端到端人工智慧計算平臺——從gpu到深度學習軟體和演算法,從訓練系統到車載人工智慧計算機,從雲到資料中心到個人電腦到機器人。vida的人工智慧計算平臺無處不在,方便ai開發者使用。”
他的專業理解能力,讓他能跟得上朱教授的節奏。
旁邊專業速記的記者,打字速度都沒他快,不時探頭過來抄錄。
一隻小白手伸過來,不停地扯他的衣袖。
以為是小孩子搗亂,林燃看都懶得看,將小白手撥拉到一邊。
(本章完)
喜歡極客戰警之王者榮耀請大家收藏:()極客戰警之王者榮耀書更新速度全網最快。