美國當地時光5月9日,科年夜訊飛在圣何塞召開的GTC 2017年夜會時代宣告,訊飛開放平臺將基于NVIDIA最新Pascal架構的NVIDIA Tesla P4平臺,供給語音云辦事的深度進修推理,進一步晉升訊飛語音云平臺的效力。
科年夜訊飛美國分公司總裁李春燕博士表現,跟著對深度進修和人工智能技巧請求日趨進步,GPU在飾演愈來愈主要的腳色。在NVIDIA推出Pascal架構的GPU平臺后,科年夜訊飛第一時光運用NVIDIA Tesla P4深度進修停止練習,并獲得了絕對于CPU練習的50倍以上速度晉升。
“本來須要兩個月時光來完成的練習,如今只須要一天就可以完成。”李春燕告知記者。
李春燕引見,科年夜訊飛從2013年便開端應用NVIDIA的K10 GPU平臺停止相干人工智能產物的開辟,今朝科年夜訊飛在線日營業量過35億人次,總用戶數跨越10億,具有30萬家協作同伴、是中文語音技巧市場的搶先者。今朝,科年夜訊飛的全行業語音產物和人工智能產物在教導、客服、車載、智能家居、智能硬件、醫療等方面均有著普遍的運用。
“今朝深圳有跨越60%做機械人的公司,他們用的都是訊飛的計劃。”得知記者來自深圳,李春燕如是說。
科年夜訊飛此次投入運用的Tesla P4具有超高的運算才能,重要將其運用于訊飛開放平臺的深度進修推理,在語音辨認的線上解碼引擎上。比擬起之前科年夜訊飛應用的M40,Tesla P4的并發路數晉升了3-4倍,而功耗峰值下降至75W,僅相當于M40的1/2-1/3。
在機能優化上,科年夜訊飛也下了一番工夫。Tesla P4實際上能供給每秒22T INT8運算的盤算峰值,在現實運用中,科年夜訊飛跑出了跨越20T INT8運算的接近實際峰值的盤算才能,這一成果讓NVIDIA另眼相看。
“這是一切協作同伴到達的最高數值。”NVIDIA全球副總裁、亞太區總裁Raymond Teh告知記者。
Tesla P4運算才能的晉升和盤算并發路數的晉升關于科年夜訊飛來講相當主要。前者有助于贊助科年夜訊飛晉升練習時光,加速迭代的速度,后者可以年夜年夜進步云端辦事呼應速度。經由過程在練習和推理兩頭同時用GPU加快,不只可以或許下降在線辨認的本錢,更能有用晉升客戶的體驗。
據NVIDIA營業成長總監何濤引見,Tesla P4是為了順應將來數據中間低功耗盤算才能而設計的。GPU關于一切盤算中間的盤算才能治理相當主要,P4逢迎了數據中間的需求,不只在機能上有明顯晉升,體積更小,可以在異樣空間中設置裝備擺設更多的GPU;功率下降,更主要的是可以用PCIE供電,無需額定電源,可以或許便于客戶更靈巧地治理盤算才能。
“中國的傳統機房普通是給一個恒定的能耗,假如用年夜(功率的)GPU弗成能放許多。”何濤說。“如許的設計,特殊合適中國。”他接著彌補道。