近日騰訊平安平臺部預研團隊發明谷歌人工智能進修體系TensorFlow存在嚴重平安風險,可被黑客應用帶來平安威逼,團隊已向谷歌申報這一風險并取得申謝,其官方擔任人稱,斟酌到TensorFlow在AI的普遍應用,TensorFlow官網將會像年夜多半主要軟件一樣在網站創立平安通知布告頁面,實時表露和修復平安破綻。
今朝,Google的TensorFlow作為開源框架被互聯網普遍應用,據官方引見,谷歌、ebay、airbnb、twitter、uber、小米、中興等公司均有應用。在TensorFlow中,AI研討者可以復用別人建好的模子來停止AI練習,或直接供給AI辦事,年夜年夜進步開辟效力。
據懂得,這些地下的模子平日以文件情勢供給,也廣泛被以為是有害的。但騰訊平安平臺部預研團隊發明,進擊者可以生成Tensorflow的歹意模子文件,對AI研討者停止進擊,對受益者本身的AI運用停止盜取或改動、損壞。
該風險傷害面異常年夜,一方面進擊本錢低,通俗進擊者便可實行進擊;另外一方面困惑性強,年夜部門AI研討者能夠毫無戒備;同時由于應用了TensorFlow本身的機制,其在PC端和挪動真個最新版本均會遭到影響。AI模子被盜取,喪失的是開辟者的血汗;而一旦被改動,形成AI掉控,效果更不可思議。
此前,AI已有很多現實運用案例,例如深圳試運轉的無人駕駛公交、國際會議的AI同聲傳譯;將來更會滲入滲出到社會的各個方面:交通、醫療、安防、金融……在不遠的將來,AI平安會直接影響人們的性命產業平安,乃至全部世界的次序。如片子《復仇者同盟:奧創世紀》那樣,最終人工智能奧創為人們的生涯供給了有數方便,但當他站到人類的對峙面時,也會帶來有數災害乃至撲滅。
據悉,騰訊平安平臺部平安預研團隊已就此次發明的平安風險向谷歌提交申報,協助風險早日收斂。該團隊不只聚焦AI、挪動及IoT前沿范疇的平安成績研討,同時也向谷歌,apple,微軟,adobe等公司申報多個平安破綻并屢次取得官方申謝。另外,他們對無人機、無線電、物聯網、智能樓宇的平安成績也有研討。