天堂色网-天堂色综合-天堂社区在线观看-天堂社区在线视频-天天操网-天天操网站

 
當(dāng)前位置: 首頁 » 行業(yè)資訊 » 機器人»讓人工智能系統(tǒng)更負責(zé)任的落地,AI Now新報告給出10條建議
   

讓人工智能系統(tǒng)更負責(zé)任的落地,AI Now新報告給出10條建議

 46.1K
     [點擊復(fù)制]
放大字體  縮小字體 發(fā)布日期:2017-10-26   瀏覽次數(shù):515
核心提示:  近日,美國研討組織AI Now宣布第二份人工智能年度研討申報。這份申報是「AI Now」人工智能研究會的一部門,該研究會約請了近百名相干范疇內(nèi)的研討人員,評論辯論人工智能對社會經(jīng)濟的影響。申報指出,人工智能技

  近日,美國研討組織AI Now宣布第二份人工智能年度研討申報。這份申報是「AI Now」人工智能研究會的一部門,該研究會約請了近百名相干范疇內(nèi)的研討人員,評論辯論人工智能對社會經(jīng)濟的影響。申報指出,人工智能技巧正成長敏捷,尚處于晚期階段的人工智能技巧正在從人臉掃描、人力推舉和收集假貸等罕見的運用場景中賡續(xù)滲入滲出到我們的平常生涯里。

讓人工智能系統(tǒng)更負責(zé)任的落地,AI Now新報告給出10條建議

  雖然人們對疾速成長的人工智能抱有很年夜的預(yù)期,然則我們也看到了這一高風(fēng)險的范疇正面對偉大的挑釁。例如在刑事司法中,非盈利媒體ProPublica的查詢拜訪小組發(fā)明,法庭和法律部分用于猜測刑事原告再犯的算法,能夠?qū)Ψ且崦绹舜嬖诒囟ǖ某梢姟_@一景象隨后被很多學(xué)者證明。在醫(yī)療保健范疇,匹茲堡年夜學(xué)醫(yī)學(xué)中間的研討發(fā)明,一種用于醫(yī)治肺炎患者的 AI 體系,缺掉了一項對嚴(yán)重并發(fā)癥的風(fēng)險評價。在教導(dǎo)范疇,德克薩斯州的評教算法被裸露出存在嚴(yán)重的缺點,教員們同樣成功告狀了他們地點的學(xué)區(qū)。

  也許這些例子僅僅是一個開端,將來還會有更年夜的挑釁。個中一部門緣由在于,今朝的 AI 范疇缺乏尺度化的測試形式和審核辦法,沒法完整防止算法誤差,保證相對的平安。

  但是,這些晚期的 AI 體系正被運用到多個行業(yè),包含醫(yī)療、金融、司法、教導(dǎo)和各類辦公場地。這些體系也曾經(jīng)滲入滲出到我們生涯的各個方面,它們可以用于猜測我們的音樂喜好、生病的幾率、合適的任務(wù)和假貸的數(shù)額等。

  這里的成績不是蓄意對人工智能的濫用。而是人們在應(yīng)用 AI 技巧的進程中,沒有效于確保公正公平的流程和尺度,更沒有思慮它們所帶來的社會效應(yīng)。當(dāng)研發(fā)的藥品在推向市場之前,它必需要經(jīng)由嚴(yán)厲的迷信測試,并連續(xù)檢測個中歷久的后果。其實高風(fēng)險 AI 的運用也當(dāng)如斯。謹(jǐn)嚴(yán)長短常需要的,由于假如一旦失足,很多人會遭到嚴(yán)重的損害。

  作為申報的一部門,AI Now 還為 AI 家當(dāng)?shù)难杏懭藛T和政策制訂者供給了 10 條建議。這些建議其實不是完全的處理計劃,只是進一步任務(wù)的終點。AI Now 稱:「雖然 AI 產(chǎn)物正在敏捷成長,但對算法成見和公平的研討仍處于起步階段,假如我們想要確保 AI 體系得以被擔(dān)任任地安排與治理,須要做的工作還許多。」

  建議一:刑事司法、醫(yī)療、福利和教導(dǎo)等高風(fēng)險范疇內(nèi)的焦點公共機構(gòu)不該再應(yīng)用具有「黑箱」特征的 AI 技巧及算法體系,包含未經(jīng)審核和驗證的情形下應(yīng)用預(yù)練習(xí)模子,采取由第三方供給商受權(quán)的 AI 體系及外部創(chuàng)立的算法。

  公共機構(gòu)應(yīng)用這類體系會嚴(yán)重惹起人們對這類法定訴訟法式的擔(dān)心。這些體系至多要閱歷公共審計、測試及審查的進程,相符響應(yīng)的問責(zé)尺度。

  這將帶來一個嚴(yán)重的改變:提出的這項建議反應(yīng)了 AI 及相干體系曾經(jīng)對部門嚴(yán)重決議計劃發(fā)生影響。曩昔的一年里,也有很多可以或許作證這一點的研討申報。人們執(zhí)政著這個偏向邁進,本月,紐約市議會就展開了一項關(guān)于保證算法決議計劃體系的通明度和測試的相干法案。

  建議二:在宣布 AI 體系之前,企業(yè)應(yīng)當(dāng)停止嚴(yán)厲的預(yù)宣布測試,以便確保體系不會因練習(xí)數(shù)據(jù)、算法或其他體系設(shè)計的緣由招致任何毛病及誤差的產(chǎn)生。

  AI 是一個成長迅猛的范疇,展開測試的辦法、假定和測試成果,都應(yīng)當(dāng)是地下通明、有明白版本的,這有助于應(yīng)對更新進級和新的發(fā)明。

  那些開辟體系并從中獲利的人應(yīng)當(dāng)肩負起響應(yīng)的測試及保證環(huán)節(jié)的義務(wù),包含預(yù)宣布版本的測試。AI 范疇間隔尺度化辦法的完成還有很長的路要走,這也是建議這些辦法和假定須要地下審核和評論辯論的緣由。假如跟著時光的推移,AI 范疇可以或許制訂出具有魯棒性的測試原則,那末這類開放性是相當(dāng)主要的。別的,即使在尺度化辦法中,試驗室測試也不克不及捕獲到一切的毛病和盲區(qū),這也是建議三涌現(xiàn)的緣由。

  建議三:在 AI 體系宣布以后,企業(yè)須要持續(xù)監(jiān)測其在分歧情況和社區(qū)中的應(yīng)用情形。

  監(jiān)測辦法和成果的界說須要一個地下、嚴(yán)謹(jǐn)?shù)膶W(xué)術(shù)進程,要對"擔(dān)任。特殊是在高風(fēng)險決議計劃情況中,應(yīng)當(dāng)優(yōu)先斟酌傳統(tǒng)邊沿化社區(qū)的意見和經(jīng)歷。

  確保 AI 算法體系的平安性成績長短常龐雜的,是一個針對給定體系性命周期的連續(xù)進程,而不是一個完成后便可以遺忘的短時間磨練。只要在靜態(tài)的應(yīng)用案例和情況中停止監(jiān)測能力確保 AI 體系不會在假定和范疇產(chǎn)生轉(zhuǎn)變時引入毛病和誤差。異樣值得留意的是,很多 AI 模子和體系都有通用性,產(chǎn)物能夠會采取一些即插即用的附加功效,如情緒檢測或臉部辨認等。這意味著那些供給通用 AI 模子的企業(yè)也能夠斟酌選擇曾經(jīng)同意應(yīng)用的功效,這些經(jīng)由允許的功效曾經(jīng)把潛伏的負面影響和風(fēng)險等身分斟酌在內(nèi)。

  建議四:須要停止更多的研討并制訂響應(yīng)的政策讓 AI 體系用于任務(wù)場合治理和監(jiān)測中,包含雇用和人力資本環(huán)節(jié)。

  這項研討將彌補今朝主動化代替工人的這一研討核心,應(yīng)當(dāng)特殊留意對勞工權(quán)力和行動的潛伏影響,和把持行動的潛力和在雇用和提升進程中有意強化的成見。

  環(huán)繞 AI 和休息力的爭辯平日會合中在工人流浪掉所的成績上,這是一個異常嚴(yán)重的成績。但是,懂得 AI 算法體系在全部任務(wù)場合中的應(yīng)用情形也異樣主要,包含行動推進,到檢測環(huán)節(jié),再到績效評價進程。例如,一家名為 HireVue 的公司比來安排了一項基于 AI 的視頻面試辦事,可以剖析求職者的講話、肢體說話、腔調(diào),從而肯定求職者能否相符一家給定公司的「優(yōu)良」模子。鑒于這些體系存在下降多樣性并穩(wěn)固現(xiàn)有成見的能夠性,人們須要做更多的任務(wù)來充足懂得 AI 是若何融入治理、雇用、調(diào)劑和平常任務(wù)場合中的理論中的。

  建議五:制訂尺度,跟蹤體系全部性命周期的啟動、開辟進程和練習(xí)數(shù)據(jù)集的應(yīng)用情形。

  這是為了更好地懂得和監(jiān)控誤差及代表性歪曲成績。除更好地記載練習(xí)數(shù)據(jù)集的創(chuàng)立和保護進程,AI 誤差范疇的社會迷信家和丈量研討員應(yīng)當(dāng)持續(xù)磨練現(xiàn)有的練習(xí)數(shù)據(jù)集,并盡力懂得曾經(jīng)存在在現(xiàn)實任務(wù)中的潛伏盲區(qū)和誤差。

  依附于年夜范圍數(shù)據(jù),AI 能力發(fā)明形式并作出猜測。這些數(shù)據(jù)反應(yīng)人類汗青的同時,也弗成防止地反應(yīng)了練習(xí)數(shù)據(jù)集的誤差和偏見。機械進修技巧山善于提取統(tǒng)計形式,經(jīng)常會在試圖歸納綜合罕見案例的進程下省略分歧的異常值,這也是不依據(jù)數(shù)據(jù)外面價值停止誤差研討的主要緣由。如許的研討要從懂得練習(xí) AI 體系的數(shù)據(jù)來自哪里開端,追蹤這些數(shù)據(jù)是若何在體系中應(yīng)用的,并且要跟著時光推移驗證給定命據(jù)集的形狀。在控制這一點的基本上,人們可以更好地輿解數(shù)據(jù)中反應(yīng)出的毛病和誤差,進而研收回可以或許在數(shù)據(jù)的開辟和收集中辨認這類情形并將其減弱的辦法。

  建議六:以跨學(xué)科視角對待 AI 的誤差研討與減緩戰(zhàn)略的研討。

  誤差成績歷久以來一向存在,而且是一個構(gòu)造性成績,深度的跨學(xué)科研討是處理誤差成績的需要門路之一。在技巧層面,研討者們常常愿望能與日俱增地完全處理成績,這嚴(yán)重低估了成績放在社會層面時的龐雜性。在教導(dǎo)、醫(yī)療、刑事司法等范疇,誤差成績的趨向源于其本身的汗青過程和過往理論,假如不聯(lián)合響應(yīng)的范疇常識,誤差成績就不克不及被完全處理。要處理誤差成績,必定須要跨學(xué)科的協(xié)作,并尊敬分歧學(xué)科的規(guī)矩。

  比來,人工智能和誤差算法范疇有了一些喜人的停頓。但在這里,我們照樣要提示諸位不要憑空捏造。不然,很有能夠涌現(xiàn)如許的情形——體系固然一向在優(yōu)化,但我們卻不曉得如何用這個愈來愈優(yōu)化的體系處理成績。盤算機迷信家可以或許經(jīng)由過程與諸如司法、醫(yī)學(xué)、社會學(xué)、人類學(xué)和交換學(xué)等范疇的專家協(xié)作,在 AI 數(shù)據(jù)構(gòu)成和高低文集成之前,更好地輿解數(shù)據(jù)底層的構(gòu)造性不屈等成績。

  建議七:亟需 AI 體系落地時的審查尺度與標(biāo)準(zhǔn)。

  該尺度的制訂應(yīng)聯(lián)合分歧學(xué)科及同盟的不雅點,以地下、嚴(yán)謹(jǐn)?shù)膶W(xué)術(shù)立場停止,并須按期審查和修訂。今朝,還沒有肯定的可以或許評價 AI 體系在其運用的社會范疇中所發(fā)生的影響的實際系統(tǒng)。斟酌到今朝尚處于晚期的人工智能體系曾經(jīng)給一些風(fēng)險水平較高的的社會范疇形成了影響,這一成績必需被看重起來,乃至可以說是燃眉之急。

  建議八:AI 范疇的公司、年夜學(xué)、會議和其他好處相干者應(yīng)當(dāng)頒布介入其任務(wù)的女性、多數(shù)族裔、和其他邊沿群體的人數(shù)。

  如今有許多人曾經(jīng)認識到,AI 范疇研討人員缺少多樣性這一成績,但還沒有細粒度數(shù)據(jù)論證該成績的嚴(yán)重性。為了樹立真實的多元文明任務(wù)場合,我們須要對科技行業(yè)的任務(wù)文明停止更深條理的評價。這須要數(shù)據(jù)的支持,而不只僅是多雇傭女性和多數(shù)族裔如許簡略。

  發(fā)明 AI 體系的人自己持有的假定和不雅點必會影響到 AI 體系的走向。今朝,人工智能的開辟者多為男性白人,他們有著類似的教導(dǎo)配景。今朝曾經(jīng)有足夠多的證據(jù)注解這會形成成績,好比語音助手對女性聲響的辨識度不如男性,又或是 AI 助手在為女性供給安康信息時所表示出的乏力。文明的多樣性研討在泛科技范疇曾經(jīng)有必定的停頓,但在 AI 范疇,今朝結(jié)果寥寥。假如 AI 愿望朝著平安、公正、可以或許被普遍運用的偏向成長,我們的舉措就不克不及僅逗留在 AI 公司文明多樣性的查詢拜訪中層面,更要深刻轉(zhuǎn)變、確保 AI 公司是迎接女性、多數(shù)族裔、和其他邊沿群體的。

  建議九:AI 行業(yè)應(yīng)當(dāng)聘任來自盤算機迷信之外的學(xué)科的專家,并確保他們具有決議計劃權(quán)。

  跟著 AI 在分歧社會和機構(gòu)范疇的運用日趨增長,并可以或許影響愈來愈多的高風(fēng)險決議計劃,我們必需盡力將社會迷信家、司法學(xué)者和其他具有范疇特長的人聯(lián)合起來,配合指點人工智能的創(chuàng)立和整合,以構(gòu)成歷久的理論標(biāo)準(zhǔn)。

  舉個例子,我們不該該希冀 AI 研討者可以或許成為刑事司法專家,就像我們不該該讓律師為深度神經(jīng)收集調(diào)參一樣。這一例子可以被擴大到一切須要整合信息技巧的行業(yè)。是以,在諸如司法、安康、教導(dǎo)等范疇,我們須要范疇專家介入出去,贊助引導(dǎo)決議計劃,確保 AI 不會老練地低估該范疇中龐雜的流程、汗青、情況。

  建議十:AI 須要強力的品德監(jiān)管和問責(zé)機制來確保其行駛在準(zhǔn)確的途徑上。

  關(guān)于若何將高程度的品德準(zhǔn)繩和指點方針與平常的開辟進程、推行和產(chǎn)物宣布周期接洽起來,我們還有許多作業(yè)要做。

  為了確保 AI 的平安與對等,一些 AI 機構(gòu)在開辟法式的進程中優(yōu)先斟酌品德相干成績。但是,如許的斟酌常常出于團隊的自愿,并且只要絕對高真?zhèn)€組織才會將"好處放在較高的優(yōu)先級。并且,成績是,"好處將如何決議?將由誰決議?除誰代表"好處這一成績,AI 代碼在品德方面還須要銜接明白的問責(zé)軌制,并且還須時辰認識到,AI 行業(yè)在鼓勵形式和權(quán)力分派方面存在紕謬稱的情形。

只要你關(guān)注機器人,你就無法錯過睿慕課

 
 
 
[ 行業(yè)資訊搜索 ]  [ 加入收藏 ]  [ 告訴好友 ]  [ 打印本文 ]  [ 關(guān)閉窗口 ]
 
 
主站蜘蛛池模板: 成人在线网站 | 国产精品一区高清在线观看 | 波多野结衣 一区 | 欧美日韩国产不卡在线观看 | 男女羞羞的视频网站在线观看 | 综合激情网五月 | 91亚洲精品自在在线观看 | 国产精品成人观看视频免费 | 性欧美巨大的视频 | 美女又美女又黄又免费网站 | 成人福利在线视频 | 2015xxxx欧美 | 九九九日产 | 国产尤物视频在线 | 国产一国产一级新婚之夜 | 色播影视| 不卡视频一区 | 国产91短视频 | 最近免费中文字幕大全免费 | 伊人网综合 | 国产色婷婷精品免费视频 | 一区二区在线观看视频 | 黑人与中国女一级毛片不卡 | 在线亚州 | 91香蕉视频苹果 | 最近中文字幕高清视频2019 | 性xxxxx大片免费视频 | 日韩激情影院莉莉 | 麻豆回家视频区一区二 | 18女人水真多免费高清毛片 | 一区二区三区日韩免费播放 | 久久久精品成人免费看 | 天天操夜夜操免费视频 | 免费午夜视频在线观看 | 国产xxxx做受性欧美88 | 欧美狠狠插 | 高h喷水荡肉爽文np肉色文 | 免费看国产精品久久久久 | 日韩一区二区三区在线播放 | 久久综合九色综合97_ 久久久 | 国内精品久久久久影院蜜芽 |