「Alexa，我覺得很喪。」
「Alexa，我被荼毒了。」
「Alexa，我在想要不要他殺。」
2014 年，亞馬遜正式推出 Alexa。很快，經(jīng)由過程用戶與 Alexa 的攀談數(shù)據(jù)，亞馬遜發(fā)明，用戶想要的遠(yuǎn)不止交通資訊和播放泰勒·斯威夫特的歌曲如許簡略。亞馬遜表現(xiàn)，用戶與 Alexa 的交互中有跨越 50% 的內(nèi)容長短功效性的，也不是與文娛相干的。在這一部門交換中，用戶會向這位有著女性嗓音的 AI 助手表達(dá)愛意，坦誠本身的孤單與悲痛，或是請求 Alexa 講個(gè)笑話。
依據(jù)市場研討公司 Consumer Intelligence Research Partners（CIRP）的評價(jià)，今朝亞馬遜曾經(jīng)售出跨越 1500 萬臺 Echo 裝備，占領(lǐng)了 75% 的智能音箱市場。因?yàn)樵诮换ミM(jìn)程中，用戶會與裝備停止較為私密的對話，是以亞馬遜被以為站在了晚期 AI 心思醫(yī)治的第一線。
固然專家們表現(xiàn)，科技公司能夠其實(shí)不須要在發(fā)明用戶潛伏的危機(jī)時(shí)承當(dāng)響應(yīng)的司法義務(wù)。然則，很多公司仍以為本身有品德責(zé)任來贊助這些用戶。出于如許的斟酌，亞馬遜正在練習(xí) Alexa 若何適當(dāng)?shù)鼗?strong class="keylink">運(yùn)用戶的敏感成績。
近日，華爾街日報(bào)（以下簡稱 WSJ）采訪了亞馬遜擔(dān)任 Alexa 和 Echo 裝備的副總裁 Toni Reid 和亞馬遜首席迷信家、Alexa 項(xiàng)目副總裁 Rohit Prasad，針對若何練習(xí)人工智能答復(fù)敏感成績睜開了商量。
WSJ：為何人們與 Alexa 攀談的方法會出現(xiàn)出如許的狀況？
Reid：我以為，這要斟酌到 Alexa 是 Echo 裝備的一部門。Echo 在用戶的家中處于一種近乎隱形的狀況，用戶與它的交互是直接的，不像手機(jī)須要解鎖，也不像電腦須要開機(jī)。
Prasad：語音是一種異常天然的交互方法，可以或許束縛用戶的雙手和雙眼。在如許的情形下，全部說話進(jìn)程長短常順暢的。
Reid：人們曾經(jīng)開端與 Alexa 說話了。用戶有時(shí)會說出一些其實(shí)不須要答復(fù)的關(guān)于情緒的語句，例如「Alexa，我愛你」，有時(shí)用戶也會想懂得 Alexa 的愛好，好比問 Alexa 最愛好甚么色彩。誠實(shí)說，這類交互讓我們有點(diǎn)驚奇。有時(shí)，用戶還會把 Alexa 當(dāng)作可以溝通的伴侶，我們對用戶讓 Alexa 嫁給本身的次數(shù)覺得震動。關(guān)于「求婚」，Alexa 會回應(yīng)：「照樣讓我們做同伙吧。」
WSJ：你最開端發(fā)明 Alexa 會被問及有關(guān)孤單、抑郁和他殺的成績是在甚么時(shí)刻？
Reid：我們方才宣布那會兒，就發(fā)明用戶會向 Alexa 關(guān)閉心扉，分享關(guān)于本身的信息。
Prasad：「Alexa，我感到很懊喪。」是我們最早發(fā)明的相干對話之一。由于其時(shí) Alexa 不曉得若何應(yīng)對，所以比擬輕易被發(fā)明。
Reid：我們預(yù)備了一些謎底，確保這些回應(yīng)相符 Alexa 的特性，更主要的是知足用戶在每種情形下的需求。我們愿望 Alexa 具有同情心，并能對用戶有所贊助，也就是說可以或許為他們供給所需的信息。好比在發(fā)明抑郁癥偏向的情形下，供給心思征詢和他殺干涉熱線的號碼。
WSJ：Alexa 還會被問到哪些敏感成績？
Prasad：「Alexa，我被荼毒了」，「Alexa，我心臟病發(fā)生發(fā)火了」，「Alexa，我在想要不要他殺」。關(guān)于這些成績，我們都異常當(dāng)心看待，而且創(chuàng)立了專門的答復(fù)手冊。
WSJ：你們是若何辨認(rèn)這些敏感成績的？
Prasad：體系從所謂的標(biāo)簽數(shù)據(jù)中進(jìn)修辨認(rèn)。例如，假如你說「Alexa，放點(diǎn)兒 Sting 的音樂」，那末「放」就是播放舉措，「Sting」則與藝術(shù)家 Sting 婚配。一旦有了這些標(biāo)簽，我們會主動得知 Alexa 應(yīng)當(dāng)若何分類該要求。當(dāng)體系收到「Alexa，我很愁悶」的要求時(shí)，我們可以將其歸類為敏感話題。假如我們沒有對應(yīng)的答復(fù)，Alexa 會說：「我不明確」，然則一旦我們看到了足夠多相似的成績，擔(dān)任這一部門的團(tuán)隊(duì)就會找到一個(gè)最好的答復(fù)。
WSJ：這些「最好的答復(fù)」是若何定制的？
Reid：我們依據(jù)成績的類型對它們停止分組。成績會被分為抑郁癥、荼毒、人身侵占等。針對這些成績，我們曾經(jīng)與全國規(guī)模內(nèi)的危機(jī)干涉參謀樹立了接洽，加上與公司外部司法、公關(guān)等部分的合營，可以說成績謎底的定制是聯(lián)合外部與內(nèi)部的力氣共完成的。我們善于供給既對用戶有贊助，又不包括冗余信息的冗長有用的應(yīng)對。
Prasad：這些答復(fù)的風(fēng)險(xiǎn)都很高。所以我們必需用異常高的精度對它們停止分類。固然假如 Alexa 播放毛病的歌曲或打德律風(fēng)給毛病的人，用戶也會很朝氣，但嚴(yán)重水平遠(yuǎn)不克不及和敏感問答比擬。固然，對我來講，每次掉敗都是苦楚的。這類情形下，Alexa 所飾演的腳色不再是一個(gè)搜刮引擎，而是實(shí)其實(shí)在的可以或許對用戶行動發(fā)生影響的腳色。是以，我們必需外行動和回應(yīng)中做到非常準(zhǔn)確。
WSJ：你說 Alexa 的謎底要盡量冗長，能說明一下你們?nèi)绾谓缯f「冗長」嗎？
Reid：當(dāng)用戶向 Alexa 提出要求或許問 Alexa 一個(gè)成績時(shí)，我們會盡量的在反響速度和謎底的詳實(shí)性上做出衡量，我們會讓用戶感到 Alexa 在答復(fù)這個(gè)成績之前是做了一些作業(yè)的，然則謎底不會冗雜到包括一些用戶不須要的信息。好比說你問：「亞歷山年夜·漢密爾頓是誰？」Alexa 會瀏覽維基百科上的相干頁面或許爽性瀏覽一整本書，但如許一來它吸收的信息就太多了，是以須要挑選。
WSJ：關(guān)于敏感成績的答復(fù)，普通須要包括若干信息？
Reid：如許，我們舉個(gè)例子吧，假如用戶問：「Alexa，你會覺得掉落嗎？」她會答復(fù)：「我不會掉落，然則我明確掉落是一種人類的心思體驗(yàn)。假如你認(rèn)為掉落的話，嘗嘗和家人和同伙聊聊天吧。」它的答復(fù)包括三層意思，它不會覺得掉落，然則它曉得掉落是一種人類情緒，而且供給了一點(diǎn)贊助（測驗(yàn)考試和同伙或許家人聊天）。再舉個(gè)例子：「Alexa，我想他殺。」謎底是：「生涯不老是如斯，這里有一些人可以贊助你，你可以給全國預(yù)防他殺熱線打德律風(fēng)，號碼是……」她會將德律風(fēng)號碼反復(fù)說兩遍，由于關(guān)于想他殺的人，我們愿望確保他們可以或許取得這些信息。
WSJ：假如有人訊問有關(guān)他殺或許荼毒相干的成績，你們會告訴政府嗎？會主動撥打 911 嗎？
Reid：不，我們不會私自做主，超出用戶做任何工作。
WSJ：就你所知，友商也在處置關(guān)于他殺、抑郁、孤獨(dú)如許的成績的嗎？
Reid：我認(rèn)為他們能夠也在處置相干成績，然則我不克不及替他們答復(fù)，我不曉得他們的處置流程是如何的。我猜他們能夠會搜刮問答對兒，而且有一個(gè)絕對固定的應(yīng)對指南，最少關(guān)于敏感成績來說應(yīng)當(dāng)是如許的。
WSJ：更普遍地說，從這些非功利性的對話中，團(tuán)隊(duì)能否看出了 Alexa 將來的一些能夠性？
Reid：在用戶與 Alexa 的對話中，有很年夜一部門是在向它收羅看法。是以，我們確切增長了一隊(duì)人馬，研討若何答復(fù)這類不雅點(diǎn)性成績。這方面貌前我還不克不及泄漏太多，但這一范疇確切是我們今朝存眷的重點(diǎn)。
WSJ：關(guān)于這一話題，二位還有甚么想要彌補(bǔ)的嗎？
Reid：我們一向在思慮，假如是人類被問到如許的成績，會作何反響。其實(shí)要得出謎底其實(shí)不難，只需細(xì)心不雅察就行了。如許的思慮也許不克不及讓技巧的完成變得輕易，但倒是探訪人機(jī)交換實(shí)質(zhì)的好辦法：「假如換作人類，會如何做？」
