亞馬遜的機(jī)器學(xué)習(xí)部門關(guān)閉了過去三年一直在從事的人工智能(AI)項目。機(jī)器學(xué)習(xí)部門的一個團(tuán)隊一直在構(gòu)建計算機(jī)程序，這些程序旨在審查求職者的簡歷，使他們的評分從1到5，這與購物者對從亞馬遜在線購買的產(chǎn)品的評價方式不同。

但是，在項目開始的一年之內(nèi)，該公司意識到其系統(tǒng)偏向女性申請人。

該軟件經(jīng)過培訓(xùn)，目的是通過觀察十年來提交給公司的簡歷中的模式來審查申請人，其中大多數(shù)(由于高科技行業(yè)的男性主導(dǎo)地位)來自男性。因此，該系統(tǒng)告訴自己，男性候選人更可取，從而對包含“婦女”一詞的簡歷進(jìn)行了懲罰，并降低了所有女性大學(xué)的畢業(yè)生的評級。通過使用固有偏差的數(shù)據(jù)進(jìn)行訓(xùn)練，從某種意義上講，機(jī)器學(xué)習(xí)出了厭女癥。

近三年來，人們對AI的興趣一直在增長，尤其是在醫(yī)療保健領(lǐng)域。從疾病的診斷，以一天到一天的醫(yī)院管理，人工智能的發(fā)展具有醫(yī)療保健的各個方面幾乎變換電源。

AI可以為臨床醫(yī)生提供所有數(shù)據(jù)的綜合視圖，以查看在哪里最好地部署其產(chǎn)品，并在成像領(lǐng)域蓬勃發(fā)展，在AI領(lǐng)域它可以處理X射線和掃描產(chǎn)生的信息，其速度和準(zhǔn)確性越來越超出人類。該技術(shù)甚至已被用于教導(dǎo)開源假肢根據(jù)穿戴者的動作進(jìn)行樞轉(zhuǎn)和移動，并通過新的用戶數(shù)據(jù)在每一個轉(zhuǎn)彎處進(jìn)行改進(jìn)。

有關(guān)患者數(shù)據(jù)的隱私性以及在技術(shù)中納入疏忽歧視的風(fēng)險的問題，使許多行業(yè)專家開始關(guān)注機(jī)器學(xué)習(xí)的倫理意義?？雌饋恚M管該行業(yè)渴望看到一些有關(guān)醫(yī)學(xué)中機(jī)器學(xué)習(xí)道德的官方監(jiān)管準(zhǔn)則，但很少有利益相關(guān)者確定這些形式應(yīng)該采取什么形式。

面對商業(yè)壓力時人工智能的道德規(guī)范

在歐洲創(chuàng)新技術(shù)研究院(EIT)的健康部門進(jìn)行的一項調(diào)查中，有59%的醫(yī)療保健機(jī)器學(xué)習(xí)初創(chuàng)企業(yè)期望他們正在開發(fā)的AI技術(shù)需要獲得監(jiān)管部門的批準(zhǔn)，但只有22%的人可以提出建議應(yīng)該由道德和人工智能準(zhǔn)則來解決。

對他們而言，幸運的是，由52個獨立專家組成的歐洲委員會AI高級專家組(AI HLEG)發(fā)布了可信賴人工智能的道德準(zhǔn)則。

這些指南列出了AI系統(tǒng)應(yīng)符合道德標(biāo)準(zhǔn)的關(guān)鍵要求。像Google，IBM和Microsoft這樣的大型科技公司也發(fā)布了自己的道德AI原則-當(dāng)許多醫(yī)療公司正在使用這些組織的開放式AI解決方案來運行自己的項目時尤其方便。

但就目前情況而言，目前幾乎沒有官方的AI法規(guī)，甚至政府也被警告不要試圖對技術(shù)進(jìn)行過于嚴(yán)格的監(jiān)管。而且，當(dāng)AI受到更多的指導(dǎo)而不是實際規(guī)則的約束時，很難說這些新技術(shù)的開發(fā)者是否會認(rèn)真對待道德問題。

EIT Health首席執(zhí)行官簡·菲利普·貝克(Jan-Philipp Beck)說：“如果您面臨業(yè)務(wù)壓力，并且需要確保您令投資者滿意，那么您是否真的會全力以赴，確保對自己的算法進(jìn)行實際的代表培訓(xùn)?”