人工智能(AI)當(dāng)前正在革新技術(shù)世界。從能夠自行駕駛的汽車(chē)到可以在數(shù)秒內(nèi)處理大量數(shù)據(jù)的算法，人工智能系統(tǒng)具有廣泛的用途。它們?cè)卺t(yī)療保健和國(guó)防等重要領(lǐng)域也得到了越來(lái)越多的利用，以制定決策并提高效率。

實(shí)際上，如果沒(méi)有人工智能，當(dāng)今世界將大為不同。盡管近年來(lái)僅流行并迅速進(jìn)入主流，但人工智能已經(jīng)對(duì)數(shù)字世界的幾乎所有方面產(chǎn)生了巨大影響。

但是，如果要繼續(xù)在高風(fēng)險(xiǎn)的情況下使用AI，則必須解決一個(gè)迫在眉睫的問(wèn)題。盡管這些算法能夠以較高的速度做出準(zhǔn)確的決策，但研究人員并不真正知道它們是如何工作的。如果人類(lèi)要完全信任人工智能，那么找到一種方法來(lái)揭示其決策背后的原因?qū)⒅陵P(guān)重要。

任何值得投入的網(wǎng)絡(luò)開(kāi)發(fā)人員都應(yīng)該能夠?yàn)g覽網(wǎng)站的代碼，并逐行解釋正在發(fā)生的事情。但是，嘗試使用AI算法這樣做幾乎是不可能的。這就是理解人工智能工作的問(wèn)題所在。

在過(guò)去的十年中，研究人員在開(kāi)發(fā)AI系統(tǒng)時(shí)轉(zhuǎn)向了所謂的“黑匣子方法”。從本質(zhì)上講，這意味著他們能夠測(cè)試和開(kāi)發(fā)功能齊全的人工智能，而無(wú)需查看使之起作用的代碼。事實(shí)證明，允許AI以這種方式通過(guò)深度學(xué)習(xí)自學(xué)，只需向其提供大量數(shù)據(jù)并達(dá)到目標(biāo)就可以了。

但是，該方法嚴(yán)重限制了研究人員了解AI系統(tǒng)為何做出特定決定的能力。向前邁進(jìn)，這將是克服困難的障礙。