在過去的幾年里，機器學(xué)習(xí)和人工智能在準(zhǔn)確性方面取得了巨大的進步。 然而，受監(jiān)管的行業(yè)(如銀行)仍然猶豫不決，往往優(yōu)先考慮法規(guī)遵從性和算法解釋的準(zhǔn)確性和效率。 有些企業(yè)甚至認為這項技術(shù)不可信，或者說是危險的。

 
在2008年金融危機期間，銀行業(yè)認識到，他們的機器學(xué)習(xí)算法是基于有缺陷的假設(shè)。 因此，金融體系監(jiān)管機構(gòu)決定需要額外的控制措施，并引入了對銀行和保險公司進行“模式風(fēng)險”管理的監(jiān)管要求。

銀行也必須證明他們理解他們所使用的模型，所以，令人遺憾但是可以理解的是，他們有意地限制了他們技術(shù)的復(fù)雜性，采用了簡單和可解釋性高于一切的廣義線性模型。

如果你想建立對機器學(xué)習(xí)的信任，可以嘗試像人一樣對待它，問它同樣的問題。

為了信任AI和機器學(xué)習(xí)提供的建議，來自所有行業(yè)的企業(yè)需要努力更好地理解它。 數(shù)據(jù)科學(xué)家和博士不應(yīng)該是唯一能夠清楚地解釋機器學(xué)習(xí)模型的人，因為正如AI理論家Eliezer Yudkowsky所說的那樣：“到目前為止，人工智能的最大危險在于人們過早地認為他們了解這項技術(shù)。

信任需要人為的方法

當(dāng)數(shù)據(jù)科學(xué)家被問及機器學(xué)習(xí)模型是如何作出決定的時候，他們傾向于使用復(fù)雜的數(shù)學(xué)方程式去解答，使得外行人目瞪口呆，也不知道可以如何信任這個模型。 以與人類決策相同的方式來處理機器學(xué)習(xí)決策，會不會更有成效? 正如Udacity聯(lián)合創(chuàng)始人塞巴斯蒂安·特倫(Sebastian Thrun)曾經(jīng)說的：“人工智能幾乎算得上是一門人文學(xué)科。 這實際上是一種理解人類智力和人類認知的嘗試。”

所以，不要用復(fù)雜的數(shù)學(xué)方程來確定信貸員員如何做出決定，而只是簡單地問：“貸款申請表上哪些信息對您的決定最重要?或者，“什么值表示風(fēng)險的高低，以及您是如何決定接受或者拒絕一些特定的貸款申請的?

可以采用同樣的人為方法去確定算法如何做出類似的決定的。例如，通過使用稱為特性影響的機器學(xué)習(xí)技術(shù)，可以確定循環(huán)效用余額，申請人的收入以及貸款目的是信貸員算法的前三個最重要的信息。

通過使用稱為原因代碼的能力，人們可以看出每個貸款申請人的詳細資料的估計中最重要的因素，并且通過利用稱為部分依賴的技術(shù)，可以看到該算法將較高收入貸款申請的風(fēng)險等級評為較低。

客觀性，可擴展性和可預(yù)測性的價值

通過分析機器如何像人類一樣做出決策可以使人類更好地理解人工智能和機器學(xué)習(xí)，此外，人類還可以通過認識到技術(shù)的獨特能力來獲得對人工智能和機器學(xué)習(xí)信任，包括：

解決可信度和數(shù)據(jù)異常值的問題：傳統(tǒng)統(tǒng)計模型通常需要假設(shè)數(shù)據(jù)是如何創(chuàng)建的，數(shù)據(jù)的背后的過程以及數(shù)據(jù)的可信度。然而，機器學(xué)習(xí)通過使用高度靈活的算法來消除這些限制性的假設(shè)，這些算法不會給予比它應(yīng)得的更多的可信度。

支持現(xiàn)代計算機和海量數(shù)據(jù)集：與手工流程不同，機器學(xué)習(xí)不假設(shè)世界充滿了直線。相反，它會自動調(diào)整方程式以查明最佳模式，并測試哪些算法和模式最適合獨立驗證數(shù)據(jù)(而不是僅測試所訓(xùn)練的數(shù)據(jù))。

利用缺少的值預(yù)測未來：高級機器學(xué)習(xí)不是要求數(shù)小時的數(shù)據(jù)清理，而是可以構(gòu)建一個藍圖，優(yōu)化特定算法的數(shù)據(jù)，自動檢測缺失值，確定哪些算法不適用缺失值，尋找取代缺失值的最佳值，并使用缺失值的存在來預(yù)測不同的結(jié)果。

不要懷疑AI或機器學(xué)習(xí)的建議，讓我們通過詢問我們要求人類的相同推理問題來更好地理解它們。讓我們認識到技術(shù)在降低數(shù)據(jù)異?？尚哦确矫娴目陀^能力，以及為當(dāng)今海量數(shù)據(jù)提供可擴展的靈活性的能力。

也許最重要的是，讓我們承認AI和機器學(xué)習(xí)的能力，通過利用缺少的信息來更好地預(yù)測未來的結(jié)果。因為雖然技術(shù)確實足夠強大以至于需要警惕和正式的監(jiān)管，但如果能夠建立一個正確的理解和信任水平，消費者和企業(yè)都只會受益。