信必優(yōu)人工智能 – 終結(jié)靈感還是啟發(fā)更多思考？

反思人工智能的進(jìn)化：機(jī)器是如何超越人類能力的。

無論您的背景如何，您可能都想知道人工智能是什么，它如何影響您的工作、業(yè)務(wù)或社會。這是一個沉重的話題。

人工智能對社會經(jīng)濟(jì)產(chǎn)生的影響日益成為公眾討論的焦點。今年夏天，亨利·基辛格對這個話題進(jìn)行了反思，揭開了一場熱烈討論的序幕。在《大西洋》2018年6月刊中，美國政治家、前美國國務(wù)卿基辛格先生對人工智能做出了非常精彩的論述。他著重強(qiáng)調(diào)了他的擔(dān)憂，認(rèn)為我們毫無準(zhǔn)備，而啟蒙時代即將結(jié)束。

人們可以看到，同樣的恐懼和警告在夏天重復(fù)發(fā)生并得到進(jìn)一步闡述。在一本出版物中，表達(dá)了AI可能使思維變得無關(guān)緊要的觀點。另一份出版物關(guān)注的則是 AI 是否以及如何最終結(jié)束民主。

在您詳細(xì)閱讀之前，我分享一下我的觀點吧：很多公眾討論都是基于今天的能力廣泛的推斷不久的將來。由于許多作者最終做到了將算法人性化，因此這些推斷很容易這一觀點。所以，這些說法可能都很好的表述了事實，但并沒有良好的判斷基礎(chǔ)。

類似的，許多人同樣將 AI 視為某個領(lǐng)域的單一產(chǎn)物。但事實并不是這樣。更糟糕的是，您的其他信息可能來源于提供 AI 產(chǎn)品或服務(wù)的組織的營銷部門。

事實上，正是這次公開討論促使我寫了這篇文章。當(dāng)您注意到，您已經(jīng)開始為機(jī)器賦予人類特征，您可能不會開啟啟蒙之旅。

要從技術(shù)的潛能中受益，您最好先努力理解它。我會盡力幫助您了解什么是 AI。我會讓您自己得出進(jìn)一步的結(jié)論。

我們首先了解 AI 的定義（有點無聊？）

從非正式定義角度，人們可能會說人工智能是機(jī)器表現(xiàn)出來的智慧，或機(jī)器模仿與我們?nèi)祟愊嚓P(guān)的“認(rèn)知”功能。它可能涉及玩戰(zhàn)略游戲、自然語言處理、車輛駕駛等主題。

這個定義可能令人驚訝的一點，就是它隱含時間限制。1990 年或 2000 年人工智能傳遞的內(nèi)容都已經(jīng)不再符合今天的宣傳，因為它已經(jīng)變得司空見慣。我們不會把 OCR（光學(xué)字符識別）當(dāng)作 AI。即使它搭載了深度學(xué)習(xí)和 TensorFlow 也不例外。

一旦我們熟悉某項新技術(shù)后，就不再認(rèn)為它需要人類認(rèn)知。該領(lǐng)域的人甚至創(chuàng)造了 AI 效應(yīng)一詞：“AI 就是我們尚未完成的一切。”

如果您查找更科學(xué)的定義，您的教材（或維基百科）可能會將其稱為智能代理研究。如果您的教材較新，可能會將其解釋為理性智能代理。這樣的智能代理可以是任何實體，或者說是一個能夠感知其環(huán)境，并采取行動使其在某個目標(biāo)上的成功最大化的設(shè)備。這樣的智能代理可能能夠?qū)W習(xí)，機(jī)器學(xué)習(xí) (c. 1959) 隨之誕生。他們可能能夠利用先驗知識，知識表示和推理隨之誕生。或者其他能力 – 我們稍后會細(xì)細(xì)講到。

經(jīng)過一番思考后，您可能會注意到上述更科學(xué)的定義實際上相當(dāng)廣泛。也理應(yīng)如此。您不希望基于特定方法或單一方法定義研究區(qū)域。更明智的做法是從研究目標(biāo)出發(fā)，創(chuàng)造具有理性行為的智能代理。

無論如何，一個簡單的反射智能代理 – 比方說一個自動水龍頭 – 就符合這個定義。它現(xiàn)在不是領(lǐng)先技術(shù)，但它曾經(jīng)是。

這就使得“人工智能”這個詞聽起來有點模糊？

我們對人工智能的非正式定義是，幾乎沒有任何東西符合標(biāo)準(zhǔn)，而更正式的描述似乎又認(rèn)同幾乎所有東西都可以稱得上是人工智能。

當(dāng)然，人們可以使用當(dāng)前的尖端技術(shù)，并列出您認(rèn)為屬于 AI 方法的清單。遺憾的是，這可能并不會加深我們的理解（這只是一個清單）。此外，該清單依然存在時間限制。當(dāng)前的領(lǐng)先技術(shù)在未來數(shù)年內(nèi)可能就過時了。

AI 不是一個單純的概念

AI 絕不是一個單純的概念。字面來看：AI 并不是單純的超級智能大型機(jī)。

它還存在更進(jìn)一步的闡釋。您可能不會將 AI 視為單個研究領(lǐng)域或特定方法。實際上，AI 領(lǐng)域吸納了許多廣泛的研究領(lǐng)域，最突出的是數(shù)學(xué)和計算機(jī)科學(xué)。許多方法來自其他更深入的研究領(lǐng)域，如心理學(xué)、語言學(xué)和經(jīng)濟(jì)學(xué)或者神經(jīng)科學(xué)等。

是的，生物神經(jīng)系統(tǒng)學(xué)科為人工神經(jīng)網(wǎng)絡(luò)提供了靈感。而如果將這些學(xué)科網(wǎng)絡(luò)與靈長類大腦進(jìn)行比較，就會發(fā)現(xiàn)二者在結(jié)構(gòu)和功能屬性上存在清晰、明顯的差異。

繼續(xù)列出研究領(lǐng)域可能也不會增加我們的理解。最好的辦法應(yīng)該是觀察可能應(yīng)用 AI 的不同目標(biāo)，以及在研究人員和工程師心中 AI 所具備的能力。

推理與規(guī)劃

仔細(xì)審視 AI 的目標(biāo)，建立能夠推理和解決問題的機(jī)器可能是其首要任務(wù)。可以說，這二者都有所裨益。如果您能夠使用先驗知識，它們也將更容易實現(xiàn)，因此應(yīng)包括知識表示方法。如果您的機(jī)器能夠執(zhí)行部分活動，規(guī)劃功能將非常有用。我們還沒有實現(xiàn)學(xué)習(xí)功能，但我們將需要從博弈論、概率論或決策理論等廣泛的學(xué)科中汲取經(jīng)驗。也許您需要貝葉斯網(wǎng)絡(luò)或進(jìn)化算法來滿足您的目標(biāo)。當(dāng)前已經(jīng)存在廣泛的方法，其中許多方法已經(jīng)過試驗和測試。

學(xué)習(xí)

從經(jīng)驗中學(xué)習(xí)也可能對我們的智能代理非常有益。實際上，過去幾年，機(jī)器學(xué)習(xí)發(fā)展非常迅速。換言之，這是一切模糊的源頭。公眾和學(xué)術(shù)界都在談?wù)?em>深度學(xué)習(xí)。也就是說，機(jī)器學(xué)習(xí)具有多層非線性處理單元的級聯(lián)，通常采用人工神經(jīng)網(wǎng)絡(luò)的形式。“深度”意味著除了輸入和輸出層之外，還有不止一個處理層。

您可將此類網(wǎng)絡(luò)視為一種具有高度表達(dá)能力的函數(shù)，可將其應(yīng)用于表示復(fù)雜非線性現(xiàn)象。訓(xùn)練部分實際上是一種優(yōu)化問題 – 您希望最小化網(wǎng)絡(luò)產(chǎn)生的輸出與期望結(jié)果之間的誤差。

如果您擁有相關(guān)知識，就能夠選擇結(jié)構(gòu)合適的學(xué)習(xí)任務(wù)以及與之匹配的合適的網(wǎng)絡(luò)構(gòu)架。此外，如果您擁有合理、數(shù)量可觀的訓(xùn)練數(shù)據(jù)（正確的輸入和輸出數(shù)據(jù)集），即使對于之前未見過的輸入，您的網(wǎng)絡(luò)也可學(xué)會產(chǎn)生正確的結(jié)果。

人們可能將這種能力描述為“習(xí)得”，以與“推理”進(jìn)行區(qū)分。網(wǎng)絡(luò)能夠?qū)W會習(xí)得您訓(xùn)練的任何項目或概念。我們后續(xù)再詳細(xì)討論。

自然語言理解與感知

事實證明，學(xué)習(xí)可廣泛用于諸多其他功能方面，例如，自然語言理解或感知。

有趣的是，許多機(jī)器視覺問題可能比將人類語音轉(zhuǎn)換為文本更為容易。結(jié)構(gòu)更簡單的前饋網(wǎng)絡(luò)（信息傳播到網(wǎng)絡(luò)中的一個方向，即前饋）可能能夠?qū)W習(xí)對圖像進(jìn)行分類。先進(jìn)的語音識別工具則通常基于所謂的遞歸神經(jīng)網(wǎng)絡(luò)（網(wǎng)絡(luò)也將信息反饋回其自身）。

要理解單詞或句子，則需要重復(fù)這種情況。您可以將其視為一種具有短期記憶的算法，由于能夠提供更多輸入（音節(jié)、單詞），因而可以更準(zhǔn)確地識別正確的單詞。事實上，在將語音轉(zhuǎn)錄到文本方面，機(jī)器比我們做得更好。

機(jī)動性與自主操控

機(jī)動性與自主操控功能也可能對智能代理有所助益。它們也是機(jī)器人領(lǐng)域的關(guān)鍵目標(biāo)。它可能是觸覺智能或隨機(jī)路線圖，也可能包括機(jī)器人映射。

傳統(tǒng)上，機(jī)器人領(lǐng)域可能與機(jī)器學(xué)習(xí)的關(guān)系不大。從控制理論和其他領(lǐng)域借鑒的方法更加成效。您可以使用這樣的方法來創(chuàng)建一個即便在崎嶇地形中行走也不會跌倒的機(jī)器人。換句話說，您在 YouTube 上看到的機(jī)器狗視頻可能與機(jī)器學(xué)習(xí)關(guān)聯(lián)不大，它更多是在需要時啟動的預(yù)編程算法。

但有一個領(lǐng)域叫做策略學(xué)習(xí)。在這個語境下，它不是指政治領(lǐng)導(dǎo)人或公職官員。而是說，我們希望我們的智能代理能夠?qū)W習(xí)一種最佳策略，使其能夠在復(fù)雜的動態(tài)環(huán)境中實現(xiàn)其性能最大化。

強(qiáng)化學(xué)習(xí)、尤其是 Q 學(xué)習(xí)等機(jī)械學(xué)習(xí)方法可能適用于這種情況。Q 學(xué)習(xí)中的智慧是使用一個深層神經(jīng)網(wǎng)絡(luò)來近似得到一個所謂的 Q 函數(shù)。這個 Q 函數(shù)的預(yù)期目的是在給定環(huán)境的感知狀態(tài)情況下評估特定動作的效用值。如果您已對該 Q 函數(shù)已實現(xiàn)充分逼近，則只需要能夠生成所有可能的下一個動作。

要構(gòu)建一個能夠?qū)W習(xí)的更復(fù)雜的機(jī)器人，我們可以使用某種策略學(xué)習(xí)作為控制機(jī)器人動作的更高層次。這將有助于機(jī)器人針對不同的場景更好地學(xué)習(xí)動作。然后我們可能會使用其他技術(shù)來執(zhí)行這些操作，例如“向前邁出一步，不要跌倒”。這些功能都非常復(fù)雜，需要大量不同的組件協(xié)同工作。

順便一提，如果您嘗試與合適的機(jī)器人研究人員談?wù)摍C(jī)器人過程自動化，并且您的機(jī)器人沒有考慮物理方面，他或她會對您嗤之以鼻。關(guān)鍵的挑戰(zhàn)通常就在于其物理方面 – 如何感知或如何操縱現(xiàn)實世界。不可否認(rèn)，更復(fù)雜的業(yè)務(wù)流程的自動化也可能涉及許多研究領(lǐng)域，并利用復(fù)雜的機(jī)器學(xué)習(xí)模型。

社會認(rèn)知和創(chuàng)造力

人們?nèi)匀粫岬揭恍┠壳胺浅Ｃ黠@的目標(biāo)，例如創(chuàng)造出具有社會認(rèn)知和創(chuàng)造力的機(jī)器。

幾十年來，我們已經(jīng)擁有了能夠為數(shù)學(xué)定理提供堅實證明的算法。這些證據(jù)可能是堅實的，但通常不夠簡單、有效 – 也許不是很有創(chuàng)意，存在相當(dāng)多的試驗和錯誤。

今天更突出的技術(shù)是各種推薦引擎，它們使用機(jī)器學(xué)習(xí)向我們推薦新產(chǎn)品和服務(wù)。聊天 AI 平臺旨在提供實現(xiàn)簡單對話的工具，例如理解人類情緒或?qū)π袨榉诸悺Ｉ踔吝€有一個專門的計算設(shè)計領(lǐng)域 – 該領(lǐng)域的工具可用于創(chuàng)建復(fù)雜的圖形用戶界面。

當(dāng)然，我們也看到過一些方法，比如生成對抗網(wǎng)絡(luò)，這些方法可用于創(chuàng)建逼真的虛假名人面孔。而更重要的是，類似方法在欺騙其他機(jī)器學(xué)習(xí)模型（例如用于分類圖像的模型）方面非常有效。

例如，考慮一下用于處理保險索賠或金融交易的 AI 工具。如果您的 AI 應(yīng)用程序容易受到對抗性攻擊并且收益/風(fēng)險比較高，那么您可能需要仔細(xì)考慮如何檢測這些攻擊。它看起來是一個難以攻堅的難題。

初步結(jié)論

我們考慮的重點是，構(gòu)建 AI 系統(tǒng)存在各種不同的方法，如果您希望為現(xiàn)實生活環(huán)境創(chuàng)建新的復(fù)雜應(yīng)用程序，就需要研究人員和工程師團(tuán)隊對這些方法進(jìn)行精心組合。它不是偶然的。

同時，您還務(wù)必要了解到，當(dāng)前許多相當(dāng)通用的功能直接適用于您的問題。如果現(xiàn)有方法與您的目標(biāo)完全匹配，可以直接將其應(yīng)用到組織的環(huán)境中。問題在于您是否熟悉當(dāng)今可用的各種潛能 – 這是快速發(fā)展領(lǐng)域的一大挑戰(zhàn)。

機(jī)器在圍棋、DOTA 方面都打敗了我們…

基辛格先生和許多其他作家的論點是，算法已經(jīng)在很多領(lǐng)域打敗了人類，比如圍棋游戲或者多人視頻游戲（基辛格先生提及了圍棋，而未說起 DOTA）。

這里似乎存在某種的緊急行為，另一方面，似乎沒有什么能阻止這些機(jī)器更快地學(xué)習(xí)。因此，它們將很快在所有人類冒險中超越并戰(zhàn)勝我們，而我們在世界上的角色將逐漸減弱，直至相對無關(guān)緊要。

誠然，AI 最近取得的成就非常驚人。由于目前的成績，人類很容易開啟技術(shù)人性化研究。但是，這可能無法提高近期功能的外延質(zhì)量。

如果您詢問這個領(lǐng)域的頂尖研究人員，就會得知我們距離機(jī)器在日常工作方面遠(yuǎn)超人類還有很長一段距離。

為進(jìn)一步理解，我們首先考慮一下智能代理未來的運(yùn)行環(huán)境。這些環(huán)境的復(fù)雜性可能會極大地影響智能代理需要的復(fù)雜程度。

復(fù)雜還是簡單環(huán)境?

Russell 和 Norvig（人工智能 – 現(xiàn)代方法，2009）提出了一種對此類環(huán)境進(jìn)行分類的模型。例如，環(huán)境是否具有確定性 – 智能代理是否可以根據(jù)它將選擇的操作完全預(yù)測環(huán)境的下一個狀態(tài)？

它是否是靜態(tài)的 – 即智能代理考慮下一個行動時環(huán)境是否會發(fā)生變化？智能代理能否完整觀察此環(huán)境？此環(huán)境中存在多少智能代理？此環(huán)境中是否存在隱藏規(guī)則？您是否需要記住過去的動作？它是離散的（更容易）還是連續(xù)性的（更難）？

您猜對了：雖然圍棋是一款了不起的游戲，簡單的規(guī)則衍生出極端的復(fù)雜性；但作為 AI 系統(tǒng)需要掌握的環(huán)境，它幾乎符合所有的條件。

不可否認(rèn)，圍棋是一個多智能代理環(huán)境（AI 玩家及其對手），但是它在輪流執(zhí)子之間不會發(fā)生隨機(jī)事件，它是離散的，沒有任何隱藏規(guī)則，環(huán)境則完全可以觀察。

最后，這個游戲無需記憶移動的步驟，因為當(dāng)前的游戲狀態(tài)為您提供了所有的必要信息，可以確定最佳下一步行作。如果是一個大師或 AlphaGo 的某種變種，都可以做到這一點。

簡而言之，您可能會認(rèn)為 AlphaGo 是一種窮舉方法。AlphaGo用窮舉來實踐和學(xué)習(xí)更多的人類選擇的可能性，而不是使用窮舉來計算人能力范圍之內(nèi)的動作。換句話說，在這個相對單純的環(huán)境中，機(jī)器學(xué)習(xí)算法能夠比人類更好地評估可能出現(xiàn)的下一步動作。

快速還是慢速思考?

Daniel Kahneman 的系統(tǒng) 1 和系統(tǒng) 2 思維模型為我們提供了更多有趣的觀點（《思考，快與慢》(Thinking, Fast and Slow)，2011）。提醒一下，Kahneman 憑借在行為經(jīng)濟(jì)學(xué)方面的成就榮獲 2002 年的諾貝爾獎。

在 Kahneman 的著作中，系統(tǒng) 1 指的是快速、本能和情感思維，而系統(tǒng) 2 則是緩慢、更加慎重的邏輯思維。當(dāng)然，有人會質(zhì)疑這是否代表所有人類認(rèn)知的有效模型，但 Kahneman 的方法確實有其優(yōu)點。它還為我們提供了一個簡單的框架，讓我們考慮當(dāng)今可用的機(jī)器學(xué)習(xí)能力。

現(xiàn)代的機(jī)器學(xué)習(xí)系統(tǒng)更注重識別而非推理。也就是說他們專注于系統(tǒng) 1 的思維。例如，機(jī)器學(xué)習(xí)模型可以準(zhǔn)確識別游戲中可能出現(xiàn)的下一步動作。它將根據(jù)過去學(xué)到的知識來實現(xiàn)。但是，它不會進(jìn)行推理或系統(tǒng) 2 思維。所有工作重點在于培訓(xùn) – 應(yīng)用此模型后，智能代理只需直接識別。

換句話說，如果環(huán)境沒有提供良好的學(xué)習(xí)機(jī)會，或者如果沒有預(yù)先存在的數(shù)據(jù)集來幫助識別正確的策略，我們的智能代理將會不知所措。

系統(tǒng) 2 思維在 AI 領(lǐng)域并非全新概念。想想幾十年前，專家系統(tǒng)曾是多項研究的重點。實際上，有些人希望此類系統(tǒng)能夠為辦公室的高度自動化鋪平道路。而事實證明，部署此類系統(tǒng)需要大量的人類工程學(xué)。

推斷近期活動功能

現(xiàn)在可能更容易看出推斷錯誤是如何發(fā)生的。事實上，我們能夠創(chuàng)建一個基于識別的 AI 系統(tǒng)，在狹窄、有限的環(huán)境中贏得人類；但這并非意味著我們能夠?qū)⑺c其他類型的思維相結(jié)合起來，部署到更復(fù)雜的環(huán)境中，并使其仍然與人類能力相匹配。

當(dāng)然，我們?nèi)祟愓谔魬?zhàn)極限。我們希望在不久的將來看到自動駕駛汽車在比圍棋游戲更復(fù)雜的環(huán)境中運(yùn)行。這是一個整個巨大的工程和研究挑戰(zhàn)，需要所有行業(yè)共同應(yīng)對。由于其高價值和隨之而來的高投資，我們正在相對復(fù)雜的現(xiàn)實生活環(huán)境中推進(jìn)這個單一任務(wù)的自動化進(jìn)程。

我們還希望整合學(xué)習(xí)過程和學(xué)習(xí)路徑規(guī)劃，或識別和推理等功能。換句話說，構(gòu)建出能夠有意義地整合系統(tǒng) 1 和系統(tǒng) 2 思維的系統(tǒng)和模型。

然而，這可能比建造自動駕駛汽車更加困難。我們需要循序漸進(jìn)。

我現(xiàn)在該怎么辦？

目前，我們還沒有具備人類思維層面的 AI 系統(tǒng)。我們離這個目標(biāo)還相差甚遠(yuǎn)。可以說，我們只是比 AI 領(lǐng)域誕生之時更近了一步。可以斷言，路漫漫其修遠(yuǎn)兮，充滿了各種未知的坎坷險阻。

我們唯一擁有的，是在特定環(huán)境和任務(wù)中超越人類能力的機(jī)器和算法。這本身并不是新聞，但在過去幾年中，這些環(huán)境的范圍和任務(wù)的范圍都在迅速增長。我們擁有大量的機(jī)會，可以利用這些技術(shù)來改善我們的工作和休閑。

盡管前沿技術(shù)開發(fā)前路曲折，但一旦它出現(xiàn)，后續(xù)可能非常容易應(yīng)用。解決一個您認(rèn)為不可自動化的問題，或者可能難以應(yīng)付的問題，只需要短短幾周的時間。

關(guān)鍵在于確定哪些可以自動化，哪些則需要動用人類動力。還記得您的老板第一次提及“二八原則”嗎？如果將這些算法和機(jī)器用于大部分工作，并將其與人工監(jiān)督結(jié)合起來，用于更有趣的案例，就會取得更有成效的成果。讓機(jī)器學(xué)習(xí)模型完美運(yùn)行并非易事，但要找準(zhǔn)大部分則相對簡單。

機(jī)器和算法能夠以更高的速度和質(zhì)量處理高度重復(fù)的任務(wù)。它們還可以進(jìn)行人類無法做到的大規(guī)模數(shù)據(jù)處理。擁有合適技能的合適人選可毫不費(fèi)勁地完成大部分任務(wù)。

需要將創(chuàng)意與經(jīng)驗結(jié)合？存在歧義，沒有先例？輪到我們大施拳腳了。

我們關(guān)注的并非機(jī)器已經(jīng)取得優(yōu)勢的領(lǐng)域。問題在于如何將人類工作和機(jī)器能力結(jié)合起來。

更多思考 – 不是啟蒙的終結(jié)！

與許多人的擔(dān)憂相反，我相信，用人類自己的頭腦思考在未來會變得更加重要，而不是相反。另外，這個結(jié)論適用于所有類型的工作和社會各個層面 – 而非僅適用于能夠建立和利用領(lǐng)先優(yōu)勢的少數(shù)人。

理由林林總總，我們也在上方討論了許多。仔細(xì)想想吧。

制作軟件副本成本很低。計算的成本越來越低，效率越來越高。我們可以將軟件應(yīng)用到越來越多的繁瑣、無聊的海量任務(wù)中。我們正在大幅提高生產(chǎn)力，而不會增加環(huán)境負(fù)擔(dān)。

此外，我們?nèi)匀恍枰藶楸O(jiān)督，甚至需要更多人為監(jiān)督，因為我們的技術(shù)仍然無法做到很多對我們來說非常基礎(chǔ)的事情。

這并不是啟蒙的終結(jié)。相反，我們可將更多的時間專注于我們喜歡的事情，以及對我們來說真正重要的事情。