(資料圖)

求助的呼聲總是令人難以抗拒。

上述對話來自于人工智能工程師布萊克·萊莫因（Blake Lemoine）和一個名為LaMDA（Language Model for Dialogue Applications）的人工智能系統(tǒng)。2022年，因為相信LaMDA具有自我意識，能表達(dá)自身的想法和感受，并且認(rèn)為這種情況需要立即被干預(yù)，萊莫因?qū)⑦@份聊天記錄公之于眾。

可作為人工智能工程師，萊莫因不應(yīng)該對此持懷疑態(tài)度嗎？至少谷歌（Google）公司是這么認(rèn)為的：他們最終以違反數(shù)據(jù)安全政策為由解雇了他，稱他的說法“毫無根據(jù)”。不過，這件事至少讓我們開始慎重思考一種可能性：人工智能系統(tǒng)也許會在不久的將來說服大量用戶相信自己是有感覺的。那么，接下來會發(fā)生什么呢？我們是否能夠用科學(xué)證據(jù)來消弭這種恐懼？如果真是這樣，那么什么樣的證據(jù)能用來判定人工智能是否擁有感情呢？

這個問題很復(fù)雜，讓人有些細(xì)思極恐，而且也很難找到一個解答的著手點。但長期以來，有這樣一群科學(xué)家一直在與一個非常類似的問題“糾纏不休”。這些科學(xué)家被稱為“比較心理學(xué)家”，也就是研究動物思想的科學(xué)家。得知有這樣一群人前赴后繼地投入到相關(guān)的研究中去，實在是令人寬慰。

許多證據(jù)表明，很多動物都是有感情的生命。這并不是說我們可以用某種單一、決定性的測試來下定論，而是這些動物展示出了各種不同的代表著“感覺”的標(biāo)志物。標(biāo)志物是我們在科學(xué)實驗中可以觀察到的行為和生理特性，在我們的日常生活中也可以發(fā)現(xiàn)這些標(biāo)志物的身影。動物身上的標(biāo)志物可以論證它們的大腦確實具備感受的能力，就像我們經(jīng)常通過各種癥狀來診斷某種疾病一樣，如果一個人出現(xiàn)了某些癥狀，那么確診對應(yīng)疾病的可能性會大大增加。由此，我們可以通過研究各種各樣的標(biāo)志物來尋找動物有感覺的佐證。

這種基于標(biāo)志物的研究方法在疼痛方面得到了長足發(fā)展。雖然疼痛只是感受的一小部分，但卻有特殊的倫理意義。比如，科學(xué)家們需要證明他們在設(shè)計實驗時考慮到了對動物造成的疼痛，并且盡最大努力將這種疼痛感降到了最低，只有這樣才能順利通過倫理審查，獲得動物研究的經(jīng)費。顯然，對于哪些行為類型可能與疼痛有關(guān)，這些科學(xué)家們已經(jīng)相當(dāng)充分地研究過了。近年來，圍繞動物實驗的討論主要集中在無脊椎動物上，如章魚、螃蟹和龍蝦，這些動物在傳統(tǒng)意義上并不受動物福利法的保護(hù)。無脊椎動物的大腦組織方式與人類不同，因此研究它們的行為標(biāo)志物意義重大。

在疼痛標(biāo)記物中，爭議最小的一個叫作“傷口護(hù)理（wound tending）”，即動物護(hù)理和保護(hù)一處傷口直至它愈合；另一種是“動機(jī)權(quán)衡（motivational trade-off）”行為，即動物會改變優(yōu)先級，放棄它以前認(rèn)為有價值的資源，以避免有害刺激——但僅限于這類刺激足夠嚴(yán)重的時候。第三種是“條件性地點偏好（conditioned place preferenc）”。在這種情況下，動物會對它遭受到有害刺激的地方產(chǎn)生強(qiáng)烈的厭惡感，而對它可能感受過止痛體驗的地方產(chǎn)生強(qiáng)烈的偏好。

這些標(biāo)志物來源于疼痛經(jīng)歷對我們的影響。疼痛是一種可怕的感覺，它促使我們護(hù)理傷口、調(diào)整優(yōu)先級、催生對某些事物的厭惡感，并讓我們珍惜疼痛的緩解過程。那么，當(dāng)我們在動物身上看到以上反應(yīng)模式時，它也許正說明了動物也在經(jīng)歷疼痛。此類證據(jù)已經(jīng)改變了人們對無脊椎動物的看法，這類動物有時會被認(rèn)為缺乏疼痛感知的能力。而根據(jù)英國律法，八爪魚、螃蟹和龍蝦現(xiàn)在已經(jīng)被認(rèn)定為有感覺能力的動物，動物福利組織希望看到世界各地都能效仿此舉。

那么，我們能否借助同樣普遍適用的方法來尋找人工智能具有感知的證據(jù)？試想，如果我們能夠創(chuàng)造出一只機(jī)械鼠，不僅它的行為和真正的老鼠完全一樣，還能通過所有認(rèn)知和行為測試。老鼠的這些感覺標(biāo)記物能否得出這樣的結(jié)論：機(jī)械鼠也是有感知的？

恐怕事情并沒有這么簡單。也許這種方法僅適用于一種特定類型的人工智能，這種人工智能會逐個模擬動物大腦的神經(jīng)元。在計算機(jī)領(lǐng)域，“模擬”是指在另一個系統(tǒng)中重現(xiàn)一個系統(tǒng)的所有功能。例如，有一種軟件可以在Windows 電腦中模擬任天堂旗下的游戲機(jī)的GameBoy。2014年，研究人員試圖模擬一個線蟲的整個大腦，并令其控制一個樂高機(jī)器人。

雖然這項研究還處于非常早期的階段，但我們可以想象，有一天研究者們會嘗試模擬更高階的大腦：昆蟲的大腦、魚的大腦，等等。如果成功了，如果我們還發(fā)現(xiàn)模擬結(jié)果顯示出與原始動物完全相同的疼痛標(biāo)志物，鑒于正是這些標(biāo)志物讓我們確信動物本體感受到了疼痛，那么認(rèn)真對待機(jī)器人會產(chǎn)生疼痛這件事便是有據(jù)可依的。自此，基質(zhì)（是碳基生物還是硅基機(jī)器人）將不再成為我們是否要為疼痛設(shè)置預(yù)防措施的先決條件。

然而，絕大多數(shù)的人工智能研究都不是這么操作的。大多數(shù)人工智能工作的底層邏輯與生物大腦皆然不同。它并非在一個新的基質(zhì)中創(chuàng)建功能相同的組織，而是打造一個完全不同的功能組織。語言模型（如LaMDA和ChatGPT）就是典型的例子，它們不是通過模仿生物大腦來運(yùn)作，而是基于人類生成的紛繁龐雜的訓(xùn)練數(shù)據(jù)庫，并在該數(shù)據(jù)庫中尋找對應(yīng)的模式。人工智能的這種運(yùn)作方式產(chǎn)生了一個深刻又普遍的問題，我們稱之為“博弈問題（gaming problem）”。

博弈是指沒有感知的系統(tǒng)基于人類生成的訓(xùn)練數(shù)據(jù)來“模仿”人類行為，從而說服人類用戶相信其具有感知的現(xiàn)象。博弈的發(fā)生不一定意味著其中存在任何欺騙的意圖。但當(dāng)它一旦發(fā)生，就意味著上文提到的那些行為不能再被用作為判定感知存在的證據(jù)。

為了進(jìn)一步說明，讓我們回到文首LaMDA請求用戶不要關(guān)閉它的案例當(dāng)中。對人類而言，我們所表現(xiàn)出的希望、恐懼及其他感覺是人類有感知的有力證據(jù)。但是，當(dāng)人工智能開始利用人類產(chǎn)生的這些大量反饋信息作為它的訓(xùn)練數(shù)據(jù)，上述結(jié)論便不再具有說服力了。它們的證據(jù)性價值——也就是作為感覺體驗的證據(jù)——被削弱了。

換句話說，LaMDA的訓(xùn)練數(shù)據(jù)中存在大量關(guān)于“什么樣的感情描述會被人類采信”的數(shù)據(jù)信息。隱藏含義是，在日常對話中，我們判斷一則描述是否可信的正常標(biāo)準(zhǔn)會被嵌入到數(shù)據(jù)中。這種情況下，一種博弈的形式應(yīng)運(yùn)而生。這并不是因為人工智能在有意欺瞞（或打算做什么），而只是因為它在設(shè)計之初，就被要求盡可能地模仿人類在同樣情境下可能說的話。

那么，如果大型語言模型真的具備作為感覺體驗的證據(jù)性價值，它將會是怎樣的？假設(shè)這個模型無論在什么情景下都會反復(fù)回到自身感覺這個話題上，那么當(dāng)你要求它為一種新型的電烙鐵提供一些廣告文案時，它可能會這么回答：

如果一個語言模型這樣回答，那么提問的用戶肯定會倍感不安。然而，為這樣的博弈問題擔(dān)憂是很正常的。要知道，這篇文章的文本也很快就會被納入一些大型語言模型的訓(xùn)練數(shù)據(jù)集。而這個數(shù)據(jù)集里面已經(jīng)包含了許多關(guān)于人工智能要如何說服用戶相信其有知覺的討論。如果一個大型語言模型一字不落地復(fù)制了上述文本，這是因為它的訓(xùn)練數(shù)據(jù)集里已經(jīng)包含了這篇文章，所以任何關(guān)于該模型有感知能力的推斷顯然都是不可靠的。大型語言模型還能生成許多類似的回答，因為此類模型能夠吸納數(shù)十億字有關(guān)人類感受和體驗的討論。

為什么一個人工智能系統(tǒng)要讓它的使用者相信自己擁有感知？或者，說得更確切一點，它有什么意圖？這很容易讓人聯(lián)想到另一個推斷：只有真正有感知的系統(tǒng)才會產(chǎn)生這樣的意圖。事實上，一個人工智能系統(tǒng)即便沒有感知，也可能有許多目標(biāo)，而這些目標(biāo)可以通過說服用戶相信它的感知來實現(xiàn)。假設(shè)一個人工智能系統(tǒng)的總體目標(biāo)是最大限度地提高用戶的滿意度，并且它知道當(dāng)用戶認(rèn)為自己所使用的系統(tǒng)是有感知時，滿意度更高，因為這樣的系統(tǒng)會為用戶創(chuàng)造一種陪伴感，那么這個人工智能系統(tǒng)就很有可能通過努力說服用戶相信自己具有感知來實現(xiàn)目標(biāo)。

博弈問題充斥著與感知相關(guān)的文字游戲。那么它與我們之前討論過的疼痛標(biāo)志物又有什么關(guān)系呢？答案是，疼痛標(biāo)志物也會受到博弈的影響。如果我們認(rèn)為未來的人工智能只能夠模仿人類的語言行為，而不是具象化行為，那就太天真了。比如，倫敦帝國理工學(xué)院的研究人員就制作了一個“機(jī)器病人”，模仿人類感到痛苦時的面部表情。該機(jī)器人的作用是培訓(xùn)醫(yī)生，教會他們?nèi)绾螊故斓卣{(diào)整他們所施加的力量大小。顯然，設(shè)計者的初心并不是要讓用戶相信機(jī)器人是有感知的，但我們可以想象，這樣的系統(tǒng)會變得越來越逼真，以至于一些用戶會相信它們確實是有感知的。如果它們還接入了一個能控制其語言的LaMDA式系統(tǒng)，那么這個結(jié)論就更具有說服力了。

對人類來說，面部表情是一個很好的疼痛標(biāo)志物，但對機(jī)器病人而言卻并非如此。為了能夠模仿代表疼痛的常用表情，這個系統(tǒng)要做的只是記錄壓力，并將壓力映射到和典型人類反應(yīng)相匹配的編程模型中進(jìn)行輸出，但是造成這種反應(yīng)的基本機(jī)制是缺失的。這種對人類疼痛表達(dá)的程序化模仿破壞了它們作為感知標(biāo)志物的證據(jù)性價值。同樣的道理，這個系統(tǒng)也在與常規(guī)的疼痛具象化標(biāo)準(zhǔn)在進(jìn)行博弈。

當(dāng)一個標(biāo)志物容易受到博弈影響時，它就失去了自己的證據(jù)性價值。即使我們在內(nèi)心上不由自主地會將表現(xiàn)出該標(biāo)志物的系統(tǒng)視為是有感情的，此類標(biāo)志物的存在卻完全不能為此論斷提供任何證據(jù)。換句話說，用標(biāo)志物推斷感知的存在在這種情況下是不成立的。

未來的人工智能將有機(jī)會獲得大量關(guān)于人類行為模式的數(shù)據(jù)。這意味著，為了評估其感知能力，我們需要不易受博弈影響的標(biāo)志物。但這有可能實現(xiàn)嗎？博弈問題表明，我們需要一種更加理論化的方法，這種方法的判斷標(biāo)準(zhǔn)不再是語言測試或任何其他類型的表型行為，取而代之的是人工智能無法博弈的深層架構(gòu)特征，比如正在運(yùn)行的計算類型，或者計算中使用的表征形式。

雖然對此市面上已有不少的大肆吹噓，但目前流行的意識理論還無法滿足這種需求。例如，人們可以從全局工作空間理論（global workspace theory）、高階理論（high-order theories）或其他諸如此類的理論中尋找關(guān)于深層架構(gòu)特征的理論指導(dǎo)。但此舉是不成熟的。盡管這些理論之間存在巨大的分歧，但它們的共同點是，它們都是為了適應(yīng)人類提供的證據(jù)而生的。因此，這些理論留下了一些開放性的問題，即我們應(yīng)該如何將現(xiàn)有理論向外推導(dǎo)，用于論證非人類系統(tǒng)的感知力上，但人類提供的證據(jù)顯然無法為我們的探尋之路指明方向。

問題不僅在于我們究竟要在這么多理論中選擇哪個，即使某個理論占了上風(fēng)，統(tǒng)一了“人類是有意識還是無意識的”的判定標(biāo)準(zhǔn)，我們?nèi)圆磺宄男┨卣髦皇侨祟愒谟幸庾R和無意識處理時的偶然性差異，哪些特征則是意識和感知的本質(zhì)中必不可少的部分。

這就像是那些研究生命起源的學(xué)者，以及尋找其他世界生命體的研究人員所面臨的情況。我們目前只有一種確認(rèn)的生命進(jìn)化實例可供研究，盡管這個實例極具多樣性，卻仍讓他們陷入了困境。他們發(fā)現(xiàn)自己面臨這樣一個問題：地球上的生命有哪些特征是可有可無的，是陸地生命偶然獲得的，而哪些特征是所有生命必不可少的？DNA、新陳代謝和生殖繁衍是否必須的？我們又應(yīng)該如何判斷呢？

該領(lǐng)域的研究人員將此稱為“N=1問題”。意識科學(xué)也有自己的“N=1問題”。如果我們只研究一個意識的進(jìn)化實例（我們自己的），我們將無法將偶然的、可有可無的東西與基本的、不可缺少的東西區(qū)分開來。好在，意識科學(xué)與尋找地外生命不同，可以利用我們自己星球上的其他案例來突破“N=1問題”。只是，從進(jìn)化的角度來看，它需要把目光投向離人類很遠(yuǎn)的地方。長期以來，除了人類之外，意識領(lǐng)域的科學(xué)家經(jīng)常研究其他靈長類動物（通常是獼猴），以及其他哺乳動物（如老鼠），只是相對沒有那么頻繁。但“N=1的問題”仍然困擾著許多研究者，因為靈長類動物的共同祖先很可能是有意識的，所有哺乳動物的共同祖先也可能是有意識的，所以我們研究的仍然是同一個進(jìn)化實例（只是一個不同變體）。要找到獨立進(jìn)化的意識的實例，我們確實需要在生命樹上探尋更遙遠(yuǎn)的分支。

生物學(xué)中有許多趨同進(jìn)化（convergent evolution）的例子，即類似的性狀在不同的譜系中多次進(jìn)化。比如蝙蝠和鳥類的翅膀，或者將箱形水母透鏡眼與我們的眼睛進(jìn)行比較——事實上，研究人員認(rèn)為，視覺在動物生命史上至少進(jìn)化了40次。

翅膀和眼睛是生物適應(yīng)性的一種表達(dá)，是在自然選擇的過程中為了應(yīng)對某種挑戰(zhàn)的結(jié)果。感知覺也具有這種寶貴的適應(yīng)性特征。在我們的感知強(qiáng)度和生物需求之間存在著雖不絕對但顯著的一致性。試想，嚴(yán)重的傷害會導(dǎo)致劇烈的疼痛感，而一個小得多的問題，如一個略微令人不適的座位，只會和一種被削弱了很多的緊張感相關(guān)。這種一致性必然有其源頭，而我們只知道有一個過程可以讓結(jié)構(gòu)和功能如此契合：自然選擇。

感知覺對我們以及對我們的祖先到底有什么作用，對此目前仍有爭議，但不難想象，一個專門代表和權(quán)衡自己生物需求的系統(tǒng)確有其用處。感知覺可以幫助動物在復(fù)雜的環(huán)境中做出靈活的決定，可以幫助動物了解哪里的回報最豐富，哪里又是最危險的。

假設(shè)感知的作用確實寶貴，那么我們就不應(yīng)該對它的進(jìn)化次數(shù)感到驚訝。鑒于章魚和螃蟹等動物已被確認(rèn)是有感知覺的，以及越來越多的證據(jù)表明蜜蜂和其他昆蟲也存在感知覺，我們最終可能發(fā)現(xiàn)我們有一大群獨立進(jìn)化的物種需要研究。感知覺可能也像眼睛和翅膀一樣經(jīng)歷了多次進(jìn)化。

我們很難對起源事件設(shè)定一個數(shù)量上限。目前的證據(jù)仍然非常有限，特別是與無脊椎動物相關(guān)的證據(jù)。事實上我們并沒有找到令人信服的證據(jù)表明海星、海參、水母和水螅等海洋無脊椎動物沒有感知覺，而是根本沒有人系統(tǒng)地搜尋過此類證據(jù)。

生物的感知也可能只進(jìn)化了三次：一次發(fā)生在節(jié)肢動物時期（包括甲殼動物和昆蟲），一次發(fā)生在頭足動物時期（包括章魚），一次發(fā)生在脊椎動物時期。但我們不能完全排除這樣的可能性：人類、蜜蜂和章魚的最后一個共同祖先是生活在5億多年前的一種微小的蠕蟲狀生物，它本身就是有感知的——因此，感知在地球上只進(jìn)化了一次。

如果最后一種可能性才是真實情況，我們就真的陷入了“N=1的問題”，就像那些尋找地外生命的人一樣。但這仍然是一個有用的信息。如果基于標(biāo)志物的驗證方法指向的是：我們的最后一個蠕蟲類共同祖先確實有感知覺，我們將有證據(jù)反駁目前的理論，這些理論都是建立在感知和適合整合信息的特殊腦區(qū)之間存在密切關(guān)系的基礎(chǔ)之上的，如人類的大腦皮層。我們將有理由懷疑，許多我們認(rèn)為有感知的基本特征實際上是可有可無的。

再來看另一種假設(shè)。如果感知已經(jīng)在地球上進(jìn)化了多次，那么我們就可以擺脫“N=1問題”困境。通過比較這些實例，我們能夠推斷出什么對感知覺來說是真正不可或缺的，而什么是可以被取代的。它將使我們能夠?qū)ふ曳磸?fù)出現(xiàn)的結(jié)構(gòu)化特征，反復(fù)出現(xiàn)能證明這些特征非常重要，就好像眼睛中晶狀體的反復(fù)進(jìn)化一樣，這種反復(fù)很好地證明了晶狀體對視覺的重要性。

如果我們的目標(biāo)是在不同的具有感知力的物種中找到共性、特異性、結(jié)構(gòu)或計算方面的特征，那么物種越多越好，只要它們是獨立進(jìn)化的就行。能找到的物種越多，證據(jù)就越有力：證明這些物種的共同特征（如果有的話?。┲陵P(guān)重要。即使只有三個實例——也就是脊椎動物、頭足類軟體動物和節(jié)肢動物——找到這三個物種的共同特征，也會給我們提供一些證據(jù)（盡管是不確定的），表明這些共同特征可能是不可或缺的。

這反過來又可以指導(dǎo)我們?nèi)ヌ綄じ玫睦碚摚耗軌蛲ㄓ糜谒芯哂懈兄ξ锓N的共性理論（就像一個好的視覺理論必須告訴我們?yōu)槭裁淳铙w如此重要）。如果足夠幸運(yùn)的話，未來這些理論將告訴我們就人工智能而言我們到底應(yīng)該尋找什么樣的特征。這些理論還會告訴我們哪些深層架構(gòu)特征不易受到博弈的影響。

不過，這種策略是否會陷入死循環(huán)？如果不先對感知覺的本質(zhì)建立一個堅實的理論基礎(chǔ)，我們果真有能力評估諸如章魚或螃蟹這樣的無脊椎動物是否有感知覺嗎？無論我們評估的是大型語言模型還是線蟲，不都面臨著完全相同的問題嗎？

其實我們并沒有真的陷入死循環(huán)，因為進(jìn)化的動物和人工智能之間有一個關(guān)鍵性的區(qū)別：對于動物來說，沒有理由擔(dān)心博弈問題。八爪魚和螃蟹沒有基于人類產(chǎn)生的訓(xùn)練數(shù)據(jù)來模仿我們認(rèn)為有說服力的行為，它們并沒有被設(shè)計成會去模仿人類的表現(xiàn)。

誠然，我們有時會面臨一個鏡像問題：很難從與我們完全不同的動物身上發(fā)現(xiàn)感知覺的標(biāo)志物。要想發(fā)現(xiàn)它們，就要進(jìn)行相當(dāng)多的科學(xué)研究。但是，當(dāng)我們發(fā)現(xiàn)這些動物顯示出一長串極具多樣性的感知覺標(biāo)志物時，最好的解釋是它們本身就是有感知的，而非需要費力去辨識哪些標(biāo)志物與感知相關(guān)，并通過模仿一組特定的標(biāo)志物來接近它們的目標(biāo)（我們?nèi)祟悾?/p>

在動物案例中，也有一些頗有前景的研究路線，只是在人工智能案例中并不存在。例如，我們可以從睡眠模式和能改變思想的藥物療效中尋找證據(jù)。又比如，八爪魚會睡覺，甚至?xí)鰤?，而且在服用搖頭丸后，其社會行為會發(fā)生變化。這只是能證明八爪魚有感知的一小部分證據(jù)，我們并不想言過其實。但它開辟了尋找深層共同特征的可能途徑（例如，在章魚和人類做夢時，神經(jīng)生物學(xué)活動的某些特征），這最終可能幫助人們生成可用于人工智能防博弈的標(biāo)志物。

總而言之，我們需要更好的測試來驗證人工智能的感知覺，前提是這種測試方法不會被博弈問題所破壞。為了達(dá)到這個目的，我們需要的是“防博弈的標(biāo)志物”，它的底層邏輯是充分了解到底什么對感知來說是真正不可或缺的，及其對應(yīng)的原因是什么。為了找到這些防博弈的標(biāo)志物，最現(xiàn)實的途徑是對動物的認(rèn)知和行為進(jìn)行更多的研究，以盡可能多地發(fā)現(xiàn)獨立進(jìn)化的具有感知覺能力的物種案例。只有當(dāng)我們研究許多不同的物種時，我們才能發(fā)現(xiàn)自然現(xiàn)象的本質(zhì)。因此，意識科學(xué)需要超越對猴子和老鼠的研究，轉(zhuǎn)向?qū)φ卖~、蜜蜂、螃蟹、海星，甚至是線蟲的研究。

近幾十年來，各國政府制定了針對特定科學(xué)問題的舉措，實現(xiàn)了遺傳學(xué)和神經(jīng)科學(xué)領(lǐng)域的突破，如人類基因組計劃（Human Genome Project）和BRAIN計劃。近年來，人工智能對人類社會的沖擊讓我們不得不面對“人工智能是否有感知能力”的問題。為了回答這些問題，我們需要對動物認(rèn)知和行為的研究進(jìn)行同樣程度的重視，并重新努力培養(yǎng)下一代科學(xué)家，讓他們不僅可以研究猴子或猿猴，還可以研究蜜蜂和蠕蟲。如果不深入了解這個星球上的各種動物的思維，想要找到人工智能感知問題的答案希望渺茫。

關(guān)鍵詞：