人工神經(jīng)網(wǎng)絡(luò)(ANN)是在計算機(jī)上構(gòu)建的復(fù)雜網(wǎng)絡(luò)算法,它模擬了生物神經(jīng)系統(tǒng)中神經(jīng)元之間的連接和信息傳遞,但它們之間是否具有更深層次的相似性,我們尚未可知。
比如,它們是否正在以相似的方式處理輸入信息?
“長期以來,人們一直爭論著人工神經(jīng)網(wǎng)絡(luò)是否像人類一樣學(xué)習(xí)?!?/strong>
 【資料圖】
【資料圖】
——俄勒岡大學(xué)的語言學(xué)家維謝沃德·卡帕辛斯基(Vsevolod Kapatsinski)
而最近的一項新研究證實,自然神經(jīng)網(wǎng)絡(luò)和人工神經(jīng)網(wǎng)絡(luò)在語言學(xué)習(xí)上具有相似之處。這項研究由加州大學(xué)伯克利分校的計算語言學(xué)家加什珀·貝古什(Ga?per Begu?)領(lǐng)銜,他將人類聽取簡單聲音時的腦電波與人工神經(jīng)網(wǎng)絡(luò)分析相同聲音所產(chǎn)生的信號進(jìn)行了比較后發(fā)現(xiàn),二者竟出奇的相似。他表示,“因聲音刺激所產(chǎn)生的腦電波和ANN信號,是迄今為止報道的最相似的腦電波和ANN信號。”
研究人員還測試了由通用型神經(jīng)元(適用于各種任務(wù))構(gòu)建的網(wǎng)絡(luò),發(fā)現(xiàn)即使是非常通用,且沒有為語音或任何其他聲音進(jìn)化出偏好的人工神經(jīng)網(wǎng)絡(luò),依舊呈現(xiàn)出了它與人類神經(jīng)元編碼的對應(yīng)關(guān)系。研究者表示,這些結(jié)果不僅有助于解開神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的神秘面紗,還暗示著人類大腦其實并沒有為語言產(chǎn)生特化的結(jié)構(gòu)。
研究人員為14名英語使用者和15名西班牙語使用者連續(xù)播放了一個音節(jié)“bah”,每次播放時長為8分鐘,共進(jìn)行了兩組實驗。在聲音播放過程中,研究人員記錄到每位聽者腦干(處理聲音的第一個部位)的神經(jīng)元的平均電活動。研究人員還將相同的“bah”聲音輸入到兩組不同的神經(jīng)網(wǎng)絡(luò)中,一組經(jīng)過英語聲音數(shù)據(jù)集訓(xùn)練,另一組經(jīng)過西班牙語聲音數(shù)據(jù)集訓(xùn)練。研究人員記錄了神經(jīng)網(wǎng)絡(luò)的處理活動,其重點關(guān)注神經(jīng)網(wǎng)絡(luò)中首次分析聲音的卷積層(與腦干活動相對應(yīng))。結(jié)果發(fā)現(xiàn),其中的信號與人腦電波高度匹配。
?圖注:輸入“bah”后,人工神經(jīng)網(wǎng)絡(luò)與人類大腦產(chǎn)生信號的比較
大家知道,人類腦電的采集和監(jiān)測是容易實現(xiàn)的。那么,要如何讓人工智能“聽”到聲音并收集它“大腦”的反饋信號呢?在實驗中,研究者選擇了一種被稱為生成對抗網(wǎng)絡(luò)(GAN)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)作為人工神經(jīng)網(wǎng)絡(luò)的被試,其最初于2014年用于生成圖像。GAN由兩個競爭的神經(jīng)網(wǎng)絡(luò)組成,分別是鑒別器(discriminator)和生成器(generator)。生成器創(chuàng)建一個樣本,可以是圖像或聲音。鑒別器則用于確定該樣本與訓(xùn)練樣本的接近程度并提供反饋,而生成器會再次嘗試生成樣本,直到GAN能夠輸出所需的結(jié)果。
在這項研究中,鑒別器最初是在一組英語或西班牙語聲音集合上進(jìn)行訓(xùn)練的。生成器(從未聽過這些聲音)必須找到一種產(chǎn)生這些聲音的方法。它開始時會產(chǎn)生隨機(jī)的聲音,但經(jīng)過大約40000輪與鑒別器的交互后,生成器逐漸改進(jìn),最終能夠產(chǎn)生正確的聲音。由于這種訓(xùn)練,鑒別器也變得更擅長區(qū)分真實聲音和生成的聲音。在鑒別器完全訓(xùn)練之后,研究人員再向其播放“bah”的聲音,成功測量了人工神經(jīng)元平均活動水平的波動。正如上文介紹的那樣,這些波動產(chǎn)生了與人類腦電波非常相似的信號。
這個實驗還揭示了人類和機(jī)器之間的另一個有趣的相似之處。腦電波顯示,說英語和說西班牙語的參與者聽到“bah”聲音的方式不同(西班牙語使用者更多地聽到了“pah”聲),而生成對抗網(wǎng)絡(luò)的信號也顯示出,在處理聲音時,經(jīng)過英語訓(xùn)練的網(wǎng)絡(luò)與經(jīng)過西班牙語訓(xùn)練的網(wǎng)絡(luò)略顯不同。
“而且,這些差異的方向是相同的”研究者補(bǔ)充道。說英語的人的腦干對“bah”聲的響應(yīng)比說西班牙語的人稍早一些。對相同聲音的響應(yīng)而言,經(jīng)過英語訓(xùn)練的生成對抗網(wǎng)絡(luò)也比經(jīng)過西班牙語訓(xùn)練的模型稍早一些。人類和機(jī)器在時間上的差異幾乎完全相同,大約是一秒的千分之一。由此可見,人類和人工網(wǎng)絡(luò)很可能以相似的方式進(jìn)行信息處理。
語言學(xué)家諾姆·喬姆斯基(Noam Chomsky)曾在1950年代提出,人類天生具有理解語言的獨特能力,是因為人類大腦的特定結(jié)構(gòu)。然而,此次的研究結(jié)果卻支持了與此相反的觀點——處理語言實則并不需要特殊內(nèi)在機(jī)制和獨特的人類特征。
當(dāng)然,很多人認(rèn)為一項證據(jù)還遠(yuǎn)遠(yuǎn)不夠印證這個觀點。因此,研究者正在進(jìn)一步探索人腦和神經(jīng)網(wǎng)絡(luò)之間的相似之處,例如,通過測試大腦皮層(在腦干完成其任務(wù)后進(jìn)行聽覺處理的區(qū)域)產(chǎn)生的腦電波是否與GAN深層產(chǎn)生的信號相對應(yīng)。同時,他們也希望開發(fā)一個可靠的語言學(xué)習(xí)模型,用來描述機(jī)器和人類如何學(xué)會語言,從而利用該模型進(jìn)行人類被試無法參與的實驗。
“我們可以創(chuàng)造一個不良環(huán)境(類似于被忽視的嬰兒),然后觀察模型是否會出現(xiàn)類似語言障礙的情況。當(dāng)然,我們還需要更多的工作來擴(kuò)大和增強(qiáng)我們的計算架構(gòu)使得人工神經(jīng)網(wǎng)絡(luò)達(dá)到人類的水平。而即使在目前相對早期的階段,我們?nèi)詫θ祟惡腿斯ど窠?jīng)網(wǎng)絡(luò)這兩個系統(tǒng)之間內(nèi)部運作的相似性感到驚訝?!毖芯空哒f道。
:https://www.quantamagazine.org/some-neural-networks-learn-language-like-humans-20230522/
關(guān)鍵詞:
 營業(yè)執(zhí)照公示信息  聯(lián)系我們:55 16 53 8 @qq.com 關(guān)于我們 財金網(wǎng)  版權(quán)所有  cfenews.com
營業(yè)執(zhí)照公示信息  聯(lián)系我們:55 16 53 8 @qq.com 關(guān)于我們 財金網(wǎng)  版權(quán)所有  cfenews.com