【資料圖】

近期，人工智能大模型在用戶體驗上取得了顯著提升，發(fā)展與應(yīng)用機遇不斷涌現(xiàn)。例如在文本生成領(lǐng)域，人工智能大模型有望基于互聯(lián)網(wǎng)文本生成針對某個事務(wù)相對更全面深入的分析，從而輔助人類更好地利用互聯(lián)網(wǎng)信息解決問題。在圖像生成領(lǐng)域，能夠根據(jù)文字描述生成以往并不存在的圖像以及視頻，甚至給人“一圖勝千言”的感受。

然而，潛在的發(fā)展與應(yīng)用機遇的井噴也帶來諸多隱患。生成式人工智能大模型基于包括個人信息的互聯(lián)網(wǎng)數(shù)據(jù)進(jìn)行內(nèi)容生成，目前已經(jīng)出現(xiàn)了模型及其服務(wù)侵犯用戶個人隱私的案例；人工智能內(nèi)容生成技術(shù)的濫用和惡用，使得越來越多的虛假信息被用于網(wǎng)絡(luò)詐騙和網(wǎng)絡(luò)犯罪等場景，對社會信任產(chǎn)生明顯的沖擊；此外，有些人工智能內(nèi)容生成系統(tǒng)對社會文化和價值觀沒有客觀的評價和闡述方式，對特定群體的價值觀和文化認(rèn)同也產(chǎn)生了挑戰(zhàn)；人工智能內(nèi)容生成甚至?xí)ξｋU行為的實施提供建議……支撐人工智能內(nèi)容生成訓(xùn)練的原始互聯(lián)網(wǎng)數(shù)據(jù)、用戶對人工智能內(nèi)容生成系統(tǒng)提出的問題、系統(tǒng)生成式輸出結(jié)果的三重不可預(yù)期性，使得人工智能內(nèi)容生成面臨的風(fēng)險更加不可控。

由于人工智能大模型迅速廣泛的發(fā)展與應(yīng)用，目前的潛在風(fēng)險并沒有留給人類足夠的時間準(zhǔn)備，就已迅速成為實存風(fēng)險。人類將如何理解和使用生成式人工智能大模型的輸出？潛在風(fēng)險是什么？現(xiàn)在學(xué)術(shù)界和社會還來不及討論，相關(guān)的應(yīng)用就已經(jīng)大規(guī)模進(jìn)入社會，技術(shù)創(chuàng)新和服務(wù)的倫理治理卻還沒有跟上。

我們在發(fā)展人工智能內(nèi)容生成技術(shù)的同時，需要開展對人工智能內(nèi)容生成的深度治理。每一個服務(wù)于社會的人工智能大模型與系統(tǒng)，都應(yīng)當(dāng)為其設(shè)計和實現(xiàn)道德與安全框架，以技術(shù)落地和自動化檢測與評估等形式，深度融入產(chǎn)品與服務(wù)。與發(fā)展人工智能技術(shù)應(yīng)用相比，推進(jìn)人工智能倫理安全的研究不僅同等重要，而且也必不可少。人工智能的研發(fā)與服務(wù)企業(yè)、各級政府監(jiān)管部門應(yīng)當(dāng)盡快建立人工智能倫理與安全委員會，對風(fēng)險進(jìn)行實質(zhì)有效的監(jiān)管。

近期人工智能大模型的發(fā)展，主要依靠的是工程技術(shù)的組合創(chuàng)新，同時和海量人工標(biāo)注與反饋進(jìn)行深度融合，這跟自然演化錘煉出的“智能”千差萬別。在這種情況下，一方面，應(yīng)當(dāng)給予人工智能內(nèi)容生成產(chǎn)品與服務(wù)以明確標(biāo)識，幫助人們識別合成信息。這是因為目前的人工智能還只是個看似智能的信息處理模型，既不具備真正的智能，更無法承擔(dān)道德的責(zé)任，不應(yīng)當(dāng)混淆人工智能內(nèi)容生成與人類生產(chǎn)內(nèi)容的界限。另一方面，研究結(jié)構(gòu)和機理受自然與人類啟發(fā)，特別是受腦與心智啟發(fā)的人工智能，仍應(yīng)是形成未來真正意義上的人工智能的突破途徑。自然演化過程中的優(yōu)勝劣汰避免掉了諸多潛在風(fēng)險，科學(xué)意義上擴展和延伸自然演化的人工智能探索更合乎社會與生態(tài)長遠(yuǎn)發(fā)展的期待。

從現(xiàn)實的視角來看，人工智能大模型的發(fā)展和應(yīng)用機遇仍然是顯見的。接下來，中國的前進(jìn)方向是發(fā)展信息處理能力接近世界高水平，而倫理安全方面顯著超越當(dāng)前產(chǎn)品的人工智能大模型。與發(fā)展信息處理能力同步，賦能社會服務(wù)的每一個人工智能大模型應(yīng)構(gòu)建可技術(shù)落地的倫理安全框架，并經(jīng)過倫理安全的自動化檢測與評估。在應(yīng)用層面，由于人工智能大模型目前還存在明確的倫理安全隱患，也只是看似智能的信息處理工具，推進(jìn)其在不同領(lǐng)域應(yīng)用的時候，應(yīng)當(dāng)把握“人工智能不必?zé)o所不在，應(yīng)適度使用”的原則。對那些用人工智能大模型服務(wù)替代人類勞動的嘗試，應(yīng)積極探索人與人工智能在特定工作中的協(xié)作模式，而非急于完全替代。

這也提醒我們，對通用人工智能和超級智能潛在風(fēng)險的前瞻研究應(yīng)盡早提上日程。雖然目前的人工智能大模型及其發(fā)展路徑的延伸，難以實現(xiàn)真正意義上的通用人工智能，但目前實存風(fēng)險就已經(jīng)超出人類預(yù)期，而通用人工智能和超級智能的風(fēng)險如何應(yīng)對，現(xiàn)在幾乎看不到任何可行的方案。因此人類需要對此盡早準(zhǔn)備，避免潛在風(fēng)險變成實存風(fēng)險再次上演，到時只會更加措手不及。

總體而言，我們應(yīng)本著“適度發(fā)展，深度治理”的原則，最小化技術(shù)發(fā)展的倫理安全隱患，并積極主動應(yīng)對潛在與實存挑戰(zhàn)，推進(jìn)人工智能大模型穩(wěn)健發(fā)展，賦能社會、經(jīng)濟與生態(tài)的可持續(xù)發(fā)展。同時，應(yīng)積極長遠(yuǎn)布局，源頭創(chuàng)新，在科學(xué)意義上取得人工智能發(fā)展的真正突破，并以中國的產(chǎn)業(yè)創(chuàng)新體系孵化和放大來自中國的源頭創(chuàng)新，做好充足的準(zhǔn)備迎接人工智能發(fā)展的“中國時刻”。

（曾毅，作者是中國科學(xué)院自動化研究所研究員，國家新一代人工智能治理專委會委員，聯(lián)合國教科文組織人工智能倫理特設(shè)專家組專家）

關(guān)鍵詞：