又一封“群星云集”警示AI風(fēng)險(xiǎn)的公開信來了，這封信的內(nèi)容簡(jiǎn)短但措辭炸裂：減輕 AI 帶來的滅絕風(fēng)險(xiǎn)，應(yīng)該與管控流行病和核戰(zhàn)爭(zhēng)等其他社會(huì)級(jí)規(guī)模的風(fēng)險(xiǎn)一樣，成為一項(xiàng)全球優(yōu)先事項(xiàng)。

5月30日，這紙?jiān)闹挥?2個(gè)單詞的聲明，出現(xiàn)在美國(guó)非營(yíng)利組織“人工智能安全中心（Center for AI Safety）”的官網(wǎng)上，超過350名AI領(lǐng)域的企業(yè)界和學(xué)界名流為之簽名。

(資料圖)

與2個(gè)半月前“生命未來研究所”發(fā)出的、上千名人簽名呼吁“暫停訓(xùn)練大模型6個(gè)月”的那封公開信相比，最令人矚目的是，這次，OpenAI、谷歌DeepMind 和 Anthropic的CEO都簽了名。

值得注意的是，在簽署“22字聲明”前，OpenAI、谷歌、Anthropic三家公司的負(fù)責(zé)人都出席了5月4日白宮發(fā)起的AI風(fēng)險(xiǎn)治理會(huì)議。面對(duì)風(fēng)險(xiǎn)管理，AI三巨頭近段時(shí)間顯得比政府還著急。

最近，這三家公司CEO頻繁地與歐洲多國(guó)首腦會(huì)晤，試圖影響正在推進(jìn)中的歐盟《人工智能法案》，這項(xiàng)法案很可能影響OpenAI等公司的生成式大模型進(jìn)入歐洲市場(chǎng)，而那里是流量新神話締造者OpenAI都暫未拿下的“處女地”。

求管控AI風(fēng)險(xiǎn)的背后，是AI公司們滿滿的市場(chǎng)“求生欲”。

三巨頭留名最新AI風(fēng)險(xiǎn)聲明

“Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.”

22個(gè)單詞組成了一紙《人工智能風(fēng)險(xiǎn)聲明》，將AI帶來的風(fēng)險(xiǎn)直接以“滅絕（extinction）”措辭，嚴(yán)重程度堪比“流行?。╬andemics）”和“核戰(zhàn)爭(zhēng)（nuclear war）”，管控緊迫度被表述為“應(yīng)該成為全球優(yōu)先事項(xiàng)”。

5月30日，在非營(yíng)利組織“人工智能安全中心（Center for AI Safety）”官網(wǎng)曬出的這紙聲明下，有包括科學(xué)家、企業(yè)領(lǐng)導(dǎo)人在內(nèi)的350多人簽了自己的名字。

AI三巨頭的CEO的名字出現(xiàn)在名單中

“我們必須讓這個(gè)問題上公開化，因?yàn)樵S多人只在彼此之間默默地交談?！比斯ぶ悄馨踩行牡膱?zhí)行主任丹·亨德里克斯（Dan Hendrycks）在談到聲明的目的時(shí)表示，一句話聲明的簡(jiǎn)明扼要是特意為之，目的是讓更多的科學(xué)家建立“廣泛聯(lián)盟”，因?yàn)橐恍┛茖W(xué)家可能還沒有就AI有哪些風(fēng)險(xiǎn)以及預(yù)防風(fēng)險(xiǎn)的最佳解決方案達(dá)成一致。

350個(gè)簽名中，打頭的兩位是圖靈獎(jiǎng)得主杰弗里·辛頓 (Geoffrey Hinton)和約書亞·本希奧（Youshua Bengio），緊跟著出現(xiàn)了戴米斯·哈薩比斯（Demis Hassabis）、山姆·奧特曼（Sam Altman）和達(dá)里奧·阿莫迪（Dario Amodei）三位，他們分別為谷歌DeepMind、OpenAI和Anthropic三家全球知名人工智能開發(fā)公司的CEO。

一些中國(guó)知名學(xué)者也簽了名，如清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng)張亞勤、中科院自動(dòng)化研究所的曾毅教授、清華智能產(chǎn)業(yè)研究院的副教授詹仙園。

如果把“用知識(shí)服務(wù)人類”視作知識(shí)分子的社會(huì)責(zé)任，專家、學(xué)者的簽名很好理解，被譽(yù)為“AI教父”的辛頓今年4月從谷歌辭職，此后一直在公開場(chǎng)域表達(dá)對(duì)人工智能失控的擔(dān)憂；本希奧曾在今年3月非營(yíng)利組織“未來生命研究所（Future of Life Institute）”發(fā)表的那一封“暫停巨型AI實(shí)驗(yàn)”公開信上簽過字。

但在2個(gè)月前的那封信上，谷歌DeepMind、OpenAI和Anthropic這三家公司的負(fù)責(zé)人并沒有簽名，相比這次的“22字聲明”，那封信還詳細(xì)闡述了AI可能帶來的各種具體風(fēng)險(xiǎn)，甚至給出了明確的風(fēng)險(xiǎn)管理原則，至今已積累收集到31810個(gè)簽名。

上次那封信引發(fā)的AI圈內(nèi)的明顯分歧是：到底應(yīng)不應(yīng)該為了風(fēng)險(xiǎn)而暫停AI實(shí)驗(yàn)。

當(dāng)時(shí)，人工智能領(lǐng)域的學(xué)者吳恩達(dá)當(dāng)時(shí)在LinkedIn上表示，全面暫停AI訓(xùn)練6個(gè)月的想法是一個(gè)糟糕、不切實(shí)際的想法。后來，OpenAI CEO山姆·奧特曼Sam Altman更直觀地表達(dá)了暫停的無意義，“我們暫停6個(gè)月，然后呢？我們?cè)贂和?個(gè)月？”

但這次，AI企業(yè)三巨頭領(lǐng)導(dǎo)者帶頭簽了這個(gè)風(fēng)險(xiǎn)闡述模糊但措辭嚴(yán)峻的“22字聲明”從他們表態(tài)對(duì)聲明的認(rèn)同中，透露出管控AI風(fēng)險(xiǎn)的緊迫性。

短短的兩個(gè)月半內(nèi)，是什么致使AI公司們都轉(zhuǎn)變了態(tài)度？

OpenAI訪問量增速放緩

現(xiàn)在，人類即便沒有被AI滅絕，但生成式AI在作惡者的驅(qū)使下露出了“黑暗面”。

比如，AI的仿聲仿貌功能正在被用作詐騙工具，AI生成圖片、文字的能力不僅被用來造假新聞，造出的“黃謠”直接傷害到普通個(gè)體的聲譽(yù)。

相比生成式AI對(duì)常識(shí)“胡說八道”、會(huì)陷入邏輯陷阱、解數(shù)學(xué)題不太行、數(shù)據(jù)隱私安全等缺陷，受害案例顯示出的AI破壞力更具體、更直觀地呈現(xiàn)在公眾眼前。對(duì)AI開發(fā)公司來說，最直接的影響是那些剛剛開放AI應(yīng)用給公眾的開發(fā)公司，還能在負(fù)面輿論中的獲得多少增量市場(chǎng)？

以訪問量規(guī)模增長(zhǎng)最快的、提供文本生成應(yīng)用ChatGPT的OpenAI為例，其網(wǎng)頁訪問量從去年秋季的每月約2000萬次增長(zhǎng)到2023年4月的18億次，刷新了互聯(lián)網(wǎng)流量增長(zhǎng)神話。但從網(wǎng)絡(luò)分析公司SimilarWeb收集的數(shù)據(jù)看，OpenAI的網(wǎng)頁訪問量增速在放緩。

OpenAI的網(wǎng)頁訪問量增速放緩

OpenAI網(wǎng)頁的流量貢獻(xiàn)主要來自于美國(guó)本土，份額能占到10.25%，其次是印度（8.82%）、日本（7.48%）、印尼（3.84%）、加拿大（3.06%），每月的增量也來自這些國(guó)家，其中從日本獲得訪問增量最多，打到28.86%。而俄羅斯、中國(guó)及歐洲各國(guó)基本沒有為之貢獻(xiàn)明面的流量，這些國(guó)家和地區(qū)的網(wǎng)民訪問OpenAI是受限的。

OpenAI自己切斷了這些市場(chǎng)，最大的原因是各國(guó)對(duì)互聯(lián)網(wǎng)的管理政策不一。相比俄羅斯和中國(guó)，歐洲似乎是更令人工智能公司們渴望的市場(chǎng)，然而，歐盟已經(jīng)明確了針對(duì)人工智能立法。

此后，OpenAI、DeepMind、Anthropic三家公司的CEO都出現(xiàn)在歐洲。

三位CEO在歐盟立法前齊現(xiàn)歐洲

4月27日，歐洲議會(huì)成員已經(jīng)就《人工智能法案（Artificial Intelligence Act）》提案達(dá)成臨時(shí)政治協(xié)議。5月11日，歐洲議會(huì)兩個(gè)委員會(huì)通過了對(duì)《人工智能法案》（以下簡(jiǎn)稱《法案》）提案的談判授權(quán)草案。這一草案將于6月12日到15日提交歐洲議會(huì)全會(huì)表決，之后歐洲議會(huì)將與歐盟理事會(huì)就法律的最終形式進(jìn)行談判。

《法案》的立法者根據(jù)風(fēng)險(xiǎn)級(jí)別對(duì)不同的人工智能工具進(jìn)行分類，從最低到有限、高和不可接受。使用這些工具的政府機(jī)構(gòu)和企業(yè)將根據(jù)風(fēng)險(xiǎn)級(jí)別承擔(dān)不同的義務(wù)?！斗ò浮愤€將嚴(yán)格禁止“對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)”，包括有目的地操縱技術(shù)、利用人性弱點(diǎn)或根據(jù)行為、社會(huì)地位和個(gè)人特征等進(jìn)行評(píng)價(jià)的系統(tǒng)等。

如果《法案》順利頒布，這將是人類歷史上首部針對(duì)人工智能的法律。由于《法案》適用于在歐盟區(qū)內(nèi)運(yùn)行的所有人工智能系統(tǒng)，領(lǐng)導(dǎo)AI技術(shù)的美國(guó)企業(yè)如若想到打入歐洲市場(chǎng)，顯然將會(huì)受到制約。

比如，《法案》要求，開發(fā)生成式AI工具的公司必須披露他們是否在系統(tǒng)中使用了受版權(quán)保護(hù)的材料。對(duì)于用各種來源的海量數(shù)據(jù)訓(xùn)練大模型的AI公司而言，這個(gè)要求將直接把他們攔在歐洲之外。

OpenAI、DeepMind、Anthropic都開始關(guān)注歐洲動(dòng)向。

5月下旬，OpenAI CEO山姆·奧特曼多次前往歐洲，分別與西班牙、波蘭、法國(guó)和英國(guó)的政府首腦進(jìn)行了會(huì)談，討論人工智能的發(fā)展?jié)摿?、威脅以及監(jiān)管等問題。DeepMind 的CEO德米斯·哈薩比斯、Anthropic的 CEO達(dá)里奧·阿莫迪也與英國(guó)首相蘇納克會(huì)過面。

英國(guó)首相蘇納克會(huì)見AI三巨頭的CEO

與歐洲各國(guó)首腦交流，AI科技公司們?cè)噲D以此影響《法案》進(jìn)程。不止如此，山姆·奧特曼還用演講、采訪等各種方式面向歐洲大眾發(fā)聲，希望“民意”與他們站在一起。

在倫敦大學(xué)學(xué)院的演講中，奧特曼堅(jiān)持著他的觀點(diǎn)：人們對(duì)AI的種種擔(dān)心有道理，但AI的潛在好處要大得多。談到AI監(jiān)管，奧特曼表示OpenAI歡迎監(jiān)管，但需要“正確的監(jiān)管方式”，因?yàn)椤斑^度監(jiān)管可能會(huì)損害小公司和開源運(yùn)動(dòng)”。

5月25日，奧特曼對(duì)英國(guó)媒體表達(dá)他對(duì)《法案》的看法，“很多措辭是不恰當(dāng)?shù)?，”他認(rèn)為，目前的歐盟 AI 法案草案將會(huì)造成過度監(jiān)管的情況，“但我們聽說它將調(diào)整，他們還在談?wù)撨@件事?！?/p>

距離《法案》的最終表決還有不到半個(gè)月時(shí)間，奧特曼的“游說之旅”還在繼續(xù)。公開消息顯示，奧特曼接下來會(huì)與歐盟產(chǎn)業(yè)主管埃里·布雷頓（Thierry Breton）會(huì)面，討論歐盟應(yīng)如何實(shí)施在人工智能方面全球領(lǐng)先的規(guī)則。

一系列的歐洲行之后，AI三巨頭的三位CEO在“22字聲明”下簽字，認(rèn)同聲明中所述的全球優(yōu)先管控AI風(fēng)險(xiǎn)之論。姿態(tài)背后是AI公司們?cè)噲D在管控下擴(kuò)大市場(chǎng)的“求生欲”。

關(guān)鍵詞：