中美歐都簽了字，這份人工智能宣言有多厲害- 京釀館

全球首屆人工智能安全峰會(huì)于1日至2日在英國(guó)布萊奇利園舉行。圖/新華社

據(jù)新華社報(bào)道，全球首屆人工智能安全峰會(huì)于1日至2日在英國(guó)布萊奇利園舉行，峰會(huì)發(fā)布《布萊奇利宣言》（下稱《宣言》）。《宣言》認(rèn)為，對(duì)于前沿人工智能技術(shù)有意識(shí)濫用或者無(wú)意識(shí)控制方面的問(wèn)題，可能會(huì)引發(fā)巨大風(fēng)險(xiǎn)，尤其是在網(wǎng)絡(luò)安全、生物技術(shù)和加劇傳播虛假信息等方面。

這是首次通過(guò)國(guó)際共識(shí)方式承認(rèn)并正視人工智能的副作用，以及“快速發(fā)展的相關(guān)技術(shù)所帶來(lái)的最緊迫風(fēng)險(xiǎn)”，承認(rèn)“需要采取國(guó)際行動(dòng)”以設(shè)定共同的監(jiān)管方法。

布萊奇利莊園的盛大場(chǎng)面

倫敦以北55英里的布萊奇利莊園是人工智能的早期圣地。1941年，著名科學(xué)家圖靈和他的密碼破譯團(tuán)隊(duì)正是在這里成功破譯了號(hào)稱“不可破譯的”納粹德國(guó)恩格尼瑪密碼系統(tǒng)，為二戰(zhàn)反法西斯陣營(yíng)的勝利奠定了基礎(chǔ)。選擇在這里召開(kāi)全球首屆關(guān)于人工智能安全的高峰會(huì)談，具有極大的象征意義。

按照主辦者的說(shuō)法，人工智能峰會(huì)的主要目標(biāo)是在就人工智能模型的道德和負(fù)責(zé)任開(kāi)發(fā)原則達(dá)成一致時(shí)找到一定程度的國(guó)際協(xié)調(diào)，重點(diǎn)是所謂的“前沿人工智能”模型，力圖通過(guò)國(guó)際協(xié)調(diào)解決人工智能方面的兩類關(guān)鍵風(fēng)險(xiǎn)：濫用和失控。

機(jī)器學(xué)習(xí)的快速進(jìn)步，包括 ChatGPT 等聊天機(jī)器人的出現(xiàn)，促使世界各國(guó)政府考慮監(jiān)管人工智能。

所謂“濫用”風(fēng)險(xiǎn)，指涉及不良行為者得到新人工智能功能的幫助。例如，網(wǎng)絡(luò)犯罪分子可以利用人工智能開(kāi)發(fā)一種安全研究人員無(wú)法檢測(cè)到的新型惡意軟件，或者用于幫助國(guó)家開(kāi)發(fā)危險(xiǎn)的生物武器。

所謂“失控”風(fēng)險(xiǎn)，指原本由人類創(chuàng)造、用于幫助人類的人工智能可能失控，轉(zhuǎn)而對(duì)部分人類群體、甚至全人類不利。

此次出席峰會(huì)的代表來(lái)自歐盟和全球28個(gè)人工智能發(fā)展較快的國(guó)家。

“大人物”除東道主英國(guó)首相蘇納克外，還有聯(lián)合國(guó)秘書(shū)長(zhǎng)古特雷斯、歐盟委員會(huì)主席馮德萊恩、意大利總理梅洛尼、美國(guó)副總統(tǒng)哈里斯、中國(guó)科技部副部長(zhǎng)吳朝暉等。

另外，還有微軟總裁史密斯、OpenAI 首席執(zhí)行官奧爾特曼、特斯拉CEO馬斯克、谷歌DeepMind首席執(zhí)行官哈薩比斯等企業(yè)界人士到場(chǎng)。

峰會(huì)主辦方、英國(guó)科學(xué)、創(chuàng)新和技術(shù)大臣米歇爾·多尼蘭表示，能讓這么多AI領(lǐng)域的關(guān)鍵人物聚在一起是一項(xiàng)成就。中國(guó)科技部副部長(zhǎng)吳朝暉也表示，中國(guó)將為“人工智能國(guó)際機(jī)制、擴(kuò)大參與和基于廣泛共識(shí)的治理框架做出貢獻(xiàn)，造福人民，構(gòu)建人類命運(yùn)共同體”。

美國(guó)也表達(dá)了“希望在全球范圍內(nèi)擴(kuò)大信息共享研究和合作以及政策協(xié)調(diào)”的意愿。其它與會(huì)代表從不同層面和角度論證了在人工智能方面加強(qiáng)各國(guó)協(xié)調(diào)監(jiān)管的重要性和必要性。

值得注意的是，據(jù)報(bào)道，此次峰會(huì)是英國(guó)首相蘇納克的主意，他想為英國(guó)在脫歐之后塑造自身角色，在美國(guó)、中國(guó)和歐盟各經(jīng)濟(jì)體之間充當(dāng)中間人。

而此次峰會(huì)僅是一系列類似峰會(huì)的第一站。6個(gè)月后將在韓國(guó)舉辦第二次，第三次則初步定于明年（再6個(gè)月后）在法國(guó)舉行。

英國(guó)首相蘇納克在峰會(huì)上發(fā)言。圖/新華社視頻截圖

都在“講道理” 道理各不同

盡管蘇納克試圖借主辦峰會(huì)搶占人工智能監(jiān)管國(guó)際共識(shí)的“制高點(diǎn)”，并稱峰會(huì)的召開(kāi)“是一項(xiàng)具有里程碑意義的成就，世界上最強(qiáng)大的人工智能強(qiáng)國(guó)都認(rèn)識(shí)到了解人工智能風(fēng)險(xiǎn)的緊迫性，有助于確保我們子孫的長(zhǎng)遠(yuǎn)未來(lái)”，但更多觀察家卻表現(xiàn)得足夠冷靜。

《衛(wèi)報(bào)》指出，峰會(huì)得以召開(kāi)表明各國(guó)開(kāi)始共同意識(shí)到人工智能無(wú)節(jié)制發(fā)展的危險(xiǎn)，以及實(shí)施國(guó)際協(xié)調(diào)監(jiān)管的必要性，開(kāi)始認(rèn)同在這個(gè)問(wèn)題上必須各國(guó)一起“講道理”。問(wèn)題在于，各國(guó)政府也好，業(yè)界也好，要講的“道理”卻大相徑庭。

近日，美國(guó)總統(tǒng)拜登簽署了一項(xiàng)關(guān)于人工智能的行政命令，支持者聲稱其主旨正在于“解決人工智能技術(shù)所帶來(lái)的威脅”。

然而許多業(yè)內(nèi)人士和專家指出，長(zhǎng)達(dá)63頁(yè)的行政命令“避重就輕”且“重點(diǎn)混亂”，既對(duì)國(guó)會(huì)掣肘的強(qiáng)大力量佯裝不見(jiàn)，又強(qiáng)調(diào)由政府出面建立“人工安全研究所”，通過(guò)政府補(bǔ)貼和人才政策傾斜，確保美國(guó)在人工智能領(lǐng)域“理所當(dāng)然的領(lǐng)先”。

事實(shí)上，第一個(gè)通過(guò)類似行政命令的不是美國(guó)，而是此次峰會(huì)的東道主英國(guó)。但英國(guó)版行政命令同樣充斥著“既要也要”的自相矛盾。

在列舉了一系列操作性叵測(cè)的行政約束手段同時(shí)，英國(guó)宣布為一臺(tái)名為IsambardAI 的人工智能超級(jí)計(jì)算機(jī)投資2.25億英鎊，為人工智能安全研究提供 1 億英鎊，并計(jì)劃建立人工智能安全研究所。另外投入 1 億英鎊開(kāi)發(fā)用于醫(yī)療保健的人工智能，以“爭(zhēng)奪歐洲人工智能領(lǐng)域的制高點(diǎn)”。

歐盟對(duì)人工智能危險(xiǎn)性的警惕早于其它國(guó)家，他們希望2023年底前敲定世界首部專門針對(duì)人工智能的立法《人工智能法案》，并力爭(zhēng)在2024年6月歐洲議會(huì)改選前通過(guò)。

這部法案以“更嚴(yán)格”著稱——而這恰和此次峰會(huì)東道主英國(guó)“不能因噎廢食”、“既要監(jiān)管也要扶持”的立場(chǎng)針?shù)h相對(duì)。盡管如此，日前德意法三國(guó)部長(zhǎng)仍在羅馬開(kāi)會(huì)，呼吁采取“有益于創(chuàng)新的方法”監(jiān)管歐洲人工智能，同時(shí)敦促加大投資以應(yīng)對(duì)美國(guó)、中國(guó)在這一領(lǐng)域的挑戰(zhàn)。

企業(yè)和研發(fā)機(jī)構(gòu)代表的意見(jiàn)也莫衷一是，既有強(qiáng)調(diào)“不要阻礙技術(shù)進(jìn)步”的人工智能初創(chuàng)公司，也有公然將人工智能風(fēng)險(xiǎn)比作洪水猛獸的馬斯克等。他們的介入不可避免，卻足以讓本就莫衷一是的“對(duì)人工智能實(shí)施國(guó)際協(xié)調(diào)監(jiān)管的道理”更加各說(shuō)各話。

更令人憂慮的是，美國(guó)商務(wù)部長(zhǎng)雷蒙多在會(huì)議期間強(qiáng)調(diào)了美國(guó)在確保人工智能安全方面“令人難以置信的領(lǐng)導(dǎo)力”，而英國(guó)政要?jiǎng)t多次強(qiáng)調(diào)“必須為人工智能發(fā)展制訂道德標(biāo)尺”。

對(duì)此，有國(guó)際媒體指出，像人工智能這樣復(fù)雜、涉及多方面技術(shù)的國(guó)際協(xié)調(diào)可能會(huì)很困難。《自然》雜志網(wǎng)站上一位留言者的話更為犀利——“道德標(biāo)尺？誰(shuí)的道德說(shuō)了才算？”

資料圖：工作人員（右）在演示一款基于5G網(wǎng)絡(luò)實(shí)現(xiàn)遠(yuǎn)程控制的機(jī)器人。圖/新華社

總比不開(kāi)要好

對(duì)人工智能實(shí)行國(guó)際監(jiān)管遠(yuǎn)非業(yè)界和技術(shù)界共識(shí)。就在布萊奇利峰會(huì)召開(kāi)同時(shí)，許多這兩界名流云集咫尺之遙的倫敦，出席名為“AI Fringe”、主旨針?shù)h相對(duì)的獨(dú)立系列活動(dòng)，其中頗有一些名流往返出沒(méi)于兩個(gè)場(chǎng)子。

監(jiān)管目的、標(biāo)準(zhǔn)的不一也讓會(huì)議的價(jià)值大打折扣，遠(yuǎn)非蘇納克竭力渲染得那樣重要。除蘇納克本人外，國(guó)家元首和政府首腦只到一人，部長(zhǎng)級(jí)嘉賓寥寥無(wú)幾，甚至法、德等近鄰也并未派出重量級(jí)官方人士與會(huì)。

盡管莫衷一是，但大多數(shù)與會(huì)者和觀察家相信，人工智能只有納入規(guī)范化軌道，才會(huì)有更好的發(fā)展。

撰稿/陶短房（專欄作家）

編輯/遲道華

校對(duì)/王心