中美歐都簽了字，這份人工智能宣言有多厲害- 京釀館

全球首屆人工智能安全峰會于1日至2日在英國布萊奇利園舉行。圖/新華社

據(jù)新華社報道，全球首屆人工智能安全峰會于1日至2日在英國布萊奇利園舉行，峰會發(fā)布《布萊奇利宣言》（下稱《宣言》）?！缎浴氛J(rèn)為，對于前沿人工智能技術(shù)有意識濫用或者無意識控制方面的問題，可能會引發(fā)巨大風(fēng)險，尤其是在網(wǎng)絡(luò)安全、生物技術(shù)和加劇傳播虛假信息等方面。

這是首次通過國際共識方式承認(rèn)并正視人工智能的副作用，以及“快速發(fā)展的相關(guān)技術(shù)所帶來的最緊迫風(fēng)險”，承認(rèn)“需要采取國際行動”以設(shè)定共同的監(jiān)管方法。

布萊奇利莊園的盛大場面

倫敦以北55英里的布萊奇利莊園是人工智能的早期圣地。1941年，著名科學(xué)家圖靈和他的密碼破譯團(tuán)隊正是在這里成功破譯了號稱“不可破譯的”納粹德國恩格尼瑪密碼系統(tǒng)，為二戰(zhàn)反法西斯陣營的勝利奠定了基礎(chǔ)。選擇在這里召開全球首屆關(guān)于人工智能安全的高峰會談，具有極大的象征意義。

按照主辦者的說法，人工智能峰會的主要目標(biāo)是在就人工智能模型的道德和負(fù)責(zé)任開發(fā)原則達(dá)成一致時找到一定程度的國際協(xié)調(diào)，重點是所謂的“前沿人工智能”模型，力圖通過國際協(xié)調(diào)解決人工智能方面的兩類關(guān)鍵風(fēng)險：濫用和失控。

機(jī)器學(xué)習(xí)的快速進(jìn)步，包括 ChatGPT 等聊天機(jī)器人的出現(xiàn)，促使世界各國政府考慮監(jiān)管人工智能。

所謂“濫用”風(fēng)險，指涉及不良行為者得到新人工智能功能的幫助。例如，網(wǎng)絡(luò)犯罪分子可以利用人工智能開發(fā)一種安全研究人員無法檢測到的新型惡意軟件，或者用于幫助國家開發(fā)危險的生物武器。

所謂“失控”風(fēng)險，指原本由人類創(chuàng)造、用于幫助人類的人工智能可能失控，轉(zhuǎn)而對部分人類群體、甚至全人類不利。

此次出席峰會的代表來自歐盟和全球28個人工智能發(fā)展較快的國家。

“大人物”除東道主英國首相蘇納克外，還有聯(lián)合國秘書長古特雷斯、歐盟委員會主席馮德萊恩、意大利總理梅洛尼、美國副總統(tǒng)哈里斯、中國科技部副部長吳朝暉等。

另外，還有微軟總裁史密斯、OpenAI 首席執(zhí)行官奧爾特曼、特斯拉CEO馬斯克、谷歌DeepMind首席執(zhí)行官哈薩比斯等企業(yè)界人士到場。

峰會主辦方、英國科學(xué)、創(chuàng)新和技術(shù)大臣米歇爾·多尼蘭表示，能讓這么多AI領(lǐng)域的關(guān)鍵人物聚在一起是一項成就。中國科技部副部長吳朝暉也表示，中國將為“人工智能國際機(jī)制、擴(kuò)大參與和基于廣泛共識的治理框架做出貢獻(xiàn)，造福人民，構(gòu)建人類命運(yùn)共同體”。

美國也表達(dá)了“希望在全球范圍內(nèi)擴(kuò)大信息共享研究和合作以及政策協(xié)調(diào)”的意愿。其它與會代表從不同層面和角度論證了在人工智能方面加強(qiáng)各國協(xié)調(diào)監(jiān)管的重要性和必要性。

值得注意的是，據(jù)報道，此次峰會是英國首相蘇納克的主意，他想為英國在脫歐之后塑造自身角色，在美國、中國和歐盟各經(jīng)濟(jì)體之間充當(dāng)中間人。

而此次峰會僅是一系列類似峰會的第一站。6個月后將在韓國舉辦第二次，第三次則初步定于明年（再6個月后）在法國舉行。

英國首相蘇納克在峰會上發(fā)言。圖/新華社視頻截圖

都在“講道理” 道理各不同

盡管蘇納克試圖借主辦峰會搶占人工智能監(jiān)管國際共識的“制高點”，并稱峰會的召開“是一項具有里程碑意義的成就，世界上最強(qiáng)大的人工智能強(qiáng)國都認(rèn)識到了解人工智能風(fēng)險的緊迫性，有助于確保我們子孫的長遠(yuǎn)未來”，但更多觀察家卻表現(xiàn)得足夠冷靜。

《衛(wèi)報》指出，峰會得以召開表明各國開始共同意識到人工智能無節(jié)制發(fā)展的危險，以及實施國際協(xié)調(diào)監(jiān)管的必要性，開始認(rèn)同在這個問題上必須各國一起“講道理”。問題在于，各國政府也好，業(yè)界也好，要講的“道理”卻大相徑庭。

近日，美國總統(tǒng)拜登簽署了一項關(guān)于人工智能的行政命令，支持者聲稱其主旨正在于“解決人工智能技術(shù)所帶來的威脅”。

然而許多業(yè)內(nèi)人士和專家指出，長達(dá)63頁的行政命令“避重就輕”且“重點混亂”，既對國會掣肘的強(qiáng)大力量佯裝不見，又強(qiáng)調(diào)由政府出面建立“人工安全研究所”，通過政府補(bǔ)貼和人才政策傾斜，確保美國在人工智能領(lǐng)域“理所當(dāng)然的領(lǐng)先”。

事實上，第一個通過類似行政命令的不是美國，而是此次峰會的東道主英國。但英國版行政命令同樣充斥著“既要也要”的自相矛盾。

在列舉了一系列操作性叵測的行政約束手段同時，英國宣布為一臺名為IsambardAI 的人工智能超級計算機(jī)投資2.25億英鎊，為人工智能安全研究提供 1 億英鎊，并計劃建立人工智能安全研究所。另外投入 1 億英鎊開發(fā)用于醫(yī)療保健的人工智能，以“爭奪歐洲人工智能領(lǐng)域的制高點”。

歐盟對人工智能危險性的警惕早于其它國家，他們希望2023年底前敲定世界首部專門針對人工智能的立法《人工智能法案》，并力爭在2024年6月歐洲議會改選前通過。

這部法案以“更嚴(yán)格”著稱——而這恰和此次峰會東道主英國“不能因噎廢食”、“既要監(jiān)管也要扶持”的立場針鋒相對。盡管如此，日前德意法三國部長仍在羅馬開會，呼吁采取“有益于創(chuàng)新的方法”監(jiān)管歐洲人工智能，同時敦促加大投資以應(yīng)對美國、中國在這一領(lǐng)域的挑戰(zhàn)。

企業(yè)和研發(fā)機(jī)構(gòu)代表的意見也莫衷一是，既有強(qiáng)調(diào)“不要阻礙技術(shù)進(jìn)步”的人工智能初創(chuàng)公司，也有公然將人工智能風(fēng)險比作洪水猛獸的馬斯克等。他們的介入不可避免，卻足以讓本就莫衷一是的“對人工智能實施國際協(xié)調(diào)監(jiān)管的道理”更加各說各話。

更令人憂慮的是，美國商務(wù)部長雷蒙多在會議期間強(qiáng)調(diào)了美國在確保人工智能安全方面“令人難以置信的領(lǐng)導(dǎo)力”，而英國政要則多次強(qiáng)調(diào)“必須為人工智能發(fā)展制訂道德標(biāo)尺”。

對此，有國際媒體指出，像人工智能這樣復(fù)雜、涉及多方面技術(shù)的國際協(xié)調(diào)可能會很困難?！蹲匀弧冯s志網(wǎng)站上一位留言者的話更為犀利——“道德標(biāo)尺？誰的道德說了才算？”

資料圖：工作人員（右）在演示一款基于5G網(wǎng)絡(luò)實現(xiàn)遠(yuǎn)程控制的機(jī)器人。圖/新華社

總比不開要好

對人工智能實行國際監(jiān)管遠(yuǎn)非業(yè)界和技術(shù)界共識。就在布萊奇利峰會召開同時，許多這兩界名流云集咫尺之遙的倫敦，出席名為“AI Fringe”、主旨針鋒相對的獨(dú)立系列活動，其中頗有一些名流往返出沒于兩個場子。

監(jiān)管目的、標(biāo)準(zhǔn)的不一也讓會議的價值大打折扣，遠(yuǎn)非蘇納克竭力渲染得那樣重要。除蘇納克本人外，國家元首和政府首腦只到一人，部長級嘉賓寥寥無幾，甚至法、德等近鄰也并未派出重量級官方人士與會。

盡管莫衷一是，但大多數(shù)與會者和觀察家相信，人工智能只有納入規(guī)范化軌道，才會有更好的發(fā)展。

撰稿/陶短房（專欄作家）

編輯/遲道華

校對/王心