大模式是潘多拉魔盒？AI巨頭們聚會：怎樣把AI關進籠子？

大模式是潘多拉魔盒？AI巨頭們聚會：怎樣把AI關進籠子？

可能從來沒有一項技術能像 AI 大模型一樣，在短短幾個月內迅速成為科技界乃至整個社會的共識。今天，所有科技巨頭和主要政府幾乎都篤定地認為 AI 將改變世界，改變一切。

但在一個大的共識背后，還有太多問題，一方面是切實的——在工作上的替代、虛假內容的泛濫以及不平等的使用門檻等等，另一方面則是長期以來人類藝術作品里表達的「文明的威脅」。根據《連線》雜志報道，OpenAI 在一份財務文件甚至規定了當 AI 摧毀人類經濟體系時的退出機制。

今年 7 月，在 IBM 總部舉辦的一次活動上，美國參議院多數黨領袖查克·舒默（Chuck Schumer）表示，他將召開一系列人工智能會議，「讓最優秀的人坐在桌前，互相交流，回答問題，努力達成一些共識和解決方案，參議員和我們的工作人員以及其他人只是傾聽。」最終，舒默希望基于會議上的交流，「為人工智能政策立法奠定基礎」。

兩個月后，會議開始了，包括來自頂級科技公司的 22 位與會者都參加了閉門會議，他們其中有 OpenAI CEO 山姆·阿爾特曼、英偉達 CEO 黃仁勛、谷歌 CEO 桑達爾·皮查伊、Meta CEO 馬克·扎克伯格等人，也有上一代互聯網的科技領袖微軟創始人比爾·蓋茨和谷歌前 CEO 埃里克·施密特。

AI 一定要被「管」起來

沒有人會否認人工智能的巨大潛力，但關于人工智能的風險、安全措施、監管以及未來，我們還缺少很多共識，唯一可以肯定的是，人類不可能完全放任人工智能的野蠻生長。

圖/ Wikimedia Commons

在離開第一次閉門會議后，特斯拉、SpaceX、Neuralink CEO 伊隆·馬斯克就公開表示，這次聚會是「歷史性的」，他贊同成立一個新的機構來監管人工智能的想法，并重新強調了人工智能構成的巨大風險。

「人工智能出錯的后果是嚴重的，所以我們必須積極主動而不是被動反應，」馬斯克說，「問題實際上是一個文明風險的問題，這對世界各地的所有人類都有潛在的風險。」

馬斯克沒有深入闡述所謂人工智能對人類文明的具體危害，但當人工智能更多地參與到電網、供水系統以及車輛系統的管理控制之中，一旦出錯就會帶來大量的問題。計算機科學家、人工智能研究人員 Deb Raji 也提到了，人工智能的偏見性決定就影響社會的方方面面。

更何況，還有長久以來人類的對人工智能的擔憂。

但要如何減少和防止人工智能帶來的風險？微軟總裁布拉德·史密斯（Brad Smith）提出，我們需要為人工智能可能形成的巨大風險建立「緊急制動器」，尤其是在管理電網和供水系統等關鍵基礎設施的人工智能系統之中，「這樣我們才能確保許多人擔心的威脅仍然只存在在科幻小說里，不會成為新的現實。」

布拉德·史密斯，圖/ Web Summit

史密斯認為，就像每一棟建筑和家庭中都有的斷路器，如果需要的話，可以立即阻止電力系統運行，人工智能系統也需要類似的「緊急制動器」，確保人類不會受到此類系統的大規模傷害。

無獨有偶，英偉達首席科學家兼高級副總裁威廉·達利（William Dally）也指出了，人工智能作為一個計算機程序出錯的可能和造成的嚴重傷害，關鍵在于「人類的參與」，即將人類置于人工智能工作的關鍵環節中，制約人工智能的一些決策權力。

威廉·達利，圖/英偉達

「所以我認為，只要我們對如何部署人工智能保持謹慎，讓人類處于關鍵環節中，從而可以確保人工智能不會接管并關閉我們的電網或導致飛機從天而降，」達利說。

AI 開源會是潘多拉盒嗎？

去年年底，ChatGPT 在科技圈內第一次火起來的時候，就有人表達了對 AI 模型被用于詐騙等惡性行為的擔憂。開源似乎在加劇了「被濫用」的風險。

在會議上，其中一個爭論就是圍繞著可供公眾下載和修改的「開源」AI 模型展開。這些模型的開放代碼能讓企業和研究人員得以使用類似于 ChatGPT 背后的 AI 技術，無需投入巨量的資金和資源訓練。

但壞人也可能會濫用開源 AI 系統，包括 OpenAI 從 GPT3.5 開始就停止了開源行為，OpenAI 聯合創始人兼首席科學家 Ilya Sutskever 就表示，「幾年后，每個人都會清楚地看到，開源人工智能是不明智的。」

Ilya Sutskever 與黃仁勛在 GDC 上的對談，圖/英偉達

被問及原因時，他談到，「這些模型非常強，而且會變得越來越強，在某個時候，如果有人想的話，很容易用這些模型造成很大傷害。」

另外，DeepMind 聯合創始人、Inflection AI CEO Mustafa Suleyman 不久前也提到開源的風險，他指出 AI 開源的關鍵問題在于，「權力的迅速擴散」將使得單一個體就能對世界造成前所未有的傷害和影響，「在未來 20 年內，天真的開源，幾乎肯定會造成災難」。

Mustafa Suleyman，圖/DeepMind

不過 Meta 顯然并不同意這些說法，Meta CEO 扎克伯格反駁說，開源將「AI 變得民主化，有助于公平競爭，促進個人和企業創新」。但同時他也表示，開源模式也許會帶來危險，然而 Meta 正在盡可能安全地構建這項技術。

當 AI 遇見開源，這依然是一個懸而待決的問題。

寫在最后

距今 2104 年前，漢武帝去世七年后，漢廷召開了一場史無前例的策問，其中一個主要的問題是武帝時期實行的鹽鐵酒國營專賣政策的廢立修改，為此召集了「賢良、文學六十余人」以及御史大夫桑弘羊等政府官員，后世稱之為「鹽鐵會議」。不過這場鹽鐵會議，根本上討論的其實是漢王朝的經濟政策走向。

盡管主題不同，年代環境更是天差地別，但不論兩千多年前的鹽鐵會議，還是現在人工智能見解論壇，都是面對一個巨大的問題，希望通過「群賢」交流辯問，以此作為立法之基礎。

圖/谷歌

在前不久谷歌 25 周年的紀念文章中，現任谷歌 CEO 桑達爾·皮查伊（Sundar Pichai）寫到：

（谷歌）參與有關這些技術將如何塑造我們社會的重要辯論，然后共同尋找答案。人工智能是其中的關鍵部分。盡管我們對人工智能造福人類和社會的潛力感到興奮，但我們知道人工智能與任何早期技術一樣，也帶來復雜性和風險。我們對人工智能的開發和使用必須解決這些風險，并幫助負責任地開發技術。

幾天后，包括 Adobe、Cohere、IBM、英偉達、Palantir、賽富時、Scale AI 和 Stability 八家成為第二批簽署「負責任地開發人工智能（AI）技術」協議的公司。很多時候，面對單個個體或者單個公司/政府無法的解決的問題，我們必須意識到「共同努力」的價值。