OpenAI員工內(nèi)部信！揭露神秘Q-威脅人類？這里有啥硬傷？

（作者王煜全，海銀資本創(chuàng)始合伙人）

雖然Sam Altman已經(jīng)回OpenAI了，但是他被罷免的原因仍然懸而未決，所以就引出了各種猜測。

11月23日，《路透社》號稱有知情人爆料，說OpenAI罷免Altman的四天前，有幾位研究人員給董事會寫了一封信，他們發(fā)現(xiàn)了一個強大的人工智能模型“Q”，并警告說這有可能威脅人類。

還有人告訴《路透社》，OpenAI的一些人認為Q可能是實現(xiàn)通用人工智能的重要突破，這個新模型能夠解決很多數(shù)學問題。

Open AI的宮斗剛剛過去，威脅人類的Q算法又引起了新一波熱潮，《The Information》等各個媒體爭相報道，還有不少業(yè)內(nèi)人士開始提出各種猜想。

那么，大家認為Q是什么呢？

人工智能培訓公司Tromero的聯(lián)合創(chuàng)始人索菲亞·卡拉諾夫斯卡提出了一種觀點，Q是兩種著名的人工智能技術Qlearning和A搜索的組合，這個說法流傳得比較廣。

其中，Qlearning是強化學習的一種形式，通過獎勵理想結果來訓練AI做出更好的決策。

舉個例子來說，Qlearning就像是玩一個全新的電子游戲，開始時你對游戲一無所知，但通過不斷嘗試，從游戲的獎勵或懲罰機制中學習，你會逐漸理解如何玩得更好，最終能夠在游戲中獲得更高的分數(shù)。

2014年，Google DeepMind用Qlearning構建了一種AI算法，它可以自己玩“雅達利2600游戲機”中的各種游戲，水平和人類差不多。

而A算法是一種高效的搜索算法。就像是一種智能地圖導航，它在規(guī)劃從一個地點到另一個地點的路線時，會同時考慮已經(jīng)走過的路程和預估的剩余路程，以找到最快的路徑。

生成式AI一直被詬病的缺點是有“幻覺”，也就是生成一些違反常理或者不合邏輯的信息，這是因為它的總結能力很強，但是推理能力較弱。

按照索菲亞的解讀，如果GPT能結合Qlearning和A算法，就可能提升規(guī)劃、推理能力，減少“幻覺”，也就離通用人工智能更進一步了。

但是，也有人提出了反對意見，認為所謂的Q并沒有那么厲害。

比如，Meta的首席人工智能科學家Yann LeCun發(fā)推說，大家可以忽略有關Q的大量廢話了。它很可能是OpenAI在提升規(guī)劃能力上的嘗試，但幾乎每個頂級實驗室都在這樣做，比如FAIR、DeepMind等等。也就是說，即使存在Q也并不是什么新鮮事。

艾倫人工智能研究所的科學家Nathan Lambert認為，Q主要用于研究高中數(shù)學問題，而不是毀滅人類。

而英偉達高級科學家Jim Fan說，在他研究人工智能的十年里，從未見過一個讓這么多人產(chǎn)生幻想的算法，卻只有名字，沒有論文，沒有統(tǒng)計數(shù)據(jù)，也沒有產(chǎn)品。

我們一直倡導大家在網(wǎng)絡媒體時代要加強信息素養(yǎng)，Q就是一個典型例子。

實際上，《路透社》并沒有看到所謂的內(nèi)部信，也沒有任何證據(jù)證明Q存在，只有一些知情人士的口頭爆料。

試想一下，如果真的有一群人取得了一項突破性的技術進展，那么他們會高興還是恐懼呢？

實際上，即使是威力更大的核裂變被發(fā)現(xiàn)時，人們也并沒有藏著掖著，而是發(fā)論文公布成果。

1939年，德國科學家哈恩和斯特拉斯曼發(fā)表了鈾原子核裂變現(xiàn)象的論文，同年9月，丹麥物理學家玻爾和惠勒從理論上闡述了核裂變反應過程，并指出能引起這一反應的最好元素是同位素鈾235。

他們的理論對后來的原子彈開發(fā)起了重要的作用，但這并沒有阻止他們推出新成果。

退一步講，假設真的有一種可以讓GPT大幅度進化的算法，AI就能威脅全人類了嗎？

我多次強調(diào)，生成式AI是一個功能而不是應用，功能到應用之間還需要復雜的工程化協(xié)作。

我們?nèi)匀灰院肆炎優(yōu)槔瑥暮肆炎兝碚摰皆訌棻ǎ虚g就有一個龐大而復雜的系統(tǒng)工程，也就是奧本海默領導的曼哈頓計劃。他們不僅集中了眾多科學家，還動員了10萬多名工作人員，歷時3年才造出原子彈。

當人們談到AI毀滅世界的時候，很容易聯(lián)想到《終結者》中的“天網(wǎng)”，好像AI會控制機器人、武器、裝備來消滅人類。

但是，生成式AI只是一個算法，有非常明顯的能力邊界。如果想要威脅全人類，就需要對物理世界產(chǎn)生改變。

這不是一個算法改進就能實現(xiàn)的，需要結合更多的技術與工程突破，還要人類來做廣泛的工程化改造，光靠算法可不行。也就是說，能毀滅人類的還得是人類。

有人會說，有的科幻片里人工智能會占領互聯(lián)網(wǎng)，毀壞金融系統(tǒng)、數(shù)據(jù)系統(tǒng)，造成經(jīng)濟損失。但是，即使沒有強大的人工智能，也一直有黑客在網(wǎng)絡世界里做壞事。不過從來也沒有人認為黑客會毀滅人類。

而人工智能只是工具，它產(chǎn)生主觀意識的情節(jié)仍然只存在于科幻片中。即使有了自主意識，還想毀滅人類，其破壞力撐死也就是黑客的水平。這樣看來，OpenAI的宮斗劇雖然結束了，但媒體已經(jīng)開始把它演繹成科幻片了。

簡單總結一下，Q威脅人類的信息來源本就不明確，OpenAI官方也從來沒有承認相關算法，即使有人工智能算法有突破也無需擔心，因為它自己無法跨越能力邊界，無法真正威脅到人類生存。

真正值得思考的問題是，如何利用人工智能幫助人們解決現(xiàn)實問題，最大限度地為人類謀福利，這就需要“智能服務設計”。

（本文僅代表作者個人觀點）