曾寫出毀滅人類計劃書，爆火的ChatGPT是一把“雙刃劍”

【文/觀察者網 呂棟】

這兩天，美國公司OpenAI推出的ChatGPT成為絕對的市場焦點。

憑借聊天、咨詢、翻譯甚至寫研報等類人的智能化表現，ChatGPT注冊用戶很快破億，大有引領新一輪AI浪潮之勢，微軟、亞馬遜、谷歌等科技巨頭紛紛重金布局相關賽道。

在ChatGPT引爆AIGC（AI生成內容）概念后，A股也開始有大量科技公司披露相關業務，試圖借機蹭一波熱點，拉抬一下股價。

四維圖新披露，該公司參股公司普強利用類似ChatGPT的模型、算法和訓練的技術，結合現有的模型算法以及車載相關的海量數據，支持了頭部車企的人機交互服務。

凡拓數創透露，該公司開發和提供的數智虛擬人、云虛擬展館等產品與AI技術緊密聯系，應用了ChatGPT、國內AI平臺等相關技術。

藍色光標表示，該公司正在積極試用ChatGPT技術，自有虛擬人蘇小妹已經介入了AI多輪對話，AI作詩能力已經進入技術測試階段，未來會結合AIGC和終端交互做更多數字化拓展。

首都在線表示，該公司自主研發的新一代算力平臺可為ChatGTP類人工智能應用提供算力、算法、云渲染等技術服務，目前已為國內多家涉及人工智能類客戶提供服務......

不可否認，以ChatGPT為代表的新型AI技術的確具有產業賦能的潛在價值。但隨著AI技術進入新的發展階段，帶來的各種安全隱患也將更甚。

曾寫出“毀滅人類計劃書”

根據國內外媒體報道，ChatGPT最初的爆火源于它在一位工程師誘導下，寫出了毀滅人類的計劃書，步驟甚至詳細到入侵各國計算機系統、控制武器、破壞通訊、交通系統等，甚至還給出了相應的Python代碼。

ChatGPT聊天對話截圖

這并不是聳人聽聞。在ChatGPT推出幾周后，全球已有多家網絡安全公司發布一系列報告，證明該機器人可能被用于編寫惡意軟件。

截至目前，美國威脅情報公司Recorded Future在暗網中已發現1500多條關于使用ChatGPT開發惡意軟件、創建概念驗證代碼的參考資料，其中大部分代碼都公開可用。

Recorded Future認為，ChatGPT對于“腳本小子、黑客行動主義者、欺詐分子/垃圾郵件發送者、支付卡欺騙者等技術水平不高的網絡犯罪分子”最有幫助，把惡意軟件、釣魚攻擊推向了規模化時代。

目前，網絡釣魚即服務 （PhaaS） 和勒索軟件即服務（RaaS）可以向攻擊者提供收費工具包，使其可以輕松實施攻擊。而現在ChatGPT則使網絡犯罪活動正經歷另一種演變：利用ChatGPT面向公眾免費開放的服務，更多危險正在萌芽，這加劇了對于未來安全風險的憂慮。

在此背景下，ChatGPT背后的OpenAI日前公開發聲警告稱，現在需要監管機構進行介入，以防止ChatGPT等生成式AI系統對社會產生潛在負面影響。

“我們沒有預料到把‘孩子’送到這個世界上會帶來這么大的反響。事實上，我們對此感到有些許不安。”OpenAI首席技術官Mira Murati在采訪中坦言，人工智能可能被濫用，也可能被目的不純之人利用。

作為OpenAI的創始人之一，埃隆·馬斯克也曾警告過先進的AI對人類構成的威脅，去年12月，他稱ChatGPT是“可怕的好東西”，并補充稱“我們離危險的強大人工智能不遠了。”

就在近日，國內數字安全公司三六零也發布了《全球人工智能安全治理報告》。

報告指出，作為一種數字技術，人工智能“雙刃劍”特征明顯，不僅自身存在數字安全威脅和隱患，隨著人工智能工程化、場景化、平臺化落地不斷加快，人工智能安全需求已經超越單純技術范疇。

據三六零透露，目前360AI安全實驗室所開發的AI框架安全監測平臺，已累計發現Tensorflow、Caffe、PyTorch等主流機器學習框架的漏洞200多個，其中提交給谷歌Tensorflow的漏洞數98個，包括24個高危、嚴重漏洞，在全球各大廠商中排名第一。

市場調研機構Research And Markets預測，2030年網絡安全中人工智能產值將突破千億美元，2020年至2030年將達到25.7%的年復合增長率。隨著ChatGPT等AI技術產品的普及，AI安全市場將進一步爆發。

百度之后，三六零版ChatGPT也要來了？

雖然犀利地指出了人工智能發展帶來的潛在安全隱患，但在ChatGPT概念持續爆火之下，擁有搜索引擎業務的三六零，也十分熱衷于推出類似ChatGPT的產品。

2月7日，三六零在投資者互動平臺透露，該公司計劃盡快推出類ChatGPT技術的demo（試用）版產品。這讓該公司成為國內繼百度之后，又一個披露將推出類ChatGPT技術的公司。

此消息一出，ChatGPT概念再次被推向高點。三六零2月7日午后直線拉升漲停，2月8日該公司再次一字封板漲停，目前市值630億元。

上證e互動截圖

三六零在投資者互動平臺上表示，AIGC中的類ChatGPT技術對搜索行業是具備顛覆性的革新能力的，也只有搜索引擎擁有足夠大的數據源對類ChatGPT技術進行訓練。這也是為什么目前ChatGPT的參與者是Google、Bing、百度這些搜索引擎的公司。

據三六零透露，目前360搜索是中國搜索引擎的Top 2，市場份額為35%。而根據第三方機構Statcounter GlobalStats的統計，2022年7月，在中國國內搜索引擎市場中，百度份額為70.48%，排名第一；搜狗搜索份額為12.25%；必應份額為10.06%；Google份額為3.00%；360搜索份額為1.94%；神馬份額為1.54%；其他搜索引擎的份額合計為0.73%。

三六零表示，該公司在數據資源端有豐富的多模態大數據積累和相關語料、尤其是中文語料，相較于國外同行落后的是預訓練大模型和有效的多模態數據清洗與融合技術，“公司有充足的資金儲備可用于購買大規模算力，在繼續深入自行研發的同時，不排除尋找強有力的合作伙伴，以開放的心態搭建多方共享平臺、補足短板，快速縮小差距”。

但需要指出的是，即便單獨討論搜索引擎這一個應用場景，想把類似ChatGPT的技術落地，依然有較大難度。不少行業人士認為，目前ChatGPT還是一個對AI技術范式的探索，它并不能代替搜索。ChatGPT當下一個很大的弊端是無法實時獲取互聯網信息。由于它只是一個端到端的生成模型，能夠自我構造虛假答案，這些都是它替代搜索的障礙。而如果以目前每一條幾美分的成本來看，它會讓商業搜索引擎公司入不敷出。

在此背景下，三六零也坦言，該公司人工智能研究院從2020年開始一直在包括類ChatGPT技術在內的AIGC技術上有持續性的投入，但截至目前僅作為內部業務自用的生產力工具使用，且投資規模及技術水平與當前的ChatGPT 3相比還有較大差距，各項技術指標只能做到略強于ChatGPT 2。由于訓練數據源及應用方向的原因，在中文環境下的實際效果強于ChatGPT 2。

與大多數技術一樣，ChatGPT本身確實是一把“雙刃劍”。雖然越來越多的研究人員認為ChatGPT可能成為黑客的盟友，但這一可生成不良內容的工具，也可以用來幫助安全人員提高效率，提高惡意信息識別、抵御網絡攻擊的能力，這主要包括釣魚檢測、漏洞發現和安全事件響應。

“需要特別提到的是，AIGC技術除了在搜索引擎的應用之外，還可以輔助數字安全能力的提升。一旦AIGC大模型在數字安全領域預訓練完成，就會如同ChatGPT 3給搜索引擎技術帶來巨大的提升一樣，給數字安全技術帶來巨大的變革。”三六零表示。

今年春節過后，三六零披露了2022年的業績預虧公告，這也是該公司自2012年上市以來首次出現虧損。

根據公告，三六零預計2022年實現營收94.9億元，同比下滑約13%；實現歸母凈利潤為24.8億元，同比由盈轉虧；預計實現扣非后歸母凈利潤20.3億元，上年盈利6.1億元。

三六零提到，2022年該公司整體毛利率水平與上年同期基本持平，但由于互聯網行業整體趨勢下滑及該公司向數字安全行業持續加大投入，導致總營收下降的同時費用略有增加，且投資損益及公允價值變動損益大幅虧損，使得該公司營業利潤與上年同期相比出現虧損。

本文系觀察者網獨家稿件，未經授權，不得轉載。