ChatGPT“狂飆”，如何“迎戰(zhàn)”？怎樣“問責”？

【文/觀察者網(wǎng) 王愷雯 編輯/馮雪】

從去年11月底面世至今，ChatGPT熱度不減。

作為AlphaGo之后又一個基于人工智能（AI）技術(shù)的現(xiàn)象級應(yīng)用，ChatGPT顛覆了公眾對聊天機器人的認知，也再次喚醒了人類對人工智能的擔憂。

在學(xué)術(shù)界和教育界，ChatGPT已經(jīng)遭到不同程度的“封殺”；不安情緒同樣彌漫在各行各業(yè)，很多人對“技術(shù)性失業(yè)”的焦慮感倍增。

在同濟大學(xué)人文學(xué)院特聘教授杜嚴勇看來，現(xiàn)在說ChatGPT之類的AI工具取代人類，還為時過早，“它在創(chuàng)造性、社會性以及個性化等方面無法與人類相媲美，這也是人工智能和人類智能的本質(zhì)區(qū)別。”

曾從事算法研發(fā)工作、目前是數(shù)字營銷領(lǐng)域創(chuàng)業(yè)者的彭璐瑤認為，技術(shù)的產(chǎn)生和進步，并不是為了和人類競爭或是取代人類工作，而是讓人類從簡單重復(fù)的工作中解脫出來，有時間去做更深入的研究、更多創(chuàng)造性的工作。

近年來人工智能快速發(fā)展，然而它也如同雙刃劍。ChatGPT之類的大型語言模型是否會被用來生產(chǎn)虛假信息和仇恨言論？其生成內(nèi)容的版權(quán)歸誰？誰又該為其內(nèi)容負責？一系列可能牽涉的倫理及法律問題，讓我們在擁抱新技術(shù)的同時，又不得不有所警惕。

作為國內(nèi)較早從事人工智能倫理研究的學(xué)者，杜嚴勇坦言，“不少科技工作者對倫理學(xué)家比較‘反感’，覺得你們老是在質(zhì)疑，老是在批判，但人工智能是個例外，大家普遍認可人工智能技術(shù)應(yīng)該受到倫理和法律約束。”

值得一提的是，2022年我國相繼發(fā)布《關(guān)于加強科技倫理治理的意見》和《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。美國《華爾街日報》日前指出，作為算法監(jiān)管先行者的中國，已經(jīng)將注意力轉(zhuǎn)向了深度合成技術(shù)。

圖源：視覺中國

為什么是ChatGPT？

編寫代碼、通過頂尖高校考試、寫出全班最高分論文，這是過去兩個多月里ChatGPT創(chuàng)造的“傳奇”。

據(jù)瑞銀數(shù)據(jù)，自11月底發(fā)布以來，短短兩個月，ChatGPT的月活躍用戶已達到1億。相比之下，TikTok達到1億用戶花了約9個月時間，Instagram則用了兩年多。“在互聯(lián)網(wǎng)領(lǐng)域發(fā)展的20年里，我們想象不到有哪個互聯(lián)網(wǎng)應(yīng)用發(fā)展得（比ChatGPT）更快。”瑞銀表示。

ChatGPT靠什么爆紅“出圈”？

“ChatGPT是由OpenAI開發(fā)的一種大型語言模型（LLM，Large Language Model），通過學(xué)習(xí)大量文本內(nèi)容和語言知識，它能夠生成人類可讀的語言……”ChatGPT在和觀察者網(wǎng)對話時這樣自我介紹。

2015年，埃隆·馬斯克（Elon Musk）和山姆·阿爾特曼（Sam Altman）聯(lián)合創(chuàng)辦了OpenAI，并得到了微軟等投資者的支持。2020年，OpenAI推出了超大規(guī)模語言訓(xùn)練模型GPT3，其參數(shù)達到1750 億，是當時全球最大的AI語言模型。

觀察者網(wǎng)專欄作者陳經(jīng)介紹，OpenAI在GPT3的基礎(chǔ)上開發(fā)出“GPT3.5”也即ChatGPT。相較于GPT3，ChatGPT的關(guān)鍵優(yōu)勢在于人工優(yōu)化——GPT3肚里有大量干貨，但不擅長理解人的對話，需要“懂行”人士的引導(dǎo)才能輸出有效內(nèi)容；OpenAI則經(jīng)過了大量人工測試，人工對不對勁的反饋進行訓(xùn)練修正，用有點意外的方式解決了問題。

上投摩根基金認為，對于資本市場來說，ChatGPT的出現(xiàn)提升了人類NLP（Natural Language Processing，自然語言處理）能力的上限，直接打開了市場對AI題材的想象力天花板，因此在國內(nèi)外都引起了市場的高度關(guān)注。

然而，也有不少專家指出，ChatGPT在技術(shù)層面并沒有革命性突破。復(fù)旦大學(xué)管理學(xué)院信息管理與商業(yè)智能系系主任、教授張誠日前接受封面新聞采訪時表示，從技術(shù)應(yīng)用上看，ChatGPT并沒有創(chuàng)新性可言，其出圈的關(guān)鍵在于選對了落腳點。

在同濟大學(xué)人文學(xué)院特聘教授杜嚴勇看來，從技術(shù)的角度來說，目前大多數(shù)人工智能產(chǎn)品并沒有實質(zhì)性的創(chuàng)新，都是對一些已有的人工智能技術(shù)的應(yīng)用。而ChatGPT可以成功出圈的關(guān)鍵因素在于，它是技術(shù)進化的一個標志性結(jié)果。

“和過去的聊天機器人相比，ChatGPT最大的區(qū)別在于智能性更高了，而且它的文字處理能力很強大。”杜嚴勇說，“ChatGPT生成的論文、詩歌，不能說非常文學(xué)化，但至少沒有明顯的語病，看上去還挺像樣。”

杜嚴勇指出，2016年AlphaGo的橫空出世，掀起了一輪人工智能投資高潮，但它只是一個下圍棋的程序，幾乎沒什么日用性，而ChatGPT不存在這種限制，它可以和所有人交流，勢必會掀起新一輪人工智能投資熱潮。

“這些年，人工智能引發(fā)了一些恐慌，我們常聽到‘人工智能威脅論’。在AlphaGo之后，ChatGPT可以讓我們更清楚地看到人工智能和人類智能的差別，以及兩者間的優(yōu)勢和劣勢，可以讓我們更清醒地認識到人工智能可以干什么，不能干什么，思考未來該怎么辦。”

2016年3月，AlphaGo對戰(zhàn)韓國職業(yè)圍棋手李世石，以4比1的總比分獲勝 圖源：視覺中國

數(shù)字營銷領(lǐng)域創(chuàng)業(yè)者彭璐瑤經(jīng)常使用人工智能協(xié)助工作，她認為，ChatGPT的不同之處在于，它是一個比較“通用”的語言內(nèi)容生產(chǎn)工具，基于大量的文本數(shù)據(jù)進行訓(xùn)練，可以適用于很多任務(wù)。

“我平時用得比較多的是Jasper AI，它和ChatGPT很相似，但更專注于商業(yè)領(lǐng)域，例如營銷文案、廣告文案之類的文本生產(chǎn)，而ChatGPT幾乎什么內(nèi)容都可以生產(chǎn)。”此外，ChatGPT是一個更強大的互動式內(nèi)容生成工具，“你和ChatGPT的對話越深入，它所提供的回答就越精準。”

彭璐瑤同樣認為，從技術(shù)上來說，ChatGPT并沒有什么突破，“它真正的突破與創(chuàng)新在于其‘通用’的定位，能與各個場景進行非常好的對接，讓各行各業(yè)的人都能將其運用到自己的領(lǐng)域中。”

在ChatGPT的引領(lǐng)下，越來越多的科技企業(yè)加入了這場人工智能競賽。微軟、谷歌、Meta等美國科技巨頭紛紛重金布局相關(guān)賽道，大幅增加對AI領(lǐng)域的投資。國內(nèi)大廠同樣在快速跟進類ChatGPT技術(shù)，百度、阿里、三六零、網(wǎng)易有道等公司相繼確認正在開發(fā)相關(guān)產(chǎn)品。

彭璐瑤認為，AIGC（AI Generated Content，指利用人工智能技術(shù)來生成內(nèi)容）還是一個新的風口，“這個市場有三個要素：資金、市場、技術(shù)。國內(nèi)不缺資金，內(nèi)容分發(fā)平臺也有很多，內(nèi)容需求很旺盛，市場還是挺大的。技術(shù)方面，我認為國內(nèi)要注重開源模型、技術(shù)共享。”

“市場關(guān)注度多，資金投入大了，國內(nèi)市場可能會一窩蜂投資很多類似的項目。在這種情況下，競爭的焦點可能變成誰的成本更低，或者誰的速度更快，從而忽略了技術(shù)創(chuàng)新。”彭璐瑤表示，“AIGC是一個有很大發(fā)展空間和想象空間的領(lǐng)域，目前這個時候，技術(shù)落地是一方面，另一個重點則是不斷推動技術(shù)創(chuàng)新。”

2022年12月12日，杭州，參觀者在首屆全球數(shù)字貿(mào)易博覽會上體驗AI作畫 圖源：視覺中國

人們在擔心什么？

盡管ChatGPT還算不上完美，但它無疑在重建我們對人工智能的認知，也再次喚醒了人類對人工智能的焦慮。

“我們沒有預(yù)料到將‘孩子’帶到這個世界會帶來這種程度的興奮。事實上，我們甚至對它感到有些不安。我很好奇，它將從哪些領(lǐng)域開始為人們帶來效用，而不僅僅是新奇和純粹的好奇心。”ChatGPT開發(fā)商OpenAI首席技術(shù)官米拉·穆拉蒂（Mira Murati）2月初接受美國《時代》雜志采訪時表示。

在學(xué)術(shù)界和教育界，ChatGPT已經(jīng)掀起了不小的風波。近期，《科學(xué)》《自然》《腫瘤學(xué)》等多家科學(xué)期刊發(fā)表聲明，不接受論文將ChatGPT列為“合著者”。《暨南學(xué)報（哲學(xué)社會科學(xué)版）》等國內(nèi)C刊也發(fā)布聲明，暫不接受任何大型語言模型工具單獨或聯(lián)合署名，如有隱瞞使用情況，將對文章直接退稿或撤稿處理。

“ChatGPT很好玩，但它不是作者。”1月26日，《科學(xué)》刊登了其總編輯霍爾頓·索普（Holden Thorp）的文章，指出對于《科學(xué)》而言，“原創(chuàng)”一詞足以表明用ChatGPT編寫的文本是不可接受的，這等同于從ChatGPT中抄襲。

在美國、澳大利亞、法國等國，ChatGPT也遭到了教育系統(tǒng)不同程度的“封殺”，或是限制其師生在公立學(xué)校的設(shè)施和網(wǎng)絡(luò)上訪問ChatGPT，或是將使用ChatGPT視為“作弊”。還有人開發(fā)出GPTZero軟件，靠分析文本的“困惑性”和“突發(fā)性”檢測其內(nèi)容是否由人工智能生成，用魔法打敗魔法。

美、法等國部分學(xué)校“封殺”ChatGPT

不安情緒同樣彌漫在各行各業(yè)，ChatGPT的出現(xiàn)再次引發(fā)人們對“技術(shù)性失業(yè)”和“生存危機”的焦慮。在大家的討論中，分析師、記者、程序員、教師、律師等都成了可能被ChatGPT取代的“高危職業(yè)”。

不過，在杜嚴勇看來，現(xiàn)在說ChatGPT之類的人工智能工具取代人類，還為時過早。

“從表面上看，ChatGPT會給你一個非常全面，甚至可以說圓滑的回答，讓你從直觀上看挑不出多少毛病。但如果想要獲得一些個性化、專業(yè)化，能強調(diào)個人觀點的答案，對ChatGPT這種回答模式的接受程度可能就不會很強了。”

杜嚴勇表示，ChatGPT的本質(zhì)還是通過優(yōu)化算法以及大量的訓(xùn)練，在海量的數(shù)據(jù)庫中快速搜索答案，再轉(zhuǎn)化成文字表達，它在創(chuàng)造性、社會性以及個性化等方面無法與人類相媲美，這也是人工智能和人類智能的本質(zhì)區(qū)別。

他以教育為例，指出現(xiàn)在很多人工智能所謂的“深度學(xué)習(xí)”，其過程是一個“黑箱”，“但教育不是這樣。教育更多是一種過程，一個重要的目的就是培養(yǎng)學(xué)生的素質(zhì)和能力，這是人工智能所不具備的。”

但杜嚴勇認為，隨著人工智能的發(fā)展，現(xiàn)有的教育理念和教育模式會產(chǎn)生變化，將進一步推動素質(zhì)教育、個性化教育的發(fā)展。

相較于“取代人類”，杜嚴勇更認可人工智能可以協(xié)助人類，“人類大腦的‘容量’畢竟是有限的，而人工智能存儲容量可以說是無限的。我們讓人工智能來彌補人類智能的不足，讓它們做我們的好助手，但最終決策還是要靠人類自己來完成。”

曾從事算法研發(fā)工作的彭璐瑤認為，技術(shù)的產(chǎn)生和進步，并不是為了和人類競爭或是取代人類工作，其初衷是輔助人類的工作，讓人類從簡單重復(fù)的工作中解脫出來，有時間去做更深入的研究、更多創(chuàng)造性的工作。

彭璐瑤表示，人類的技能隨著科技發(fā)展而進步，不斷適應(yīng)科學(xué)的發(fā)展，“當所有作家都會用ChatGPT寫故事，所有程序員都會用ChatGPT生成代碼，我想大家關(guān)心的重點應(yīng)該是如何比別人更好地完成任務(wù)，如何脫穎而出，而不是關(guān)注技術(shù)本身是否能替代自己。我認為機器和人類并沒有競爭關(guān)系，人和人才是互相競爭的對象。”

她還提及，知名經(jīng)濟學(xué)家凱恩斯曾預(yù)言，隨著社會的進步，到了21世紀人類會更加閑暇，每周只需要工作15小時。“但今天的我們反而更忙了，技術(shù)進步拉動人們的需求，產(chǎn)生更多機會，包括工作機會，人們因此可能會更加忙碌，而不是擔心自己的工作會被替代。”

外界對于ChatGPT的擔憂，并不限于是否將導(dǎo)致更多人失業(yè)或作弊行為，還有它可能帶來的更多倫理和法律問題。

ChatGPT的開發(fā)者也意識到“有很多難題要解決”，包括如何讓模型做我們希望它做的事情？如何確保它與人類的意圖相一致，并最終為人類服務(wù)？以及一系列關(guān)于社會影響的問題。

穆拉蒂此前表示，ChatGPT帶來的影響是雙向的，“技術(shù)塑造我們，我們也要塑造它”。她承認，“AI可能被濫用，也可能被壞人利用”，因此還要考慮如何在全球范圍內(nèi)管理AI的使用，以及如何以符合人類價值觀的方式管理AI的使用。

對OpenAI首席執(zhí)行官阿爾特曼來說，GPT模型也有讓他“感到害怕”的事，“我確實一直在密切關(guān)注開源圖像生成器所生成的報復(fù)性色情圖片，我認為這會造成巨大且可預(yù)見的傷害。”阿爾特曼本月初接受《福布斯》采訪時表示。

OpenAI首席執(zhí)行官阿爾特曼 圖源：視覺中國

談及公司是否有責任確保上述問題不會發(fā)生，阿爾特曼表示：“人們無論如何都會采用開源模型，這樣做的結(jié)果在大多數(shù)情況下都是好的，但也會有一些不好的事情發(fā)生。在此基礎(chǔ)上建立的公司，以及與終端用戶有最后關(guān)系的公司也將不得不承擔一些責任。因此，我認為這種情況將會采用共同責任和問責制度。”

“科技工作者總反感倫理學(xué)家挑刺，但人工智能是例外”

穆拉蒂認為，ChatGPT應(yīng)該受到監(jiān)管。“對于OpenAI和其他類似公司來說，以一種可控和負責任的方式讓公眾意識到這些問題非常重要，但我們是一小群人，我們還需要對這個系統(tǒng)投入更多，不僅僅是技術(shù)范圍的投入，還包括監(jiān)管機構(gòu)、政府和社會各界的參與。”她對《時代》雜志表示。

杜嚴勇指出，對ChatGPT等人工智能工具的監(jiān)管確實是非常重要的問題。作為國內(nèi)較早從事機器人與人工智能倫理研究的學(xué)者，他坦言，倫理學(xué)家研究科學(xué)技術(shù)可能會導(dǎo)致哪些社會影響，他們通常是帶著批判和質(zhì)疑的，“因此不少科技工作者對倫理學(xué)家比較‘反感’，覺得你們老是在質(zhì)疑，老是在批判。”

“但人工智能是個例外。”杜嚴勇表示，不管是科技工作者還是企業(yè)家，抑或社會公眾，大家普遍認可人工智能技術(shù)應(yīng)該受到倫理和法律的約束。

時代周刊：ChatGPT的創(chuàng)造者認為人工智能應(yīng)該受到監(jiān)管

“這些人工智能產(chǎn)品，包括聊天工具、機器人，應(yīng)該怎么使用？應(yīng)該在哪些場景中使用？都要有明確的管理辦法，這些單靠技術(shù)人員是無法完成的，要由政府、倫理學(xué)家共同參與，制定一個倫理框架或者有關(guān)的法律條文。”

杜嚴勇表示，新的技術(shù)不斷涌現(xiàn)，和法律相比，倫理更加“靈活”，倫理學(xué)家應(yīng)該提出倫理治理的框架體系，它的適用性和適用范圍更廣，適用時間也更長。“在這些基本原則的指導(dǎo)下，面對一些普遍的人工智能產(chǎn)品，我們就知道怎么做。”

2022年3月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)了《關(guān)于加強科技倫理治理的意見》，提出了增進人類福祉、尊重生命權(quán)利、堅持公平公正、合理控制風險、保持公開透明等五項原則。

杜嚴勇表示，這五項原則就相當于一個大的指導(dǎo)框架，“下一步我們可以對它進行細化，在某個新的人工智能產(chǎn)品出來之后，去指導(dǎo)大家應(yīng)該如何使用。”

另一方面，2022年12月，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》），自2023年1月10日起施行。

深度合成技術(shù)，即利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。

《規(guī)定》明確，任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息。深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。

《規(guī)定》還要求，深度合成服務(wù)提供者應(yīng)當落實信息安全主體責任；深度合成服務(wù)提供者提供深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認的，應(yīng)當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況。

有關(guān)部門就《規(guī)定》答記者問時強調(diào)，出臺《規(guī)定》，能夠劃定深度合成服務(wù)的“底線”和“紅線”，維護網(wǎng)絡(luò)空間良好生態(tài)。

“算法監(jiān)管的先行者——中國，將注意力轉(zhuǎn)向治理‘深度偽造’。”美國《華爾街日報》1月8日刊文，指出中國關(guān)于深度合成技術(shù)新規(guī)的實施，標志著全球首次有主要監(jiān)管機構(gòu)對限制這一“最具爆炸性和爭議性”的人工智能新技術(shù)進行全面的嘗試。

文章指出，在全球范圍內(nèi)，對濫用深度合成技術(shù)來生成“深度偽造”內(nèi)容的擔憂持續(xù)增長。斯坦福大學(xué)研究學(xué)者、“數(shù)字中國項目”負責人格雷厄姆·韋伯斯特（Graham Webster）表示，中國正在和世界一起了解這些事情可能造成的影響，并且正在更快速地推進強制性規(guī)則和執(zhí)法。

韋伯斯特表示，中國的規(guī)定將為中國以外的觀察人士提供一個研究案例，讓他們研究這種規(guī)則如何在現(xiàn)實世界中發(fā)揮作用，以及它們可能對企業(yè)產(chǎn)生何種影響。

報道還指出，美國的立法者也試圖解決“深度偽造”內(nèi)容的擴散和潛在的濫用問題，但這些努力因所謂的“言論自由”而停滯不前。

此外，據(jù)路透社報道，歐盟內(nèi)部市場專員蒂埃里·布雷頓(Thierry Breton) 表示，擬議中的歐盟人工智能規(guī)則將解決外界對ChatGPT和人工智能技術(shù)風險的擔憂。報道稱，這是首次有歐盟高官對ChatGPT發(fā)表評論。

“正如ChatGPT 所展示的那樣，人工智能解決方案可以為企業(yè)和公民提供巨大的機會，但也會帶來風險。這就是為什么我們需要一個堅實的監(jiān)管框架來確保基于高質(zhì)量數(shù)據(jù)的可信賴人工智能。”布雷頓說。

（江蘇科技大學(xué)科學(xué)技術(shù)史研究所副教授楊凱組稿）