OpenAI組建新團(tuán)隊(duì)，讓AI更“像”人

當(dāng)?shù)貢r(shí)間1月16日

OpenAI在其最新的博客文章中提到

他們正在組建一個(gè)新團(tuán)隊(duì)

名為“集體對(duì)齊”（Collective Alignment）

該團(tuán)隊(duì)主要由

研究人員和工程師組成

專注于“規(guī)范”人工智能模型的行為

解決潛在的問題

OpenAI在博客中表示

其目標(biāo)是打造一個(gè)系統(tǒng)

能夠收集和“編碼”

公眾對(duì)其模型行為的看法

之后

將這些見解融入產(chǎn)品和服務(wù)中

使人工智能模型更好地

“與人類價(jià)值觀保持一致”

過去一年

以ChatGPT為代表的

大語言模型集中爆發(fā)

生成式人工智能

讓各界看到全新的可能性

展現(xiàn)出強(qiáng)大的生成創(chuàng)造能力

有望大幅提升社會(huì)生產(chǎn)力

加速千行百業(yè)的數(shù)字化進(jìn)程

促進(jìn)人類社會(huì)全面邁向智能化新階段

技術(shù)突破不僅會(huì)創(chuàng)造發(fā)展機(jī)遇

也會(huì)帶來數(shù)字鴻溝加劇

科技倫理失范等風(fēng)險(xiǎn)

為防止AI發(fā)展失序

“價(jià)值對(duì)齊”概念

重新成為一個(gè)熱門話題

除OpenAI外

谷歌、微軟等科技公司紛紛入局

成立類似的價(jià)值對(duì)齊部門或團(tuán)隊(duì)

有研究人員認(rèn)為

價(jià)值對(duì)齊的本質(zhì)是人類對(duì)AI的信任

某種程度上

讓AI按照人類的價(jià)值觀行事

有助于緩解

人類對(duì)AI能力快速增長的焦慮情緒

生成式人工智能的

演進(jìn)速度之快

賦能范圍之廣

影響程度之深

前所未有

以負(fù)責(zé)任的態(tài)度

推動(dòng)生成式人工智能發(fā)展

不僅十分必要

也愈發(fā)緊迫

統(tǒng)籌人工智能發(fā)展和治理

已逐漸成為全球共識(shí)

2023年8月

世界互聯(lián)網(wǎng)大會(huì)成立

人工智能工作組

推動(dòng)生成式人工智能

發(fā)展與治理協(xié)同共進(jìn)

增進(jìn)全人類共同福祉

在2023年世界互聯(lián)網(wǎng)大會(huì)

烏鎮(zhèn)峰會(huì)期間

人工智能工作組發(fā)布

發(fā)展負(fù)責(zé)任的生成式人工智能

研究報(bào)告及共識(shí)文件

提出了

發(fā)展負(fù)責(zé)任的生成式人工智能

十點(diǎn)共識(shí)

圍繞人工智能

發(fā)展、安全、治理三方面

倡導(dǎo)以人為本理念

始終致力于增進(jìn)人類福祉

推動(dòng)人類經(jīng)濟(jì)、社會(huì)和生態(tài)

可持續(xù)發(fā)展

展望未來

人類應(yīng)更好應(yīng)對(duì)

數(shù)字科技發(fā)展帶來的

規(guī)則沖突、社會(huì)風(fēng)險(xiǎn)和倫理挑戰(zhàn)

讓技術(shù)與人性同時(shí)閃耀

撰文：孔繁鑫編輯/排版：李飛、李汶鍵統(tǒng)籌：李政葳

參考丨光明網(wǎng)、國際在線、騰訊研究院、網(wǎng)易科技

光明網(wǎng)出品

更多信息歡迎關(guān)注光明網(wǎng)數(shù)字化頻道

來源： 世界互聯(lián)網(wǎng)大會(huì)