美英等18國簽署AI監管指南！敦促企業打造“從設計層面就重視安全”的AI系統

來源：環球時報

【環球時報綜合報道】當地時間26日，包括美國、英國在內的18個國家簽署并公布《安全人工智能系統開發指南》（以下簡稱《指南》）。參與簽署的國家一致同意，應約束人工智能（AI）公司在開發與部署時“確保客戶及公眾的數據安全，并免遭濫用”。

作為一份關于如何保護AI免受人工智能濫用等行為侵害的詳細國際協議，《指南》由英國國家網絡安全中心同美國網絡安全和基礎設施安全局與行業專家以及來自其他21個國際機構和部委合作制定。其他共同簽署國包括加拿大、法國、德國、以色列、意大利、日本等。在這份長達20頁的非約束性文件中，主要內容包含了監控AI系統的濫用、保護數據不被篡改，以及審查軟件供貨商等等一般性建議，并稱其將敦促企業打造“從設計層面就注重安全”的人工智能（AI）系統。

資料圖 圖源 視覺中國

英國國家網絡安全中心27日在官網稱，該國際協議將“幫助任何使用人工智能系統開發人員在開發過程每個階段做出明智的網絡安全決策”。

印度《經濟時報》26日稱，美國人工智能研究企業OpenAI的內部紛爭再次引發全球對人工智能進行監管的呼吁。“短短幾天內，硅谷發生一系列扣人心弦的事件已向政府和監管機構發出警告，應對AI行業進一步采取監管措施”。路透社認為，當前，人工智能的崛起已經引發一系列擔憂，包括擔心它可能被用來加劇欺詐、導致大量失業以及其他危害等。

據報道，美國網絡安全和基礎設施安全局局長伊斯特利稱，本次《指南》簽署的重要性在于“如此多國家都支持人工智能建設需要將安全放在第一位”。但路透社也表示，《指南》討論了如何防止人工智能技術被黑客劫持的問題，并包括一些建議，例如只有在經過適當的安全測試后才發布模型。但“該協議并沒有解決如何使用AI的棘手問題，也未提到這些模型應如何收集數據”。IT行業媒體cnBeta也發表評論稱，《指南》對人工智能領域的某些爭議問題未提及，包括對圖像生成模型的使用、深度偽造、不恰當的數據收集方法，以及在訓練模型中的使用應采取哪些可能的控制措施等。而在這些問題上，多家人工智能公司曾遭到起訴。