美國七大AI公司簽署安全公約：求監管

科技巨頭攜手AI初創公司齊聚白宮，商討AI使用準則

人工智能（AI）的潛力開始慢慢被人熟知，但這一技術並非沒有風險，尤其是現在還缺乏對AI的監管政策。就在上周，美國聯邦貿易委員會（FTC）就數據處理以及ChatGPT可能損害消費者聲譽的問題對OpenAI展開調查。你沒有聽錯，AI也有可能違法。

安全是美國政府現在最關心的問題，負責任的AI開發者也一直在求監管，希望政府出臺一套清晰的規則和準則以防這一技術失控。上週五，AI監管終於走出了第一步，下面這7家公司齊聚華盛頓哥倫比亞特區並簽署了一份安全公約：

微軟Microsoft（NASDAQ:MSFT）亞馬遜com（NASDAQ:AMZN）Facebook母公司Meta Platforms, Inc.（NASDAQ:META）谷歌母公司Alphabet Inc（NASDAQ:GOOG）（NASDAQ:GOOGL）OpenAIAnthropicInflection這一協議希望實現三大目標

這7家公司都有在研發自己的大語言模型，這種類型AI的終極模式是線上聊天機器人。雖然該安全公約是各方自願簽署的，但這是美國政府為了防範AI潛在風險而首次制定的清晰的準則。

該協議涉及3個核心領域：

確保產品向公眾發佈前是安全的。具體的措施包括這7家公司任命獨立的專家對產品更新進行測試和分析，這些公司還要與政府、民間團體以及學術界分享數據。這些數據涉及的是惡意人士違反安全功能的嘗試，如此整個行業可以就潛在的威脅開展合作。

建立安全第一的系統。在上述措施的基礎之上，這些公司將加大網絡安全投入以保護未發佈的模型權重。這些是訓練AI所使用的參數，比如說它們決定一台聊天機器人在收到輸入後將提供的輸出。此外，這些公司還將允許第三方發現和報告漏洞，這樣就可以確保它們無法隱藏或粉飾入侵和攻擊的程度。

贏得公眾信任。這些公司已同意AI生成內容時要告知終端用戶，比如說圖片和視頻做水印處理。此外，開發者要報告模型偏見為輸出提供語境，以及投入資金研究AI可能帶來的社會危害。最後，這些公司還同意將它們的模型用於社會公益事業，比如說醫療和對抗氣候變化。

這些準則對於OpenAI、Anthropic和Inflection這些私人公司尤其重要。相比之下，微軟、Meta、亞馬遜和Alphabet都是上市公司，本來就有報告和信息披露的義務。

這一AI安全公約對這些公司意味著什麼？

2023年AI創新速度驚人，這一定程度上得益於監管的缺乏。安全公約簽署之後，AI的開發將面臨一個新的環境。這些領先的AI公司不會停止這一技術的研發，但在發佈新產品前必須諮詢獨立的專家以確保合規，消費者可能要等待更久才能用上它們的產品。此外，因為企業、學術界以及政府對於安全的觀點可能大不相同，數據分享可能會帶來意料之外的後果。

最近FTC對OpenAI啟動的調查對於所有其他的AI公司都是一個震懾，尤其是OpenAI主要的投資者微軟。該機構對於AI可能會給消費者帶來的損害表達了清晰的擔憂，並希望瞭解目前已經採取什麼措施將危害降至最低。此外，AI公司應重金投入數據安全，這也是聯邦貿易委員會的關注焦點。