馬斯克等千名專家簽署聯名信，呼吁暫停訓練比GPT-4更強大的AI

根報道，Tesla首席執行官Elon Musk、蘋果聯合創始人Steve Wozniak、圖靈獎得主Yoshua Bengio等千名科技界專家及行業高管近日聯合簽署了一份關于《暫停巨型人工智能實驗》的公開信，呼吁暫停訓練比GPT-4更強大的人工智能系統至少6個月的時間，理由是這種系統對社會和人類構成潛在風險。公開信指出，現代AI系統正逐漸在通用任務上實現與人類競爭的水平，只有當人類確信AI系統的影響是積極的，風險是可控的時候，才應該開發強大的AI系統。此外，AI實驗室和獨立專家應該利用這個暫停期共同制定和實施一套共享的AI設計和開發安全協議，這些協議應由獨立的外部專家嚴格審核和監督，應確保遵守它們的系統在合理懷疑范圍之外是安全的。這并不意味著暫停整個AI領域的發展，而僅僅是從危險的競賽中退一步，避免研究更大、更難以預測、具有突現性能力的黑箱模型。

本文系未央網專欄作者:小未 發表，內容屬作者個人觀點，不代表網站觀點，未經許可嚴禁轉載，違者必究！