歐盟專家：應對生成式AI挑戰，設置專職倫理監管機構

2023年2月6日，anch.AI創始人Anna Fell?nder在歐盟人工智能聯盟（ European AI Alliance）官網發表文章，針對生成式人工智能監管問題展開討論。

Anna Fell?nder是瑞典研究數字化對組織、社會和經濟影響的著名專家之一，此前還曾任職于瑞典政府財務部、總理辦公室、瑞典銀行、瑞典皇家理工學院，因此她在這篇文章中的見解或許在某種程度上也代表了歐盟在生成式人工智能監管方面的一些思路方向。

全文如下：

最近，人工智能解決方案ChatGPT引發市場關注熱潮，同時也以一種全新的方式向我們提出了挑戰。

伴隨著這些生成式人工智能系統創造的機會，我們也走到了一個重要的十字路口：究竟是人工智能控制人類，還是人類控制人工智能？

瑞典企業和瑞典當局需要確保人工智能應用符合倫理道德規范，但最重要的是以相關風險評估框架為支持，根據我們的價值觀指導人工智能解決方案的開發。此外，歐盟即將推出有關負責任人工智能的相關立法。因此，當務之急是由政府設立一個倫理人工智能的負責機構。

ChatGPT和其他生成式人工智能系統帶來了人們期待許久的人工智能民主化，讓更多的人可以參與進來，根據歷史數據的算法創造新的內容。與此同時，這項創新還降低了各個組織實現技術價值的門檻。新的創新商業模式也陸續出現。

與此同時，那些不受監管的人工智能解決方案，也可能會給個人和社會帶來意想不到的道德和法律違規挑戰。原因之一在于，人工智能模型學習是以歷史數據為基礎的，其中難免存在偏見數據，進而導致社會排斥和歧視問題。

例如，當我們允許在特定情景中使用個人數據時，我們可能不會意識到當這些數據與其他數據相結合時，算法可能會產生侵犯隱私的見解。這對于公司和政府來說都將產生高昂的代價，比如導致投資撤回和聲譽受損。例如在2021年，人工智能解決方案錯誤地將部分領取育兒津貼的家庭歸類為潛在詐騙犯，這一丑聞導致時任荷蘭內閣辭職。而另外一款基于OpenAI的GPT-3醫療聊天機器人在進行測試時，竟然對患者給出了自殺的建議。

與其他人工智能解決方案相比，生成式人工智能系統具有更高的道德風險暴露。一個原因在于，生成性人工智能系統的應用通常通過API進行，導致解決方案的透明度不高，并且對其發展難以控制。與此同時，道德和法律違規的發生微妙而突然，小到無法察覺，但卻有著指數級損害的風險。

例如，深度造假就是其中之一，比如用來操縱視頻或照片中的人臉和聲音。事實上，生成式人工智能模型通常以API的形式提供，這使得用戶更容易訪問和使用該技術，這可能增加濫用的風險。

基于API的生成式人工智能模型本身并沒有風險，但它們的使用方式和訓練數據可能會使它們產生風險。

歐盟《人工智能法案》（AI Act）將于2024年生效。目標是讓公民和消費者感受到信任，維護歐盟的價值基礎。

歐盟委員會在《人工智能法案》中提議，成員國必須任命或建立至少一個監督機構，負責確保“必要的程序得到遵守”。鑒于生成式人工智能系統的巨大潛力，尤其是在醫療保健領域，例如，為了正確診斷和優化疾病的治療，確立可用的風險評估框架并任命負責的權威機構至關重要。

人工智能倫理框架在所有領域創造了一個高度創新的環境。因此，當務之急是任命負責機構，并提供風險評估框架，以便瑞典企業和瑞典當局不會像對待GDPR那樣缺乏警惕性。

本文系未央網專欄作者:高旭 發表，內容屬作者個人觀點，不代表網站觀點，未經許可嚴禁轉載，違者必究！