英偉達(NVDA.US)推出“護欄”軟件以防止AI模型失控

英偉達(NVDA.US)的強大芯片為人工智能(AI)的繁榮奠定了基礎。然而，隨著ChatGPT等生成式AI的出現，越來越多用戶在享受便利的同時發現，AI模型有時會出現“幻覺”，即說出錯誤的事實、涉及有害的話題或導致安全風險。為了解決這一問題，英偉達在周二發布了一款名為NeMo Guardrails的新軟件，該軟件能夠為AI模型設置安全“護欄”，避免AI輸出一些不良的內容。

英偉達（NVDA.US）公司簡介：英偉達公司致力于計算機圖形處理器,芯片組和相關多媒體軟件的設計和制造。公司通過圖形處理單元(GPU)和Tegra處理器業務部門運營。GPU部門包括產品品牌,這些產品品牌瞄準專門市場,包括游戲玩家的GeForce、面向設計師的Quadro、Tesla和DGX,用于AI數據科學家和大數據研究人員;和GRID(面向基于云的視覺計算用戶)。Tegra處理器部門將整個計算機集成到單個芯片上,并集成了GPU和多核CPU,以驅動用于自動機器人,無人機和汽車以及控制臺,移動游戲和娛樂設備的超級計算。該公司由Jen-Hsun Huang, Chris A. Malachowsky和Curtis R. Priem于1993年1月成立,總部位于加利福尼亞州圣克拉拉。