NVIDIA開源軟體可協助開發人員在AI聊天機器人上增加護欄
- 范菩盈／台北
-
最新發布的開源軟體可以協助開發人員引導生成式AI應用程式創建令人印象深刻的文字回應，並使其保持在正軌上。
NeMo Guardrails將有助於確保由大型語言模型（LLMs）所驅動的智慧應用程式能夠準確、適當、切題且安全。該軟體包括企業需要的所有代碼、範例和文檔，為企業用於產生文字的AI應用程式增加安全性。
現今很多產業都在採用大型語言模型（ LLMs），它是這些AI 應用程式背後的強大引擎。 他們回答客戶的問題，總結冗長的文件，甚至編寫軟體和加速藥物設計。
NeMo Guardrails 旨在協助使用者保護這個新類型人工智慧應用程式的安全。
強大的模型，堅固的護欄
生成式人工智慧的安全是整個產業關注的重點，NVIDIA設計了NeMo Guardrails可適用於所有大型語言模型（ LLMs）一起使用，像是 Open AI的ChatGPT。該軟體可讓開發人員校準以大型語言模型驅動的應用程式，使其安全並維持在一個公司專業領域範圍內。
NeMo Guardrails 可以讓開發人員建立三種限制：
第一，主題安全護欄可以避免應用程式偏離到不想要的領域。例如，它們可以防止客戶服務助理回答關於天氣的問題。第二，安全護欄確保應用程式回覆準確、適當的資訊。它們可以過濾不必要的語言，並強制要求只引用可信的來源。第三，保全護欄限制應用程式僅與已知為安全的外部連結建立連接。
即使不是機器學習專家或資料科學家，幾乎每個軟體開發人員都可以使用NeMo Guardrails，以幾行程式碼快速建立新規則。
駕馭熟悉的工具
由於NeMo Guardrails是開放原始碼的，因此它可以與企業應用程式開發人員使用的所有工具配合使用。例如，它可以在LangChain上運行，LangChain是一個開放原始碼工具包，開發人員正在快速採用它，將第三方應用程式與大型語言模型的強大功能整合。
「使用者可以輕鬆地將NeMo Guardrails加入LangChain工作流程，快速為他們的 AI 應用程式建立安全限制。」LangChain工具包創造者Harrison Chase說道，他也以此命名其新創公司。此外，NeMo Guardrails 是設計能夠廣泛的與以大型語言模型驅動的應用程式協作，像是Zapier。Zapier這個自動化平台已有超過220萬家企業使用，可直接展現用戶如何將人工智慧融入到他們的工作中。
Zapier AI首席產品經理Reid Robinson表示：「安全、保障和信任是負責任 AI 開發的基石，我們對NVIDIA 將這些護欄嵌入AI系統的積極方法感到興奮。我們期待未來將人工智慧作為可靠且值得信賴的一部分所帶來的好處。」
NVIDIA以開放原始碼的形式提供
NVIDIA正在將NeMo Guardrails整合至NVIDIA NeMo架構中，該架構包括使用者使用公司專有資料集進行語言模型訓練和調整所需的一切。NeMo Framework已經在GitHub上以開源形式提供。 企業也可以透過NVIDIA AI Enterprise取得完整的企業支援服務。NeMo也是以服務的方式提供，它是NVIDIA AI Foundations的一部分，它是一系列供企業使用的雲端服務，他們可以基於自己的數據集和領域知識來創建和運行定制的生成式人工智慧模型。
透過使用NeMo，南韓領先的行動網路營運商打造了一個智慧助理，該助理已與其客戶進行了800萬次對話。瑞典一個研究團隊使用 NeMo 創建了可以協助該國醫院、政府和企業辦公室自動化文本功能的大型語言模型。
與社群一同持續努力
為生成式AI建立良好的護欄是一個艱難的問題，隨著AI的演化，需要大量持續不斷的研究。NVIDIA經過多年研究發展出NeMo Guardrails，並將其開源，對開發者社群的開發能量和在AI安全方面的工作做出貢獻。我們在建立生成式AI護欄上的共同努力將能協助公司將其智慧服務符合安全、隱私和保障要求的一致要求，從而使這些創新引擎保持在正軌上。
更多NeMo Guardrails詳細資訊請參考我們的技術部落格。
