英偉達為其 NeMo Guardrails 軟件工具新增了 AI 防護微服務(wù),旨在提高企業(yè)代理型 AI 應(yīng)用的準確性、安全性和控制力。這些微服務(wù)包括內(nèi)容安全、話題控制和越獄檢測,有助于解決 IT 領(lǐng)導(dǎo)者在采用代理型 AI 技術(shù)時的主要顧慮,為 AI 應(yīng)用部署提供更好的治理和保障。
英偉達推出新的推理微服務(wù),旨在幫助企業(yè)開發(fā)可信、安全的 AI 代理。這些微服務(wù)包括主題控制、內(nèi)容安全和越獄保護,可優(yōu)化大型語言模型的響應(yīng),提高應(yīng)用性能。此舉將幫助企業(yè)更安全、可靠地部署生成式 AI 模型,解決 AI 代理在信任、安全等方面的關(guān)鍵問題。
Traefik,作為一款云原生環(huán)境下流行的反向代理和負載均衡器,以其動態(tài)配置、智能路由和卓越性能,為構(gòu)建高性能 AI 網(wǎng)關(guān)提供了強大的支持。
中科江南結(jié)合在財政信息化領(lǐng)域的經(jīng)驗,研發(fā)了基于微服務(wù)架構(gòu)的財政預(yù)算管理一體化系統(tǒng)。