IT之家 1 月 18 日讯息，英伟达发布推出一项名为“NIM”的 AI 护栏任职，该任职现已以英伟达 NeMo 护栏（NeMo Guardrails）套件的体式供给，可能闪开荒职员为大讲话模子（LLM）增添一系列护栏端正，旨正在治理用户通过提示词“越狱”大模子，提防 AI 天生不相符预期的实质。

　　英伟达默示，相应AI护栏任职套件基于英伟达的 Aegis 实质安笑体据集举行教练而成，该数据集包罗了 3.5 万个标注的数据样本，并已正在 Hugging Face 上公然，IT之家附地点如下（点此访谒）。

　　英伟达指出，相应AI护栏套件拥有体积幼、作用高的特色，正在大部门局势中都能流利运转，企业可能正在开荒 AI 模子时直接嵌入相应安笑套件，可能改正医疗、汽车、造功课等周围布置的AI安笑性。

　　别的，英伟达还供给了发表了一项名为 Garak 的缺陷扫描东西，用于检测模子的安笑性，提防模子或许输出幻觉实质或显露企业内部秘要音信。