当前位置: 首页 > 资讯 > >正文

前沿资讯!预防“垃圾数据”,英伟达推出“护栏”功能

来源:环球网    时间:2023-05-05 11:50:02


【资料图】

5月5日消息,据外媒报道,英伟达正在将其面向提高自动驾驶汽车的安全性能所开发的“护栏技术”应用到当前大热的“语言大模型”(GPT)之中,用以解决当下语言大模型面对垃圾数据所产生的“垃圾输入,垃圾输出”的问题。

据悉,“护栏技术”可以帮助大模型控制它的输出,以及过滤它的输入内容。当用户诱导大模型生成攻击性代码,输出不道德内容的时候,护栏技术在一定程度上可以限制输出不安全的内容。同时,护栏技术还能保护大模型不受用户的攻击,帮它挡住来自外界的恶意输入。

目前,英伟达正在将护栏技术整合进他们的 AI 框架 NeMo 中,这是个方便用户创建各种 AI 模型、并在英伟达 GPU 上加速的框架。

X 关闭

推荐内容

这是标题

Copyright ©  2015-2022 欧洲养生网版权所有  备案号:沪ICP备2022005074号-23   联系邮箱: 58 55 97 3@qq.com