当前位置： 首页 > 资讯 > >正文

当前快看：GPT-4引发担忧，马斯克等千名科技人士呼吁暂停更强AI开发

来源：搜狐号-IT之家    时间：2023-03-29 15:15:17


【资料图】

IT之家 3 月 29 日消息，美国 OpenAI 公司的人工智能对话模型 ChatGPT 引发全球关注，该公司的核心投资方微软开始评估其背后的最新模型 GPT-4 对未来人类的影响。GPT-4 是一个可以生成类似于人类语言的大型多模态模型，它在各种专业和学术的标准测试中表现出了人类水平的性能，例如它可以通过模拟律师资格考试，并且得分在前 10% 之内。

然而，GPT-4 也存在一些潜在的风险，可能会对社会和人类造成不利的影响。特斯拉创始人埃隆・马斯克和一千多名人工智能专家和行业高管在一封公开信中呼吁暂停开发比 GPT-4 更强大的系统六个月，直到制定并实施一套共享的安全协议，并由独立专家进行审计。他们还提到了高级人工智能系统可能导致的经济和政治动荡，并呼吁开发者与政策制定者合作建立监管机构。

这封信由非营利性的“生命未来研究所”发布，包括马斯克、苹果公司联合创始人史蒂夫-沃兹尼亚克和 Stability AI 首席执行官埃马德-莫斯塔克在内的 1000 多人签署。

信中说：“只有当我们确信强大的人工智能系统的效果是积极的，其风险是可控的，才应该开发。”

此外，欧盟警察局欧洲刑警组织也在周一发出了对高级人工智能如 ChatGPT 的道德和法律担忧，警告说这种系统可能被滥用于网络钓鱼、虚假信息和网络犯罪等方面。自从去年发布以来，微软支持的 OpenAI 的 ChatGPT 已经促使竞争对手推出了类似的产品，并且许多公司也将其或类似的技术集成到了他们的应用和产品中。

据IT之家了解，OpenAI 此前表示，他们已经花了六个月的时间对 GPT-4 进行了迭代调整，使其在事实性、可控性和拒绝超出安全范围方面取得了最好的结果（尽管还不完美）。

X 关闭

推荐内容

这是标题

Copyright ©  2015-2022 欧洲养生网版权所有  备案号：沪ICP备2022005074号-23   联系邮箱： 58 55 97 3@qq.com