OpenAI邀请各领域专家加入“红队网络” 以提高其AI模型安全性
9月20日消息,据外媒报道,美国人工智能研究公司OpenAI宣布推出“红队网络”(RedTeamingNetwork),并邀请各领域专家加入其“红队网络”,以提高其人工智能(AI)模型的安全性。
OpenAI的这一举措旨在深化和扩大其与外部专家的合作,以确保其人工智能模型的可靠性和安全性。签约的专家将通过协助评估和减轻模型风险,在增强OpenAI人工智能系统的稳健性方面发挥关键作用。
尽管OpenAI之前通过漏洞赏金计划和研究人员访问计划与外部专家合作,但新推出的“红队网络”将这些努力正式化。
OpenAI表示,“红队网络”是一个由经验丰富且值得信赖的专家组成的社区,可以帮助公司更广泛地进行风险评估,而不是在主要模型部署之前进行一次性参与和选择过程。
据报道,“红队”在识别人工智能系统中的偏见和评估安全过滤器方面发挥着至关重要的作用,已经成为人工智能模型开发过程中的关键一步,尤其是在生成式技术得到更广泛采用的情况下。
OpenAI向不同领域的专家发出邀请,包括具有语言学、生物识别、金融和医疗保健背景的专家。该公司强调了各种专业知识对人工智能评估的重要性,包括但不限于认知科学、法律、网络安全、经济学和医疗保健等领域。(小狐狸)
-
OpenAI推出声音克隆新技术:复刻你的声音仅需15秒
据媒体报道,OpenAI公司最近推出了一项革命性的声音克隆技术——“Voice Engine”。据悉,Voice Engine通过文本输入和15秒的音频样本,便能生成与原始说话者声音极为相似、情感丰富
-
腾讯大赚、张一鸣很遗憾:“美版贴吧”Reddit上市
近日,“美版贴吧”Reddit在纽约证券交易所上市,首日收盘市值市值80亿美元,涨了近50%。Reddit成立于2005年,是一个专业度很高的用户论坛,目前拥有约4亿月活跃用户、10万个子版块,几乎覆
-
微软“掏空”这家AI独角兽:拿下技术授权、挖走多数员工
在人工智能领域中,微软已然做到了“把鸡蛋放在不同篮子里”,虽说OpenAI公司仍是微软最出名的合作伙伴,不过微软同时也在不断寻觅其他的人工智能解决方案。据知情人士周四(3月21日)透露,微软已同意向人
关注公众号:拾黑(shiheibook)了解更多
友情链接:
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
安全、绿色软件下载就上极速下载站:https://www.yaorank.com/