前OpenAI安全研究员警告:AI毁灭人类的可能性为20%
5月6日 消息,一位曾任 OpenAI 安全研究人员的人正在发出警告,提醒人们人工智能可能最终导致人类终结的严峻前景。
前OpenAI 基金会员工保罗·克里斯蒂亚诺在一个播客节目中说,“我认为人工智能取代人类的可能性大约为10-20%,又或者大多数人类已经死亡,需要非常严肃对待这个问题。”
克里斯蒂亚诺认为机器会逐渐地崛起,人类的终结不是一场突如其来的事件,而是人工智能逐渐地崛起,人类与机器已经透过诸如自动驾驶汽车、无人机等已经渗透到了生活中。而当AI超越人类智商阈值时,一切皆有可能。
克里斯蒂亚诺认为,AI消灭人类的最可能方式是日常生活中部署的所有AI联合起来,而不是突然消灭人类。
克里斯蒂亚诺的新非营利组织 Alignment Research Center 基于人工智能对齐的概念,该概念早在2018年就被广泛定义为让机器的动机与人类的动机保持一致。尽管 OpenAI 口头上说要对齐,声称它“旨在使人工智能 (AGI) 与人类价值观保持一致并遵循人类意图”,但仍需要进行更多的研究和开发,以确保安全和合乎道德地开发人工智能。确保机器的动机与人类的动机一致对于防止人工智能毁灭的可能性至关重要。
-
OpenAI推出声音克隆新技术:复刻你的声音仅需15秒
据媒体报道,OpenAI公司最近推出了一项革命性的声音克隆技术——“Voice Engine”。据悉,Voice Engine通过文本输入和15秒的音频样本,便能生成与原始说话者声音极为相似、情感丰富
-
腾讯大赚、张一鸣很遗憾:“美版贴吧”Reddit上市
近日,“美版贴吧”Reddit在纽约证券交易所上市,首日收盘市值市值80亿美元,涨了近50%。Reddit成立于2005年,是一个专业度很高的用户论坛,目前拥有约4亿月活跃用户、10万个子版块,几乎覆
-
微软“掏空”这家AI独角兽:拿下技术授权、挖走多数员工
在人工智能领域中,微软已然做到了“把鸡蛋放在不同篮子里”,虽说OpenAI公司仍是微软最出名的合作伙伴,不过微软同时也在不断寻觅其他的人工智能解决方案。据知情人士周四(3月21日)透露,微软已同意向人
关注公众号:拾黑(shiheibook)了解更多
友情链接:
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
安全、绿色软件下载就上极速下载站:https://www.yaorank.com/