快科技9月11日消息,据报道,27岁AI顶尖研究员雅各布考克森正式从Anthropic离职。

随后,该言论被马斯克转发,全网浏览量突破1.2亿。Anthropic对齐团队主管埃文胡宾格公开佐证了这一现状,他预估十年内AI造成人类毁灭的概率超10%,同时坦言,目前行业还没有能够解决超级智能安全对齐的可行方案。业内的危机预警,推动美国政界加快行动。参议员伯尼桑德斯等人推出法案,提议永久禁止超级智能开发,在监管机构落地前暂停高阶AI项目。桑德斯还引用考克森的发言,呼吁同僚参与AI风险闭门听证会,多名议员也相继起草相关法案,提议给AI设置紧急切断开关。