AnthropicPBC一名研究员因担忧人工智能实验室正在"拿人类生命做赌注"而辞职。

"目前尚未有任何AI实验室宣布已实现可运行的RSI系统。不过,Anthropic和OpenAIGroupPBC已经开始使用AI来自动化模型开发任务。今年4月,Anthropic透露,Claude在极少人工干预的情况下完成了一项AI研究实验,该项目专注于降低大语言模型带来的风险。一些评论者指出,考克森的辞职可能会对Anthropic即将进行的首次公开募股产生影响。上周,Anthropic利用Claude开发出了一个重要数学证明的计算机可验证版本。Q3:Anthropic的研究人员真的认为AI可能毁灭人类吗?A:是的,Anthropic对齐科学负责人埃文·哈宾格公开表示,他个人认为AI在未来十年内导致全人类死亡的可能性超过10%,并证实这是团队内部真实存在的担忧。