南城 31 2026-02-26 03:04:22
多年来一直以相较同行更为注重人工智能安全性的Anthropic PBC,如今已放松了对其“安全护栏 ”的承诺。这是AI行业迄今最具戏剧性的政策转向之一 ,也折射出一批曾经专注于帮助人类的初创公司,正将注意力转向利润与成功 。
该公司在2023年发布的《负责任扩展政策》中曾表示,将会推迟可能引发危险的AI的研发。但Anthropic在周二发布的博客文章中 ,已经更新了规则,称如果公司认为自身相较竞争对手并不具备显著领先优势,将不再这么做。
Anthropic在文中写道 ,“政策环境已转向优先考虑AI竞争力与经济增长,而在联邦层面,以安全为导向的讨论尚未取得实质性的势头 。”
这一调整颇令外界意外 ,因为在与OpenAI、Alphabet旗下谷歌以及埃隆·马斯克的xAI争夺这一被许多人视为革命性新技术的主导权之际,Anthropic长期以来试图以安全立场将自身与同行区分开。Anthropic首席执行官Dario Amodei曾在OpenAI任职,离开该公司的部分原因正是担忧OpenAI更为重视商业化和速度,而非安全性。
两家公司如今都在推动最快于今年上市 ,以把握投资者对AI的热情 。Anthropic近期获得3,800亿美元的估值,而OpenAI则以超过8500亿美元的估值筹资。
Anthropic的一位发言人表示 ,“从一开始,我们就说过,AI的发展速度以及该领域的不确定性 ,要求我们必须快速迭代,并改进政策。”
本月早些时候,资深安全研究员Mrinank Sharma表示将离开Anthropic 。他在发布到社交平台X的一封致同事信中写道:“我持续不断地发现自己 ,对我们所处的局面进行审视。 ”
“世界正处于危险之中,”他写道,“而且不仅仅来自AI或生物武器 ,也来自此时此刻正在发生的一系列相互关联的危机。”
发表评论
暂时没有评论,来抢沙发吧~