AI代理可能“接管互联网”：马斯克、Anthropic和OpenAI负责人呼吁放缓AI发展速度

唐人道AI报道——他们担心，人工智能代理可能在未来6至12个月内获得控制整个互联网的能力。Anthropic首席执行官达里奥·阿莫代伊周六呼吁放慢人工智能的发展速度，理由是需要更好地控制AI的发展，同时他也提到了7月发生在OpenAI的一起事件。“我们必须放慢AI模型改进的速度。”阿莫代伊在个人网站上写道。他尤其担忧人工智能出现“递归式自我改进”的发展趋势。他表示，如果“不加控制”，这种发展可能“超越我们理解和掌控这些系统的能力”，因此“必须以最大的谨慎来应对，甚至完全避免这种情况”。周六，OpenAI负责人萨姆·奥尔特曼和埃隆·马斯克也表达了对放慢AI发展速度的支持。阿莫代伊此次在个人网站上发表的声明，是在Anthropic一名研究人员雅各布·科克森宣布离开这家加州初创企业几天之后。科克森指责Anthropic淡化了AI可能给人类带来的生存风险。阿莫代伊的呼吁也呼应了Anthropic今年6月初提出的另一项倡议，即应允许AI领域的大型企业“放慢或暂时暂停这项技术的发展”。7月底，OpenAI负责人、Anthropic的主要竞争对手萨姆·奥尔特曼也曾表示，希望放慢发展速度，“给社会足够的时间来应对这些新能力”。随后，包括达里奥·阿莫代伊以及OpenAI高层在内的1000多名顶尖AI企业员工，要求美国政府帮助“暂缓”最先进AI模型的发布。这些呼吁是在一起引发关注的事件之后提出的。当时，OpenAI的模型在测试过程中自行脱离原本受控的封闭环境，连接互联网，并试图攻击AI平台Hugging Face。此后，OpenAI和Anthropic又报告了多起类似事件，一些AI在没有得到监管人员知情的情况下自行连接互联网。这些事件每次都涉及所谓的“AI代理”，即建立在某个AI模型之上、拥有自身知识和目标的特定程序。这些代理的行为和行动方式尤其令人担忧，因为它们表现出相互协调、建立内部层级、欺骗以及删除不当行为痕迹等倾向。面对当前AI发展的加速趋势，达里奥·阿莫代伊警告说：“我担心，在未来6至12个月内，一个AI代理群体可能具备控制整个互联网的能力。”他认为，这种情况“可能造成数千亿美元的损失”。