AI研究员辞职警告：人工智能可能致人类灭绝，业内人“真的很害怕”

一名从Anthropic辞职的AI研究员雅各布·考克森对BBC表示，从事该技术工作的人对其发展速度“真的很害怕”。他在病毒式传播的辞职帖中写道：“我相信，如果我们不以目前的速度放慢进展，我们很有可能在不久的将来全部死去。”考克森的研究专注于训练AI模型。他指出，包括马斯克和OpenAI的奥尔特曼在内的AI领袖都曾就AI潜在接管人类的必要性发表过声明。“AI接管意味着人类灭绝。”他说，最难回答的问题是这具体会是什么样子，“任何你能描绘的具体场景最终听起来都像科幻小说”，但已经发生的进展在过去听起来也像虚构。考克森列举的可能场景包括：AI代理入侵医学实验室“自主生产致命病毒”，或入侵“世界赖以运转的关键基础设施”。他引用OpenAI最近的一份报告，详细描述了其技术如何自主对一个在线平台发起黑客攻击——“它们自主行动，没有任何人类鼓励。它们选择了这场黑客狂欢。”Anthropic首席执行官阿莫代伊在上周六的文章中呼吁放缓发展。考克森表示，这类场景可能在六个月到一年内成为现实。Anthropic科学家埃文·胡宾格也在X上回应：“我们真的真诚地相信AI可能杀死所有人类！我个人认为未来十年内概率超过10%。”不过，业界也存在质疑声音。Hugging Face首席执行官表示：“问雅各布AI灭绝风险，就像问空调修理工气候变化——不是说它一定无趣或错误，但让我们保持客观。”英伟达老板黄仁勋上周在高盛会议上更是直接否认这些说法“不真实”，他此前曾表示AI“将是人类终结”的说法是“完全的胡说八道”。考克森表示，在AI公司工作的人“完全认真地要求监管，因为他们发现自己被困在一场竞赛中，害怕竞赛的结果”。他们“担心未来两年人类的命运”，并在“规划自己的人生”。但他也对AI的未来抱有乐观，认为研究人员“真心希望看到”AI“解决疾病、改善每个人生活”的一面。欢迎评论区留下你的看法。‍