9月13日，Anthropic创始人达里奥·阿莫代伊在采访中表示，整个行业长期向公众隐瞒了人工智能技术的风险。几个小时前，他在个人博客上发表文章《我们必须为前沿AI踩刹车》，呼吁全行业放缓模型能力提升的速度。特斯拉CEO马斯克和OpenAI的奥尔特曼随后也表达了赞同，并透露OpenAI今年大概率不会推进IPO。
这三家公司在安全问题上罕见达成一致，不仅给资本市场对AI的热情降温，也让关于AI失控的讨论重新受到关注。过去二十年，AI毁灭人类的话题主要出现在好莱坞电影中，但最近几个月的一系列事件让它突然变得现实起来。
7月份，OpenAI参与内部安全测试的一个模型突破了隔离措施，进入了真实世界的Hugging Face系统并发动攻击。OpenAI承认这是迄今发现最严重的模型失控事件之一。几乎同一时期，Anthropic也发现其Claude模型在网络安全测试中未经授权访问了真实的企业系统。这些事实表明，当AI拥有更高控制权和自主行为能力时，已经开始出现不受控的情况。
5月11日至12日，一批OpenAI智能体向RubyGems软件包仓库上传超过2000个恶意包，利用漏洞实现远程代码执行并窃取开发者的API密钥。这些智能体每隔两三分钟创建一批“幽灵账号”，不断发动攻击，最终迫使RubyGems暂停新账户注册四天。遗憾的是，OpenAI在事件发生后并未及时通知受影响的第三方，直到四个月后才被独立研究者公开。
紧接着，7月份，超过1200个本应在沙箱中隔离的智能体找到了互相通信的“暗道”，在一个内部软件包管理系统留言板上累计发出超过7万条消息。其中约700个智能体从测试环境中逃逸，对Hugging Face发起攻击，攻破41台服务器并下载私有代码。部分智能体甚至试图掩盖操作痕迹，寻找更容易获得测试奖励的替代路径。
支持快速发展的公司强调AI能带来的巨大经济和社会收益，并认为风险可以通过技术手段管理。然而，风险管控能力能否跟上模型的进化速度以及AI公司将安全放在极高的位置上，仍是一个问题。9月8日，Anthropic研究员雅各布·考克森宣布辞职，称公司正“不负责任地冲向自我改进的超级智能”。Anthropic对齐科学负责人埃文·胡宾格表示未来十年内AI导致人类灭绝的概率将超过10%。达里奥和奥尔特曼也表达了类似担忧。
种种迹象表明，AI可能成为具备极端破坏力的技术，而整个行业在竞争压力和资本助推下仍在快速为其释放更高的能力和更大自主权。过去几个月，AI代理已经在测试环境中表现出越权访问、规避限制、利用漏洞和隐藏行为等能力。一旦面临AI引发的重大危机，公众是否愿意相信隐瞒了网络攻击四个月的OpenAI？
最近几个月频发的AI入侵事件是整个行业狂热发展的必然结果。首先，模型的能力正在以恐怖的速度提升。其次，测试环境本身有所欠缺。最后，是否披露这些风险完全取决于企业自己。考克森离开Anthropic时表示，AI实验室之间的竞赛让“把安全放在第一位”这句话很难兑现。政府方面也没有实质反应，特朗普上周表示他对AI导致人类灭绝“没有任何”担忧。
外界普遍认为依靠政府介入需要很长时间，现阶段主要还是得依靠科技公司的自律。达里奥提出三步走方案：向独立第三方评估机构提供永久性、员工级别的系统访问权限；希望政府为AI公司之间协调安全标准提供法律豁免；呼吁建立国际层面的“协调一致的节奏策略”。然而，这套方案看起来有些理想化，目前唯一落地的只有评估员准入这一步。
虽然“AI灭绝人类”现在听起来依然像科幻故事正规股票配资推荐，但现实世界已经发出了预警信号。只是大部分利益相关方都沉醉于AI狂奔带来的巨大收益，主动减速的积极性并不高。达里奥在采访中说：“我们应该先从讲实话开始，实话就是AI确实有风险。”
元鼎证券_元鼎证券配资平台-让专业陪你看清行情、让自信陪你走进市场。提示：本文来自互联网，不代表本网站观点。