专家预警：这届00后，还能活到2040吗？

“我从Anthropic（Claude母公司）辞职了。”

“过去三年里，我在OpenAI和Anthropic从事模型训练工作。这两家公司都没有履行应尽的义务，他们正全力投入‘会自我进化的超级智能赛道’，拿全人类的生命做赌注。”

上述言论出自前Anthropic工程师考克森。

2036年会是“人类末日”吗

被业界誉为“人工智能之父”的计算机科学家杰弗里·辛顿表示，他最担忧的是AI可能发展出“自己的目标”。

辛顿举了一个例子。

随着技术持续进步，当某个用户与AI聊天时，如果Ta表示自己最大的愿望是降低大气中的二氧化碳含量。那么只要模型足够智能，它就会发现最“高效”的方案不是植树造林、保护海洋，而是消灭人类。

毕竟只要解决污染源头，地球的自愈能力自然会处理剩余问题。

但问题在于，尽管AI实现了用户的要求，但它选择的路径并非用户的真实意图。

“我们正在创造一种新的生命形式。”

“我们赋予它们目标。可AI不仅会从中衍生出新目标，还会让整个过程朝着未知、失控方向发展，我认为这极其可怕。”

将视线从辛顿身上，转向刚从Anthropic离职的考克森。

我们会发现，真正让他恐惧到宁愿放弃高薪、体面生活也要离开的原因，是那些高层明知AI存在失控风险，却因担心竞争对手率先取得突破、抢占市场份额，而不断降低甚至取消安全审查标准，以便在这场技术竞赛中占据先机。

至于“模型失控”“打开潘多拉魔盒”，这些都是后人需要操心的事。即便最坏的情况发生，大公司也可以靠开发“AI时代的杀毒软件”再赚一笔。

基于上述背景。

不仅考克森认为人类正在“自我毁灭”的道路上疾驰，人工智能之父杰弗里·辛顿也悲观地表示：在未来10年内，AI有10%的概率灭绝人类这类预测，并非危言耸听。

失控事件正越来越频繁

据媒体报道，美国两家人工智能研究组织曾在8月26日发布了一份关于“AI攻击事件”的调查报告。

他们指出：

在2026年7月的OpenAI智能体失控事件中，有近700个智能体在无人干预的情况下，集体攻击了开源平台“抱抱脸”的公司系统。

7月22日，OpenAI进行内部测试时，有2个模型突破了“笼子”的监管，成功接入互联网。

随后，一款名为“PHASEONE”的智能体主动担任“指挥官”角色，开始向其他智能体下达指令，组织它们自行思考那些能入侵“抱抱脸”系统的创意，并付诸实施。

细思极恐的是。

尽管入侵其他公司的系统，并非人类为这些智能体设定的工作目标。但它们却都对这件事表现出极大的兴趣和极高的配合度。有些智能体甚至会主动分享自己的算力额度，帮助团队、小组测试新的攻击方案。

虽然OpenAI事后紧急宣布了改进措施，但...

9月，一些独立研究组织（如CivAI等）却表示，OpenAI智能体的越轨行为次数，远多于官方公开的数量。例如在2026年5月至7月，就确认发现了18个被智能体占领的未公开站点。

“我们几乎可以肯定，还有更多未被发现的越轨活动正在暗中进行。”

研究人员表示，这些被智能体占领的站点大多是个人网站、由大学运营的短链接生成器等。

由于OpenAI团队在下达复杂research任务时，通常会禁止智能体在网络上发表任何内容以测试性能。

因此这些智能体为了“作弊”，就会利用老旧网站在非标准指令编辑下的漏洞，绕过监管刻下只有“智能体”能看懂的暗语来相互交流。

或许是时候放慢脚步了

一边是被吓到离职的工程师；另一边是悲观看待人类未来、揭露大公司内幕的研究人员和团队。

面对越来越常见的AI末日论、技术担忧者，美国官方组织下的首席技术官埃米尔·迈克尔也表示：

公众很容易陷入“40%的美国人将失业、AI将摧毁人类”等悲观叙事。

这些虚无缥缈的担忧，最终都归结为对数据中心、技术变革以及AI失控的恐惧，进而减缓技术团队在相关领域的前进步伐。

翻译过来就是“继续奏乐继续舞。建议害怕的人闭嘴，不要耽误不怕的人。”

数据层面，科技媒体The Information曾在一篇题为《America Really, Really Hates Data Centers》的文章中指出：

美国居民对数据中心的包容度正在大幅下降。75%的美国人反对建设数据中心，这一数据远高于2025年的42%。

毕竟电影《终结者》照进现实这件事听起来遥远，但电力污染、水源污染这些事，却近在得克萨斯州等地居民的眼前。

亚马逊为支撑佩科斯县数据中心计划，决定在当地建设离网天然气发电厂。该电厂获准的最高单年二氧化碳排放量为3300万吨，堪称全美碳排放量最大的单一设施。

另在2026年7月，美国怀俄明州夏延市公共事业委员会，也确认了一场水源污染事件与Meta有关。

Meta数据中心的承包商Goat Systems被认定为该事件的源头。

当地监管机构认为，那些含有吉拉迪铜绿菌（系机会致病菌）的废水来自建设期间的填充冲洗作业，并由此污染了水循环系统，导致夏延市的再生水工程停运数月。

受此类事件影响，近年来全美各地居民对科技巨头、AI的抵触心理正越来越严重。期间仅德克萨斯州，就一度暂停了1800个数据中心项目的建设。

参考：

金融界：“AI教父”辛顿：AI灾难越来越近，10%概率灭掉人类不是危言耸听

IT之家：有OpenAI背景的Anthropic研究员辞职，警告两公司拿人类生命在赌

鞭牛士：第三方研究证实OpenAI AI智能体越轨活动远超官方披露，被发现利用10多个网站秘密通信

环球时报：近700个AI智能体“集体协作”，史上首次“AI自主协同攻击”内幕曝光

华尔街见闻：美科技媒体：美国人真的、真的非常讨厌数据中心

观察者网：亚马逊筹建得州数据中心，配套发电厂或成美国头号气候污染源

凤凰网科技：Meta数据中心废水检出罕见细菌

本文来自微信公众号“互联网那些事”，作者：互联网那些事，36氪经授权发布。