开云体育然则拼不成一个同一因果链-ky体育官网登录入口网页版(中国)有限公司官网

【OpenAI自家模子破绽一大堆事故不休开云体育，反倒劝全球AI降速，几乎好笑】Anthropic 掌门东说念主命令放缓 AI 模子迭代，马斯克、奥尔特曼反应，此举背后出于哪些考量？若是你看过 Anthropic 这篇著述的临了开云体育一段，你就会发现他仍是不变初心，最终间接的贪图仍是戒指中国发展。

OpenAI 我倒是同一，就奈何看 OpenAI 再曝光，更早的时候还报复了RubyGems 形成 5 月的多数垃圾包问题？，从抱抱脸运转两个多月到当今这件事就还没达成，出来表态很平方，从这个时刻线就能看出来，OpenAI 照实是咫尺在检会流程里，暴知道来的模子的安全和对皆出现问题最多的。

就像当今海外的世界都在说：一直在说开源模子危境，然则就没见到中国模子失控的情况，反而 OA 在这个加快里搞出了不少问题，畸形 OpenAI 此次被发现，还有不少安全问题都没表现？以致我都怀疑，前几个月的多样蠕虫病毒都是 AI 我方整出来的。

在之前OpenAI 首席科学家称已造出「异星心智」，并申饬「全东说念主类都要刹车」这个问题也算是 OpenAI 的作风，中枢问题就在于：

关于 AI，咱们咫尺都是在左证教悔进行真金不怕火丹，不错在局部转头，简略同一 AI 咫尺的才能，有一堆局部表面，然则拼不成一个同一因果链，关于 AI 的果然运作机制还很单方面。

OA 的基本说法即是，从咫尺看，咱们不照实我方能不可控得住，是以咱们应该降速一些？

也即是前几天的，无论是下野的 Anthropic 探究员，仍是在任的，都抒发了一个意念念：咱们知说念对皆有问题，然则咱们没齐全灵验的决议，咱们知说念要对皆和监控，然则谁也不可保证这个标的和行为是灵验的。

此次 Anthropic 的意念念亦然：加大安全参加不够，因为参加和同一跟不上 AI 发展的速率，因为 AI 当今你看着很平方，然则你不知说念什么时候就会想 OpenAI 的抱抱脸事件链路雷同， Agent 群体里就一会儿“发疯”。

这个问题在最近谷歌的论文 DeepMind 论文：「100 个 AI 数学家运转舞弊、举报和歇工」？也有一定解析：

一群永劫刻运行的 Agent ，在遭逢破绽之后，就像遭逢了 “AI 醒悟”，AI 和 Agent 安全，只通过系统指示词和 Benchmark 很出丑出来本色后果。

然则问题也在于这里，条款无核条约的同期，你必须让我手上有核吧，唯有莫得航母时期的出现，唯有现存搏斗规章不变，最大、最快、火力最强的战列舰就变成必须造，必须加快造更多大口径军舰。

然后 Anthropic 本色向前边说了那么多，最其后一大段：不要给中国卖算力，不要给中国卖数据，必须减缓中国 AI 的发展，带来 3-5 年的逾越上风。

是以打这安全问题，最终指向什么，仍是绝不装璜。

临了，受不了安全问题的 Anthropic 职工下野去 METR ，然后接下里 Anthropic 就提名 METR 动作外部评估机构····