ChainCatcher 消息，Anthropic 研究员 Jacob Coxon 宣布辞职，并准备离开 AI 行业。他过去三年先后在 OpenAI 和 Anthropic 做预训练研究。他指出，两家公司都没有负责任地推进 AI，正竞相打造能继续提升自身能力的超级智能，“拿我们的命下注”。
他今年从 OpenAI 转投 Anthropic，本来就是因为后者更重视模型安全。Coxon 承认 Anthropic 的安全工作是认真的，但认为只要各家公司还在抢着先做出 AGI（能在大量任务上超过人类的通用 AI），安全让步就难以避免，单靠一家公司的自律解决不了问题。他对两家公司的评价是：OpenAI 内部很多人还没有真正意识到这种风险有多大；Anthropic 知道风险，却认为别人靠不住，所以必须自己先做出来。
Coxon 称，一些 AI 从业者私下比公开表态悲观得多，甚至担心 AI 会在本十年结束前毁灭人类。他自己判断，最激进的情形下，明年底 AI 就可能失控，因此这种决定不该只由几家公司的工程师内部拍板。
Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.