Krystal Hu

路透10月22日 - (人工智能》每周三出版。您认为您的朋友或同事应该了解我们吗？请将此新闻通讯转发给他们。他们也可以在这里订阅 (link).)

史蒂夫-班农（Steve Bannon）、杰弗里-辛顿（Geoffrey Hinton）和哈里王子与梅根-马克尔（Meghan Markle）有什么共同点？

不是政治、媒体或君主制。而是人工智能。他们都想阻止超级智能人工智能的发展--理论上，这种人工智能可以完全超越人类。

本周三，"未来生命研究所"（Future of Life Institute）发表了一封 公开信， (link) ，呼吁在科学证明超级智能人工智能系统是安全的，而且公众确实需要它们之前，禁止创造超级智能人工智能系统。该联盟的成员既有右翼媒体人士，也有人工智能先驱。

你可能还记得，同一个组织曾呼吁 在 2023 年暂停人工智能开发 (link) ，当时甚至得到了埃隆-马斯克（Elon Musk）的支持。这一次，他没有参与--也许是因为他正忙于通过他的企业xAI来赌一个相反的结果，最近，他声称其Grok 5达到人工通用智能$(AGI)$ 的几率 "现在是10%，而且还在上升"。

但 AGI 到底是什么？人工智能又是什么--每个人都在担心的 "超级智能"？当然，人工智能模型现在可以 在奥林匹克级别的数学竞赛中获胜， (link) ，这在一年前是不可想象的，但这是否意味着它们具有一般智能呢？

有人说还不能。一群人工智能研究人员对科技公司不断转移目标感到沮丧，他们提出了一个清晰、可衡量的 AGI 定义，以及一个基准系统。我与他们讨论了为什么了解人工智能能做什么、不能做什么很重要，以及我们离他们定义的 AGI 到底还有多远。

与此同时，OpenAI 的新浏览器正试图向我们展示，人工智能已经改变了我们获取信息或购买杂货的方式。在我看来，这款旨在挑战谷歌的产品也说明了谷歌对互联网的持久影响力。请继续阅读。

电子邮件 我 (link) 或在 LinkedIn (link) 分享任何想法。

我们在科技与人工智能领域的最新报导：

• 在谷歌和高通的帮助下，三星的 Galaxy XR 耳机将与苹果一较高下 (link)

• 芯片紧缩：人工智能热潮如何刺激不那么时髦的内存价格？ (link)

• 投资数十亿美元后，人们对人工智能泡沫看法不一 (link)

• 独家-知情人士：芯片制造商CXMT计划在上海上市，估值420亿美元 (link)

• Meta与蓝猫资本就路易斯安那州数据中心达成270亿美元融资协议 (link)

• 新研究显示：人工智能助手在新闻方面普遍出错 (link)

开放与谷歌的角力

在本周二的OpenAI展示会上，谷歌（Google GOOGL.O）的身影比比皆是--尽管该活动旨在挑战谷歌的主导地位。OpenAI发布了期待已久的人工智能浏览器Atlas，这是它与Chrome竞争的最直接尝试。但从 YouTube 直播到谷歌文档和 Gmail 的演示，谷歌的影子无处不在。当由 ChatGPT 支持的浏览器试图搜索信息和视频时，它悄无声息地导航到了谷歌标签页。

投资者并没有忽视这种讽刺意味。ChatGPT 现象已经改变了 8 亿人获取信息的方式，迫使谷歌重新思考其核心业务--搜索。Chrome 浏览器本应像 ChatGPT 对谷歌搜索所做的那样：颠覆一种根深蒂固的习惯，这样 OpenAI 就能把用户的时间和注意力从谷歌的生态系统中拉出来，而在谷歌的生态系统中，每一次点击和查询都会带来潜在的广告收入。

OpenAI的新浏览器充其量只能算是反应平平。部分原因是它看起来很像 Chrome 浏览器--因为它本质上就是 Chrome 浏览器。正如我们 首次报导的那样 ， (link) ，该浏览器基于谷歌的开源基础 Chromium 构建 。

这次亮相也提醒人们注意谷歌最深层次的优势：搜索。OpenAI 仍然在很大程度上依赖谷歌的索引来显示实时结果，减少幻觉。最近，当谷歌将其搜索规则限制在前 10 个结果时，ChatGPT 的答案发生了明显的变化--例如，失去了许多 Reddit 引用。

这种依赖并非没有尝试过。OpenAI于2024年初开始构建自己的搜索产品，但公司高管后来承认，他们最初的目标--到2025年底让ChatGPT 80%的回答都依赖OpenAI自己的搜索索引--过于雄心勃勃，可能还需要几年时间。今年夏天，OpenAI 寻求与谷歌直接合作，但根据高管的证词，他们遭到了拒绝。

虽然反垄断法官最近裁定谷歌不必出售 Chrome 浏览器，但谷歌如何利用其在搜索领域的超级实力保持领先地位将值得关注。在 OpenAI 公布浏览器消息后，谷歌股价周二一度下跌 4%，但随后回升，收盘下跌约 1.8%，这表明投资者虽然谨慎，但并不恐慌。

更大的问题是，在谷歌自己的产品中，ChatGPT 是否能比谷歌做得更好。如果 OpenAI 能够真正重塑浏览器体验，而不是用一个附加的 ChatGPT 来重建 Chrome 浏览器，那么它将再次迫使谷歌陷入创新者的两难境地：如何在不破坏其摇钱树的情况下进行变革。

Atlas 最受欢迎的功能之一是 "代理"--一种可以执行多步在线任务的浏览助手。在演示中，ChatGPT 找到了一份食谱，导航到了 Instacart，并将食材添加到购物车，如果你愿意提供登录和付款信息，它甚至还能帮你结账。这是一个很大的 "如果"。 现在负责 Brave 的 Mozilla 创始人布伦丹-艾奇（Brendan Eich）警告说，用户应该警惕向代理浏览器提供私人信息，因为它们极易受到间接提示注入的影响。

现在的竞争焦点是，谷歌能以多快的速度推出自己的 Chrome 浏览器代理版本，以及用户会以多快的速度相信人工智能能代表他们浏览互联网。归根结底，OpenAI 的浏览器要与谷歌花了二十年打造的习惯、信任和基础设施竞争。真正的考验并不是 ChatGPT 能否更快地浏览网页，而是我们是否会足够信任它，让它替我们浏览网页。

本周图表

领先的人工智能助手正在努力澄清事实。根据 欧洲广播联盟（European Broadcasting Union）和英国广播公司（BBC）本周发布的 最新研究 (link) ，在分析的 3000 个由人工智能生成的免费聊天机器人新闻回复中，近一半至少存在一个重大问题，而 81% 的回复存在某种问题 。

最大的罪魁祸首是什么？来源。总体而言，所有重大问题中有 31% 是由于来源不正确或缺失造成的--通常是由于人工智能系统错误地将声明归属于新闻机构。谷歌的 Gemini 2.5 Flash 是一个明显的例外，其 72% 的回复出现了重大来源错误，而 ChatGPT-4o 为 24%，Copilot 和 Perplexity 各为 15%。

对于越来越依赖人工智能聊天机器人来总结新闻的人来说，这些发现及时提醒了他们，这些系统还不是可靠的编辑。即使它们重塑了人们获取信息的方式，也常常模糊了引用与发明之间的界限--这使得人工智能时代的媒体素养比以往任何时候都更加重要。

人工智能术语须知：重新定义人工智能

如果你曾经觉得 "AGI"--人工通用智能--现在指的是公司想让它指什么就指什么，那你并不孤单。人工智能安全中心（Center for AI Safety）负责人丹-亨德里克斯（Dan Hendrycks）对此深表赞同。他的研究小组与包括 Yoshua Bengio 在内的一批受人尊敬的人工智能研究人员一起，刚刚发表了 一篇论文 (link) ，试图明确 AGI 究竟是什么，它又不是什么。这项研究将 AGI 定义为：在推理、记忆、感知和速度等 10 个可测量的领域中，与受过良好教育的成年人的认知能力和熟练程度相匹配的人工智能。他们从数十年的心理学研究中调整了这一框架，甚至对当今的模型进行了评分。结果是GPT-4为27%，GPT-5为58%--令人印象深刻，但距离代表人类普通智能水平的100%标准仍有很大差距。

亨德里克斯在接受我们采访时说，由于缺乏定义，"AGI "已经变成了一个筹款的流行词，因此他的目标是让这个词变得可以衡量，这样我们就可以 "看到人工智能到底能做什么，还缺少什么"。

其中最大的差距是什么？记忆。亨德里克斯说，虽然现在的模型可以在数学竞赛中取得优异成绩，但在下一次对话中，它们就会忘记 "学到 "的一切。

"他说："一个得了健忘症的工人用处不大。他认为，在人工智能发展出长期记忆并能从经验中学习之前，无论它碾压多少基准，都无法接近 AGI。

(为便利非英文母语者，路透将其报导自动化翻译为数种其他语言。由于自动化翻译可能有误，或未能包含所需语境，路透不保证自动化翻译文本的准确性，仅是为了便利读者而提供自动化翻译。对于因为使用自动化翻译功能而造成的任何损害或损失，路透不承担任何责任。)