Anthropic CEO反驳“悲观言论引发AI反弹”:公众信任危机已酝酿数十年,真正解药在于兑现技术承诺

智通财经
Aug 17

智通财经APP获悉,Anthropic首席执行官达里奥·阿莫代伊最近反驳了关于他过度描绘 AI 及其对未来塑造的悲观前景的观点。

阿莫代伊的番言论是对投资者加文·贝克回应的一部分。贝克在播客和X平台上均指出,阿莫代伊对AI危险性的警告在一定程度上推波助澜了美国国内对AI的反弹,尤其是在针对数据中心建设方面。

贝克写道,鉴于阿莫代伊在AI监管讨论中已经“输掉了争论”(Anthropic曾倡导部分监管方案,包括一项要求大型AI公司遵守透明度规则的加州法案),同时考虑到“他即将成为全球最重要的公司之一的首席执行官”,“出于尊重,我认为他应该努力成为自己所在行业更积极的倡导者。”

不仅贝克一人认为,公众对AI的怀疑甚至政府的打压,正是部分AI高管发出可怕警告后的自然反应。但在发布的一系列帖子中,阿莫代伊并不认同其“信息传递过于负面”的说法。相反,他表示自己的文章在“风险与收益之间的考量大体上均衡”,自己撰写《爱意恩典之机》(Machines of Loving Grace)一文,恰恰是因为他“觉得AI行业当时并没有充分描绘出这项技术将如何从根本上让世界变得更美好的鼓舞人心的蓝图”。

尽管如此,阿莫代伊承认“公众对AI持负面看法”,并同意“这是一个重大问题”。但他不赞同的是,认为这种负面情绪“主要是由他本人或任何其他警示AI风险的AI领袖所导致的”。

阿莫代伊表示:“我认为从根本上讲,这是一场信任危机。普通民众信任不足,他们不信任企业、政府或科技行业,总觉得我们正在筹划什么新花招来坑害他们。”

事实上,“信任”一词频繁出现在有关OpenAI首席执行官萨姆·奥尔特曼的新闻头条中,显然对阿莫代伊等其他AI公司的CEO而言同样是一大挑战。然而在阿莫代伊看来,这场危机的酝酿已持续数十年,对AI的反弹“不过是其最新的表现形式”。

阿莫代伊称:“我认为对包括Anthropic在内的AI公司而言,迄今为止最准确的批评是,我们尚未兑现让世界受益的宏大承诺。这完全是我们自身的问题,我也认为这才是大家应该提出的批评,而不是在这儿纠结信息传递和营销手段。”

换句话说,他指出,许诺AI将治愈癌症已经“更像是一句陈词滥调,而非鼓舞人心的愿景”;真正能改变人们对AI看法的,是“切实地治愈癌症”。

谈及监管问题,阿莫代伊主张贝克在“无监管地广泛推广AI”与“通过监管将技术集中在少数几家公司手中”之间做出了“虚假的选择”。

阿莫代伊表示:“我知道硅谷有一种简化的逻辑,即‘监管 = 监管捕获 = 权力集中’,但我始终觉得这是对现实世界过于简单化的描绘。在此圈子之外的许多人看来,监管是对企业权力的一种约束,并且有益于普通民众。”

阿莫代伊补充道,他自己“也不一定完全赞同这一视角”,但他表示这“正是Anthropic在制定政策建议时始终极其审慎的原因”。

他说道:“我们非常努力地去提出那些限制(放缓)前沿AI公司发展、同时有利于规模较小的竞争对手的建议。”

究竟为何要提出这些建议?阿莫代伊表示,在他看来,“AI在结构上是一项倾向于集中权力的技术”,虽然“开源权重确实在此方面有所帮助,但远非充分的解决方案,因为它们只是在一定程度上把集中度转移到了拥有最多算力与芯片的人手中”。

他说道:“相比之下,我认为合理的‘行业游戏规则’可以同时满足以下三点:(a) 应对AI在网络安全、生物安全及对齐方面的风险;(b) 从制度上约束前沿AI公司的权力;(c) 在应对开源权重模型所带来的特定风险的同时,为其保留发展空间。”

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10