最高每秒生成750个词元:OpenAI推Ultrafast模式,GPT-5.6 Sol提速14倍

IT之家
Aug 14

IT之家 8 月 14 日消息,OpenAI 公司今天(8 月 14 日)发布公告,宣布以预览形式,针对其最强 AI 模型 GPT-5.6 Sol 推出 Ultrafast(超高速)模式,是标准处理速度的 14 倍,最高每秒输出 750 个词元(Token)。

在服务支持方面,OpenAI 公司表示该模式由 Cerebras 提供,目标是在用户工作流中,进一步提高模型的响应速度。

OpenAI 公司表示,在过去模型速度和能力两者不可兼得,如果用户需要更快的输出速度,通常需要牺牲模型能力,转而选择更小或更专用的模型。

而 Ultrafast 可以实现两者兼得,让“每秒完成更多有价值工作”成为新的方向。OpenAI 列出的早期应用场景包括:事故响应与可靠性分析、金融研究与安全分析、客服与语音交互、电商场景中的商品问答与库存查询,以及实时研究和实验。IT之家附上相关截图如下:

OpenAI 称,这一模式面向对实时性要求极高的业务场景,当前处于有限预览,仅向一小批客户开放。公司表示,这些早期测试有助于判断速度提升在什么环节价值最大,也有助于观察模型能否跟上用户操作节奏。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10