AI 模型· X:Kim (@kimmonismus)
OpenAI 将在 Cerebras 上推出 GPT-5.6 Sol,推理速度达 750 tokens/s
OpenAI 将于 7 月在 Cerebras 上推出 GPT-5.6 Sol,推理速度达 750 tokens/s。据 Bleys Goodson 估算,模型横跨 70-100 片 Cerebras 晶圆,每片约承载一层,总参数量约 3T,活跃参数 150B,共约 70 层(整体范围 2-4T 参数,70-90 层)。Sol 极可能采用轻量 KV cache 设计(类似 DeepSeekV4 或混合 SSM),以充分利用 SRAM 带宽。这表明 OpenAI 并非简单将前沿模型部署到第三方平台,而是围绕硬件设计了该模型,使 Cerebras 从"小型模型快速推理"跃升至服务前沿智能的极致速度。 via AI HOT · https://aihot.virxact.com/items/cmr8xovv201gbsllstg6owgxe