OpenAI前CTO创办实验室发布首个模型,TML-Interaction-Small让AI告别“回合制”

Thinking Machines Lab(TML)发布首个模型TML-Interaction-Small,让实时交互能力成为模型原生能力,响应延迟比GPT-realtime-2.0快4倍,交互质量测评也更优。

序号1

告别“回合制”AI

目前多数AI系统是“回合制”,用户输入时模型等待,生成时对新信息感知冻结,极大限制了人机协作效率。而TML的模型实现了人和AI随时插嘴,音频和代码能同时输出。

序号2

技术实现路径

该模型把连续音频、视频、文本切成200ms的“微回合”,采用双模型协同架构。前台模型持续接收输入、回应追问,后台模型异步跑长推理等工作,遇到复杂任务,后台结果流式回传。

序号3

训练方法与工程优化

训练阶段采用encoder-free early fusion,让各组件与Transformer共同训练。为应对200ms响应带来的工程压力,TML做了一层streaming sessions,避免反复重分配。

序号4

TML的过往与未来

TML在0产品、0收入阶段就获高融资,此前产品只有训练基础设施Tinker。此次发布的TML-Interaction-Small只是第一步,更大规模模型计划今年晚些时候发布。

编辑观点:TML此举有望革新AI交互范式,推动人机协作进入新阶段。后续更大规模模型值得期待,或将进一步提升AI实时交互能力。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值