同声传译模式
新增 interpretation_mode 授权参数,支持中英互译。
情绪回落机制优化
话题转折优化
角色记忆增强
声纹识别升级
绘图功能
draw_pic 功能,可根据要求生成图片,并支持精准修图。汽车出口报价功能
car_sales_fob 功能,可根据要求计算出口车 FOB 报价,并生成专属报价单网页。新增 voice_speed 参数,用于调控NPC的语速。
智力提升,尤其在刚开始对话的低激活状态下表现更优。
可以快速集成上万款第三方MCP(MCP官方库、魔搭MCP广场等)。
继承TCP接口的所有特性。
采用Agentic策略,自由度超高、体验更自然。
在对话中文字或者语音输入debug on,即可打开debug模式。AI会在正常对话以后,通过Text消息流返回debug信息,包括:技能书记忆、知识图谱、情绪状态、深度思考、function调用。这将帮助运营更好的调试角色!
可在tcp认证消息中添加,用于在对话中返回情绪表情。
目前支持true,false,dimi 三种模式,默认为false。
true模式下,通过emoji消息流返回约30种情绪状态。客户端可根据此状态,决定使用怎样的表情、动作配合语音。
dimi模式为 dimi设备定制,共计2800种表情返回。
也支持为各家硬件定制表情库。
修正了回复的第一句智力偏低的问题,略微降低话唠指数。
已上线测试环境,支持动态视觉、人脸识别、文字识别。延迟控制到500ms,视觉能力激活不会产生额外延迟。
采用全新安全架构,确保图片信息阅后即焚,且图片信息不对公网开放。
新增热词特性
热词是对于特定领域内可以提高语音判断的触发词。
更新一下接口,增加hotword字段:
新增了一个状态用来表示用户已经开始说话
{
"taskid": "abc12345",
"type": "listen",
"state": "detecting",
"mode": "vad"
}
这时客户端可以选择停止播放已经接收到的音频,达到更完美的打断效果
新增 Hippo 记忆管理服务 API
新增 intent_extensions 字段 ,涉及接口 :
TCP 协议更新通知 v2.6 — 图片消息流
本次更新新增图片消息流(IMAGE 帧),涉及以下三处对接变更:
以上三项相互独立,可逐步接入。如未更新客户端,IMAGE 帧会被忽略,不影响音频/文字流的正常运行。
新增魔法命令:
图片消息流: 本次更新新增图片消息流(IMAGE 帧),涉及以下三处对接变更:
登录时声明设备分辨率(可选)
在认证消息的参数串里加一个 resolution 字段,格式为 WxH:
##START\x01000000000000<JWT_TOKEN>##resolution:320x240##END
不传则保持原有行为,图片 URL 不缩放直传。支持任意分辨率,服务端会按等比缩放(不裁剪不变形)。
画图函数名更新(NPC 配置需变更)
按分辨率定制的画图函数已退役,统一使用主版本。需在 NPC 的 functions 配置中替换函数名:
draw_pic_t → draw_pic draw_pic_d → draw_pic draw_pic_google_t → draw_pic_google draw_pic_google_d → draw_pic_google
只改函数名,其余参数配置不变。分辨率适配由服务端根据设备登录时声明的 resolution 自动处理,无需在函数配置里指定。
客户端新增解析 IMAGE 帧(type = 0x0a)
服务端检测到图片后,会自动转为 IMAGE 帧下发,不再作为普通 TEXT 帧:
##START\x0a[任务ID][0000]{"type":"image","url":"<图片URL>"}##END
客户端收到 type = 0x0a 的帧后,解析 JSON 取出 url,直接发起 HTTP GET 下载图片渲染即可。URL 已按登录时声明的分辨率缩放处理完毕,无需客户端侧再做任何图像处理。
以上三项相互独立,可逐步接入。如未更新客户端,IMAGE 帧会被忽略,不影响音频和文字流的正常运行**。**
会议纪要接口文档更新 -Version 2.1