声明:本文来自于微信公众号 AIGC开放社区（ID:AIGCOPEN），作者:AIGC开放社区，授权站长之家转载发布。据新榜旗下小红书数据工具新红统计，孟羽童小红书账号“孟羽童Morita”图文笔记报价24万元，视频笔记报价26万元。
该编码器具有多项功能。首先，它能够增强视觉感知能力，通过提供额外的视觉编码器，使MLLM能够更好地理解和分析图像内容。其次，VCoder能够处理特殊类型的图像，例如分割图和深度图。分割图能够帮助模型识别和理解图像中不同物体的边界和形状，而深度图则提供了物体距离相机远近的信息。最后，VCoder改善了对象感知任务的表现。通过提供额外的感知模态输入，如分割图或深度图，它显著提高了MLLM的对象感知能力，包括更准确地识别和计数图像中的对象。
与GPT-4V进行比较时，实验发现GPT-4V在所有对象识别任务中表现一致，但在对象级感知方面落后于VCoder。
站长之家(ChinaZ.com) 1月3日 消息:阿里巴巴宣布其项目DreamTalk已经开源。这个项目可以让人物照片说话，支持包括歌曲、多种语言的语音、嘈杂的音频在内的各种声音匹配。