视觉大模型在图像理解和跨模态任务中表现出色,但“幻觉现象”问题日益凸显。
淘天集团未来生活实验室团队提出“令牌偏好优化”(TPO)新方法,引入自我校准的视觉锚定奖励机制,实现自动化令牌级奖励信号,避免人工细粒度标注,优化模型对视觉信息的依赖,减轻幻觉现象。
研究表明,采用TPO的模型在多个评测基准中优于传统方法,模型答案更依赖图像信息。
此外,消融实验发现优化的加噪步骤和奖励分配策略能进一步提高模型性能。
这一创新成果为多模态对齐技术提供新思路,推动AI技术在生活和消费领域的应用。