4 结论
本文为论文《Janus-Pro:统一多模态理解与生成》「中文全文翻译」板块的对应章节,与「论文原文」板块同一章节一一对应,层级保持一致。
本文从训练策略、数据和模型规模三个方面对 Janus 进行了改进。这些增强使多模态理解与文生图指令跟随能力都取得了显著进展。然而,Janus-Pro 仍存在一定局限。 在多模态理解方面,输入分辨率被限制在 384 $\times$ 384,这影响了其在 OCR 等细粒度任务上的性能。对于文生图生成,低分辨率结合视觉分词器引入的重建损失,导致生成的图像虽然语义内容丰富,但仍缺乏精细细节。例如,占据有限图像空间的小面部区域可能显得细节不足。提高图像分辨率可以缓解这些问题。
