Qwen2-VL 72B Instruct logo

Qwen2-VL 72B Instruct

打开

Qwen2-VL-72B-Instruct 是阿里的 72B 视觉语言模型,支持动态图像分辨率和 20 分钟以上视频理解;更新版本为 Qwen2.5-VL。

分享:
查看替代方案

Qwen2-VL-72B-Instruct 是阿里 Qwen2-VL 视觉语言模型系列中的 72B 指令微调模型。其 Hugging Face 模型卡列出 BF16 下 73B 参数,同系列还有更小的 2B 和 8B 版本。模型卡注明已有更新版本 Qwen2.5-VL-72B-Instruct。相关论文 arXiv 2409.12191 发表于 2024 年 9 月 18 日。

核心功能

  • 动态分辨率:任意分辨率的图像会映射为可变数量的视觉 token。用户可设置最小和最大像素数(取 28 的倍数),模型卡快速开始注释给出的默认范围是每张图 4 到 16,384 个视觉 token。
  • 视频:可理解超过 20 分钟的视频,但不理解视频中的音频。
  • 语言:英语和中文,以及图像内的大多数欧洲语言、日语、韩语、阿拉伯语、越南语等文字。
  • 架构:多模态旋转位置编码(M-ROPE),可捕捉 1D 文本、2D 视觉和 3D 视频位置。
  • 智能体用途:定位于根据视觉输入和文本指令操作手机和机器人。
  • 厂商基准:据模型卡,Qwen2-VL-72B 在 DocVQA test 上为 96.5、MathVista testmini 为 70.5、MMBench-EN test 为 86.5、MVBench 为 73.6。模型卡与此前的开源成绩、Claude-3.5 Sonnet 和 GPT-4o 做了对比。以上为厂商结果。

许可证与要求

许可证标注为 tongyi-qianwen。模型卡要求从源码安装最新的 Hugging Face Transformers,否则可能出现 KeyError: 'qwen2_vl',并推荐使用 qwen-vl-utils 包处理视觉输入。模型卡没有说明上下文长度。

适用场景

  • 文档和图表问答,模型卡报告了较强的 DocVQA 成绩。
  • 读取图像内多种语言的文字。
  • 不含音频的短视频和长视频理解。

模型卡列出的局限:不支持音频、图像数据仅更新到 2023 年 6 月、对特定个人和 IP 的识别有限、复杂指令遵循较弱、复杂场景中计数不精确、3D 空间推理较弱。

快速开始

  1. 从源码安装 Transformers 以及 qwen-vl-utils。
  2. 加载 Qwen/Qwen2-VL-72B-Instruct,并设置像素上限以平衡质量与显存。
  3. 在自己的文档和视频片段上测试;如果可以使用更新的模型,也与 Qwen2.5-VL 对比。

常见问题

Qwen2-VL-72B-Instruct 是什么?

阿里 Qwen 团队的 72B 指令微调视觉语言模型。

能理解视频吗?

能,可处理超过 20 分钟的视频,但不含音频。

有更新的版本吗?

有。模型卡指向 Qwen2.5-VL-72B-Instruct。本站另有较早的 Qwen 视觉语言条目 Qwen-VL。

许可证是什么?

模型卡标注为 tongyi-qianwen。

替代方案

总结

Qwen2-VL-72B-Instruct 是能力不错的开放视觉语言模型,据其模型卡现已被 Qwen2.5-VL 取代。使用方法请阅读模型卡,更多模型见模型分类。

评论

还没有评论。成为第一个评论的人!