跳到正文
Hugging Face Blog·· 2024-03-05AI 评分43

ConTextual:多模态模型在文字密集场景中联合推理能力的评测基准

Introducing ConTextual: How well can your Multimodal model jointly reason over text and image in text-rich scenes?

AI 导读

UCLA 研究团队发布 ConTextual 数据集与排行榜,包含 506 条指令,用于评测多模态大模型在文字密集场景中联合推理文本与视觉信息的能力。实验评估了 13 个模型,GPT-4V 表现最佳,在抽象场景推理上超过人类,但在时间读取类任务上表现不佳;开源模型如 LLaVA-v1.5-13B、ShareGPT4V-7B 仅在抽象与自然场景领域达到可接受水平。

来源:Hugging Face Blog · huggingface.co