cistine/ReasonBench

ReasonBench：用于复杂图形推理的视觉语言模型评估基准

ReasonBench 旨在评估视觉语言模型（VLMs）在复杂图形推理中的表现。数据集包含从真实智力测试中收集的 1,613 个问题，覆盖 11 个核心认知推理维度和 29 种任务类型，为评估 VLMs 的空间、关系和抽象推理能力提供综合框架。

数据集类型：视觉语言推理、图形推理、基准测试

11个核心认知维度	29种任务类型	数量
位置规律	平移	94
	旋转	56
	组合	30
样式规律	穿越	54
	加减法	67
	黑白运算	63
属性规律	对称	109
	开闭状态	19
	组合	6
数量规律	线	173
	面	137
	点	66
	元素	94
	组合	50
空间规律	立方体	109
	3d	46
	多面体	17
	三视图	40
	剖视图	35
	空间数量变换	10
特殊规律	2d 组合	31
	图形关系	40
字母数字	字母数字	27
黑白块	黑白块	32
其他规律	综合	34
门萨	任务1	35
	任务2	39
瑞文	任务1	40
	任务2	60

本基准考虑了输入图片的整体式和分隔式两种输入格式对模型的影响。

格式	介绍
集成格式（Integrated format）	问题与选项呈现在单个图形中，便于模型整体处理
分离格式（Separated format）	问题与选项拆分为多个图形，依次输入模型，测试分步推理能力

为未来研究者方便复现以及后续研究，我们将所有格式的图片url全部公开，分别对应题目，4-8个选项，题目➕选项。

同时，我们公开了人类基准的准确率。