AI 用户研究

AI 问卷追问能提升数据质量吗?1,800 人实验结果

Qualitati 研究团队

2026-07-11

7 分钟阅读


AI 问卷追问能提升数据质量吗?一项 2025 年对 1,800 名受访者开展的随机实验发现,AI 聊天机器人追问让开放式回答更长、更详细,并且在无需任何微调的情况下,将回答编码到预设类别的表现优于随机水平 — 但代价是受访者体验略有下降,且默许偏差会抬高假阳性。结论是:AI 追问有用,但需要配套的防护措施。

这项研究检验了什么?

研究构建了一个“AI 辅助对话式访谈”框架,并在真实的在线问卷中进行了检验。据 Barari 等人(2025)报告,研究从非概率在线样本库招募了 1,800 名受访者,随机分配给由大语言模型驱动的 AI 聊天机器人。这些聊天机器人同时承担两项任务:针对开放式问题动态地追问受访者以获得更多阐述,并实时将回答编码到研究者预先定义的类别中 — 这项工作通常要在问卷回收后由人工完成。

受访者被分为一个对照组和两个追问处理组:处理组 1 使用确认式追问(“确认一下,您的意思是…?”),处理组 2 使用阐述式或相关性追问,引导受访者提供更多细节。这一设计让我们能够把多问几句的效应与 AI 单纯在场的效应区分开来。

AI 对问卷回答的实时编码有多准确?

比较准确 — 优于随机,但并非在每道题上都达到人工水平。据 Barari 等人(2025),在未针对该问卷进行微调的情况下,聊天机器人在大多数题目上的实时编码“表现优于随机猜测”。明显的例外是新闻来源类题目,其准确率和召回率均低于 70%。作为参照,作者指出此前的 LLM 评估报告过开放式问卷回答 91–94% 的分类准确率,因此实时、未经调优的编码仍低于这一上限。

问题在于准确率是如何测量的。当由受访者本人确认 AI 的编码时,一致性看起来很高;但当受过训练的人工编码员复核同一批回答时,精确率平均比受访者自己的确认低 20%。这一差距正是默许偏差的典型痕迹:即使类别略有偏差,人们面对确认式追问时也倾向于回答“是”。

AI 追问带来的是更好的数据 — 还是只是更多的数据?

两者兼有,但存在权衡。据 Barari 等人(2025),追问下的开放式回答“更详细、信息量更大”。但更丰富的数据以牺牲受访者体验为代价,追问也增加了摩擦:在确认式追问组中,修改答案和回退到前面题目的情况大约是对照组的两倍(88 次对 43 次),两个处理组的访谈时长也都更长 — 阐述式追问的对话平均时长约为对照组的两倍。

AI 辅助对话式访谈:收益与成本

维度研究发现对研究者的启示
回答丰富度开放式回答更详细、信息量更大为主题分析提供更好的原始材料
实时编码准确率无需微调即优于随机;新闻来源类 <70%把 AI 编码当作草稿,而非定论
假阳性确认式追问下被默许偏差抬高避免“您的意思是…?”这类诱导式措辞
人工一致性 vs. 自我确认编码员精确率比受访者确认低约 20%抽取样本由人工编码员验证
受访者体验略有下降;访谈更长、回退更多限制追问深度;只在值得的地方追问

这对研究者意味着什么

给实践者的核心结论:AI 追问是真正能提升数据质量的手段,而不是噱头 — 但它并非没有成本。从证据中可以直接得出三点启示。

  1. 有选择地追问。阐述式追问能换来最丰富的回答,但耗时也最多。把它留给真正需要深度的两三道题,而不是每道题都追问。
  2. 注意追问措辞。确认式追问(“您的意思是 X 吗?”)容易引发顺从式回答并抬高假阳性。中性、开放的阐述式追问能减轻这种偏差。
  3. 编码环节保留人工把关。受访者确认与人工编码员之间 20% 的精确率差距提醒我们:在信任全部 AI 编码之前,先抽样验证。

这些经验与现代平台的设计思路一致。Qualitati 的对话式问卷使用 AI 驱动的追问和分支逻辑,让开放式回答能在作答当下得到追问;我们关于 AI 追问问题的研究也反映了同样的发现 — 好的追问能加深数据,糟糕的追问只会增加负担。要把这些更丰富的访谈记录提炼成主题,ThemeLens 让研究者始终参与分析过程,而不是把 AI 的初步编码当作最终结果。

放在更广泛的证据中看

这项研究与越来越多关于 AI 在定性研究和问卷研究中利弊的成果相互印证。它呼应了以下发现:AI 能够胜任开放式数据的编码,但在含义模糊的类别上会出现偏移;而如果一致性指标的测量方式不当,就会高估 AI 的表现。关于不同 AI 模型在主题上是否彼此一致的相关讨论,请参阅我们对多 LLM 主题分析的总结。

常见问题

AI 聊天机器人能取代人工问卷编码员吗?

不能完全取代。在这项研究中,AI 在无需微调的情况下编码表现优于随机,但人工编码员对受访者已接受的确认中约五分之一持不同意见。AI 是很好的第一轮处理工具,但仍需要人工对样本进行验证。

加入 AI 追问会让受访者反感吗?

会略有影响。追问延长了访谈时间,增加了回退和修改答案的次数,整体体验也略有下降。这一影响在可控范围内,但也说明只应在额外细节值得付出负担的地方进行追问。

为什么 AI 编码的回答会出现假阳性?

主要源于默许偏差。当聊天机器人问“您的意思是 X 吗?”时,即使 X 并不完全准确,受访者也倾向于回答“是”,于是一些中立的人工编码员会否定的类别被确认了下来。

这项研究的规模有多大?

据 Barari 等人(2025),共 1,800 名受访者,在一项在线问卷实验中被随机分配到一个对照组和两个 AI 追问组。


最后更新:2026 年 7 月 11 日。

本文是对第三方研究的独立编辑摘要(Barari, S., Angbazo, J., Wang, N., Christian, L. M., Dean, E., Slowinski, Z., & Sepulvado, B. (2025). "AI-Assisted Conversational Interviewing: Effects on Data Quality and Respondent Experience," arXiv:2504.13908)。Qualitati 与作者无任何关联,文中所有数据均引自所引用的预印本。


免费试用 Qualitati

立即开始 AI 辅助定性研究,无需信用卡。

免费开始
相关文章