{"slug":"can-ai-build-qualitative-codebook-2026","title":"AI 能构建定性编码手册吗？2026 年研究的发现","description":"一项 2026 年研究用 LLM 从 45,000 条消息中构建了含 67 个条目的定性编码手册，人类编码者随后发现了 AI 漏掉的五个类别。这对 AI 编码意味着什么。","keywords":"AI 定性编码手册,LLM 归纳编码,编码手册开发,AI 主题分析,多标签评分者间信度,Jaccard 相似度编码,人机协作定性研究","date":"2026-08-14","author":"Qualitati 研究团队","category":"研究方法论","readTime":"9 分钟阅读","content":"<p><strong>简短答案。</strong>可以——但有一条硬性界限。在一项 2026 年的研究中，一条 LLM 流水线从 45,000 条消息中构建出一部含 67 个条目的定性编码手册；但当三位人类编码者把它应用到全新数据上时，却发现了五个模型从未浮现出来的完整类别——尽管模型处理的数据量大约是人类阅读量的八倍。</p>\n\n<h2>这项研究到底测了什么？</h2>\n\n<p>这项研究提出的问题比\"AI 能不能做定性编码\"更精确。它问的是：编码手册开发的<em>哪些阶段</em>可以交给 LLM，哪些必须由人来完成。</p>\n\n<p>Liu、Sun、Esbenshade、Xiao、Tian、Zhang 与 He（2026）在 2026 年 7 月 30 日发布于 arXiv 的预印本中，记录了一条三阶段的人机协作流水线：他们把扎根理论的开放式编码、主轴编码与选择性编码，改造后用于一个包含 45,000 条消息的语料库——这些消息来自 K-12 教育者与一个生成式 AI 教学平台之间的对话。产出物是一部层级化编码手册。而对这部手册的检验并不是模型的自我一致性，而是三位受训人类编码者在无辅助的情况下，把它应用到模型从未接触过的独立样本上。</p>\n\n<h3>三个由 LLM 辅助的阶段</h3>\n\n<ol>\n  <li><strong>开放式编码。</strong>Claude 3 Sonnet 对 256 个\"三元组\"的试点样本进行标注——每个三元组包含教育者的提问、AI 的回复、以及教育者的追问——并以结构化 JSON 返回内容领域、教学策略与所请求的支持类型。两名研究者通读原始输出，手工精修标签词表。</li>\n  <li><strong>主轴编码。</strong>语料扩展到 9,352 个三元组，模型可自由生成标签。研究者随机审阅了 1,000 条输出，然后按语义相似性与教学意图对标签聚类——把\"differentiated strategies\"与\"differentiated support\"合并，却有意保留\"inquiry-based learning\"与\"project-based learning\"的区分。</li>\n  <li><strong>选择性编码。</strong>Claude 3.5 Haiku 把此时已封闭的词表应用到 11,539 个新三元组上，只能从既有编码手册类别中选择。这一阶段是对该工具在规模化条件下覆盖度的压力测试。</li>\n</ol>\n\n<p>请注意这一有意的设计取向：作者把 LLM 当作一件<em>标注工具</em>，而非解释主体。这也是他们主张研究中途更换模型并不威胁效度的理由——模型提出候选标签，由人决定哪些能留下来。</p>\n\n<h2>人类验证阶段发现了什么？</h2>\n\n<p>它发现了规模没能发现的缺口。三位具备教育领域专长的编码者，把含 67 个条目的手册草案应用到随后一年间采集的 500 段对话中抽取的 2,560 条全新消息上。据 Liu 等人（2026）报告，他们新增了<strong>五个编码</strong>，使该工具从 67 个条目增至 72 个、从 18 个类别增至 19 个：</p>\n\n<table>\n  <thead>\n    <tr><th>人类新增的编码</th><th>手册草案为何遗漏了它</th></tr>\n  </thead>\n  <tbody>\n    <tr><td>文化回应式教学</td><td>出现频率足以自成一个条目，而不该被归入更宽泛的\"差异化教学策略\"之下</td></tr>\n    <tr><td>外语技能发展</td><td>外语教师的请求具有既有 ELA 编码无法涵盖的独特特征</td></tr>\n    <tr><td>课堂管理</td><td>指的是常规与流程等前置性管理，区别于草案中已有的反应式\"学生行为干预\"</td></tr>\n    <tr><td>班级、学校或社区活动</td><td>集会、家长之夜与校外考察既不属于既有的沟通类编码，也不属于文档类编码</td></tr>\n    <tr><td>学区财务</td><td>来自行政管理者的小众人群——预算与资源配置——在以教学为中心的草案中缺席</td></tr>\n  </tbody>\n</table>\n\n<p>要读的是模式，而不是这份清单。每一项新增都对应着一类<em>用户人群</em>、一种专业情境，或一段时间内使用方式的演变。而这些恰恰是模型在海量文本采样中会抹平的东西：它们在总量中稀少，却在熟悉该领域的读者眼中自成一体。</p>\n\n<h2>人类编码者之间的信度如何？</h2>\n\n<p>属于中等水平，作者对此也很坦诚。由于一条教育者消息往往同时承载多个编码——备课加差异化，或测评设计加课标对齐——kappa 这类传统的机遇校正统计量并不适用：它会把两位编码者编码集合之间的部分重叠算作完全不一致。</p>\n\n<p>研究团队改为在经过三轮校准后，于一个 289 条消息的留出集（占验证样本的 11.3%）上报告编码集合之间的<strong>Jaccard 相似度</strong>。在条目层级，平均两两 Jaccard 为 <strong>0.52</strong>；视信度评估落在条目、类别还是领域层级，取值范围为 <strong>0.46 至 0.55</strong>。不一致集中在相邻编码之间的语义边界处，而不在于某条消息是否属于该手册。</p>\n\n<p>这条粒度梯度才是真正有用的方法论要点：在一部含 72 个条目的层级结构中，只报告最细粒度上的单一系数几乎说明不了什么。应在每一个层级上分别报告一致性。</p>\n\n<h2>这部工具揭示了人们实际如何使用 AI</h2>\n\n<p>2,560 条经人类编码的消息共产生 5,237 次编码应用——大致每条消息两个编码。在领域层级，Liu 等人（2026）报告\"教学实践\"占比最大（1,913 次，36.5%），其后是\"课程与内容焦点\"（909 次，17.4%）、\"测评与反馈\"（603 次，11.5%）、\"专业职责\"（450 次，8.6%）与\"学生需求与情境\"（396 次，7.6%）。</p>\n\n<p>真正值得注意的数字是那个残差项：合并了话语延续与非教育性使用的\"其他\"领域，占到<strong>924 次应用，即 17.6%</strong>。将近五分之一的已编码内容都是对话维护——换个格式、再展开一点、继续——外加偶发的离题闲聊。任何分析聊天式研究数据的人，都该为它专门留一个编码，而不是当作噪音丢掉。</p>\n\n<h2>这对在定性研究中使用 AI 的研究者意味着什么</h2>\n\n<p>从这一设计（而不只是结论）中可以引出三条实践含义。</p>\n\n<p><strong>把模型用于广度，而不是概念权威。</strong>该论文自己的总结是：模型在结构化标注的一致性上、以及在数万个单元中浮现反复出现的模式上是可靠的——这些任务中它不会疲劳的特性是真实优势。但它在任何阶段都不是类别定义的来源。如果你的工作流让 AI 既生成编码手册<em>又</em>批准它，你就删掉了唯一那个抓出五个缺失类别的环节。像 <a href=\"https://qualitati.com/themelens\">ThemeLens</a> 这样的工具最好这样使用：让它快速提出一个候选结构，然后你去与它争辩。</p>\n\n<p><strong>有意识地选择分析单元。</strong>该语料中有些对话超过 500 条消息，因此作者以相互重叠的三消息窗口来编码，以保持对话语境可见。验证样本中超过 40% 的对话长度超过三条消息。若切分方式把受访者的发言与引发它的内容割裂开来，你就会损失意义——无论你分析的是聊天记录，还是来自 <a href=\"https://qualitati.com/ai-interviewer\">AI 访谈员</a>的访谈记录，这都是现实考量。</p>\n\n<p><strong>为人类验证阶段留出预算；它不是形式主义。</strong>在这项研究中，正是这一阶段产出了信度证据、扩展了工具的覆盖面，并逼迫纳入与排除标准写得足够清楚、可以教给他人。一条在选择性编码阶段就停下的流水线，交付的会是一部看似合理、却不具备上述任何依据的编码手册。</p>\n\n<h2>值得说明的局限</h2>\n\n<p>全部数据来自单一 AI 平台，因此编码手册的领域结构反映的是该平台的用户构成；作者预期结构比具体条目更容易迁移。研究所用的特定商业模型在严格意义上不可复现——真正可推广的是提示词、流程与人类决策节点。人类一致性水平虽然对这一规模的多标签编码而言尚可，但仍有提升空间。此外，该语料捕捉的是教育者<em>向 AI 提出了什么要求</em>，而不是他们随后在课堂上做了什么。</p>\n\n<h2>常见问题</h2>\n\n<h3>LLM 能独立构建一部定性编码手册吗？</h3>\n<p>它能生成一份可用的草案。在这项研究中，LLM 辅助阶段产出了最终 72 个条目中的 67 个。但人类编码者把该草案应用到未见数据上时，发现了模型漏掉的五个类别，所以草案并不是成品工具。</p>\n\n<h3>研究者为何使用 Jaccard 相似度而非 Cohen's kappa？</h3>\n<p>因为编码者会给同一条消息赋予多个编码。机遇校正系数假定每个单元只有一个标签，会把两位编码者编码集合之间的部分重叠视为完全不一致，从而低估多标签编码中真实存在的趋同。</p>\n\n<h3>0.52 的 Jaccard 值算好吗？</h3>\n<p>对集合型一致性而言，目前没有与 kappa 惯例等价的公认阈值，作者本人也称其尚可但仍可改进。它在此处的解释价值来自那条梯度——一致性从条目层级向类别层级、再向领域层级递升，这把不一致定位在编码边界上，而非定位在\"这条消息讲的是什么\"这一层面。</p>\n\n<h3>分析中途更换 AI 模型会让结果失效吗？</h3>\n<p>作者认为不会，但有一个特定前提：模型被当作标注工具使用，其输出在进入编码手册之前要经过人的检查与整合。如果模型输出本身被当作研究发现来报告，那么更换模型就会有影响。</p>\n\n<p>原始文献：Liu, A., Sun, M., Esbenshade, L., Xiao, M., Tian, V., Zhang, Z., &amp; He, K. (2026). <a href=\"https://arxiv.org/abs/2607.28889\">Human-LLM Collaborative Inductive Coding for Conceptualizing K-12 Educator AI Use</a>. arXiv:2607.28889.</p>\n\n<p><em>最后更新：2026 年 8 月 14 日。本文是对第三方研究的独立编辑性摘要；Qualitati 与该研究作者没有关联，读者应查阅原始预印本以获取完整的方法学细节。</em></p>\n","related":[{"slug":"synthetic-survey-panels-marginal-fidelity-2026","title":"合成问卷样本库真的在模拟人吗？2026 年的一项检验","description":"合成问卷样本库能模拟真实受访者吗？2026 年研究发现，与公开平均值吻合并不能证明模拟成功：无人设提示在 9 组对比中 9 次胜过人设样本库。","category":"研究方法论","date":"2026-10-22","readTime":"7 分钟阅读","author":"Qualitati 研究团队"},{"slug":"llm-as-judge-qualitative-interpretation-2026","title":"LLM 评审能给定性访谈解读打分吗？2026 年研究的检验","description":"LLM-as-judge 能否替代人工审核定性访谈解读？2026 年一项研究对比 3,560 条 AI 解读与人类评分：它能淘汰弱模型，却漏掉言外之意与细微差别。","category":"研究方法论","date":"2026-10-21","readTime":"7 分钟阅读","author":"Qualitati 研究团队"},{"slug":"rehearse-interview-protocol-simulated-participants-2026","title":"能用 AI 模拟受访者预演访谈吗？2026 年研究发现","description":"能否用 AI 模拟受访者预演访谈提纲？一项 2026 年对 21 位定性研究者的研究发现，预演带来了实际的提纲修改，也暴露出三个隐藏风险。","category":"研究方法论","date":"2026-10-21","readTime":"7 分钟阅读","author":"Qualitati 研究团队"}]}