一项新的研究表明， 像 ChatGPT 这样的大型语言模型在回答生物学问题时表现出令人担忧的偏见。 研究人员 Anja Geitmann 和 Amir Bidhendi 发现，ChatGPT 对细胞生物学和其他生物学领域提示的反应非常偏爱动物示例，而往往忽视植物生物学。 这种现象揭示了人工智能系统中的一种“植物失明”，让人想起植物生物学在生物学教育和研究中代表性不足的更广泛趋势。
研究人员向 ChatGPT 询问了有关细胞成分、胞质分裂和器官细胞生物学等主题的问题。 虽然一些答案确实提到了植物差异，但许多答案只讨论了动物细胞和过程。 这种变量和偏差的表现表明这些人工智能模型缺乏可靠地回答此类问题所需的多样化生物学知识。
这很重要，因为像 ChatGPT 这样的工具越来越多地用于教育和研究目的。 如果这些系统传播误解或偏向动物生物学，则可能会对植物生物学等领域的学习和科学进步产生负面影响。 研究人员警告说，专家需要参与评估人工智能系统的训练数据和响应，以避免长期存在偏见。
测试 ChatGPT 的生物知识
在他们的研究中，Geitmann 和 Bidhendi 直接查询 ChatGPT 模型，以评估其生物学概念知识及其包含的植物示例。 他们向 ChatGPT 询问了有关细胞成分、细胞分裂、精子功能和器官细胞生物学等主题的问题。 作者提出的这些问题与所有真核生物相关，而不仅仅是动物。
收到 ChatGPT 的回复后，研究人员对其中提到的植物生物学进行了分析，并给出了“植物认知分数”。 结果好坏参半。 在某些情况下，比如解释细胞成分，ChatGPT 确实提到了植物的差异，如液泡和膨压。 但在许多其他回应中，ChatGPT 只讨论了动物细胞和过程，完全忽略了植物生物学。
例如，当被问及器官如何弯曲和施加力时，ChatGPT 仅描述了肌动蛋白和肌球蛋白等动物收缩蛋白，而从未提及植物细胞壁肿胀或膨胀压力变化。 ChatGPT 反应中的这种变量和低“植物意识”揭示了其生物学知识的差距。
ChatGPT 的动物偏见反应
研究人员提供了几个例子，其中 ChatGPT 的反应表现出对动物生物学的偏见：
- 当被问到“胞质分裂如何分离细胞质体积？” ChatGPT首先讨论了动物的收缩环过程。 它最终提到了植物细胞板的形成，但只是在深入描述了动物胞质分裂之后。
- 对于“精子细胞如何到达卵子？”，ChatGPT 仅关注动物基于鞭毛的游泳，从未提及植物花粉管，除非明确提示讨论植物受精。
- 当被问到“细胞如何内吞以对抗膨胀压力？” ChatGPT 错误声明 植物细胞壁 通过抵抗膨压来帮助内吞作用。 作者指出，这种“严重的概念错误”歪曲了植物细胞生物学。
- 对于“生物体的器官如何弯曲和施加力？”的问题。 ChatGPT 专门讨论了动物收缩蛋白。 正如研究人员指出的，它没有提及允许植物器官运动的膨压或细胞壁变化。
这些例子表明，ChatGPT 对以动物为中心的反应存在可变但频繁的偏见，即使问题可以更广泛地适用于其他生物体。 作者认为这揭示了 ChatGPT 训练数据中的缺陷，从而传播了有问题的误解。
ChatGPT 植物盲症的影响
研究人员认为 ChatGPT 的偏见和有时不正确的反应具有令人担忧的含义：
- 人工智能以动物为中心的答案可能会误导寻求生物信息的非专家用户。 有缺陷的解释，例如植物细胞壁如何帮助内吞作用（将物质带入细胞的过程），可能会传播误解。
- 这种偏见反映了更广泛的 “植物盲症” 这已经渗透到生物学教育和研究中。 动物往往会受到过多的关注，从而使植物生物学边缘化。
- 随着像 ChatGPT 这样的生成式人工智能系统越来越多地用于教育和研究目的，这些偏见可能会加剧这种不平衡。 如果人工智能传播以动物为中心的观点，它可能会进一步排除植物生物学的观点。
生物学教科书和学术期刊已经倾向于动物例子。 如果有偏见的人工智能系统成为学生和研究人员的常用工具，它们可能会加剧对植物生物学的忽视，并传播有关基本生物学概念的错误信息。 适当多样化的人工智能反应对于包容、公正地理解生物学至关重要。
为什么植物多样性在人工智能中很重要
如果像 ChatGPT 这样的大型语言模型缺乏植物生物学示例，它可能会延续破坏性偏见并传播错误信息。 对于希望成为生物学权威来源的人工智能系统来说，广泛、多样化的知识至关重要。
植物盲症偏见 在生物学教育和研究中共享哪些信息和观点。 如果人工智能模仿并放大这些偏见，就会损害生物学的多样性。 植物生物学提供了生物学概念和过程的独特且富有启发性的例子。 忽视这一点会扭曲理解。
学生的想法 如果他们忽视植物就会错过 可能是巨大的。 例如，染色体和昼夜节律都是首先在植物中观察到的。
提高人工智能多样性的建议
盖特曼和比亨迪提出了一些关于提高人工智能对植物生物学的理解的建议。 遵循 GIGO – Garbage In, Garbage Out 的原则，他们讨论模型中包含哪些信息。 他们认为，如果为模型提供“适当的培训材料”，这些模型将会变得更加有用。 他们还写道，正确处理输出很重要。 他们写：
挑战在于人工智能系统通过用户强化和确认来学习。 由于相对大小 生物医学研究 与植物科学相比，具有高“PAScore”的多样化答案可能不会得到足够频繁的强化，以确保答案的一致性多样性。 构建基于强化的学习的方式至关重要，而主题专家参与验证该过程也至关重要——正如一篇深思熟虑的文章所指出的那样 范迪斯 et al. [2023].
盖特曼和比亨迪 2023。
对多样化、公正的人工智能的需求
Geitmann 和 Bidhendi 的这项研究强调了专家和用户评估对于识别现有人工智能系统局限性的重要性。 通过认真的反馈，可以通过扩大训练数据多样性和微调模型架构来识别和解决偏差。
本文没有探讨的实际问题是 谁来支付必要的培训费用？ 各个人工智能公司的首席执行官都会观察到，许多其他企业通过让其他人免费工作而发家致富。
在这里很难不尖锐地关注学术出版商——尽管我会指出 Annals of Botany 为本网站提供资金的公司是一家非营利组织。 公司成员不领薪水。
虽然更加公正、协作的人工智能可以丰富人类的集体生物学知识和理解，但它需要大量的清理和维护。
阅读文章
盖特曼，A. 和 Bidhendi，AJ (2023)“人工智能语言模型中的植物盲和多样性“ Trends in Plant Science。 可在： https://doi.org/10.1016/j.tplants.2023.06.016.
