生成式 AI 过度美化现实

生成式 AI 如 ChatGPT 正融入日常生活，成为人们获取信息和辅助决策的重要工具。然而大模型中嵌入的错误信息和偏见引发了一系列伦理方面的担忧。以往的研究已揭示出 AI 在涉及人类特征的内容上存在偏见，例如肤色、性别以及地理文化背景等。为减轻文本生成图像（Text-to-Image）生成式模型中的偏见，OpenAI 等公司引入了提示词修订（Prompt Revision）机制。一种隐性的处理过程，即通过重写用户输入的提示词，添加更多细节，例如要求图像中呈现不同性别和肤色的人物，从而促进图像的多样性。然而重写用户提示词也可能引入其他偏见，在用户不知情下改变其原本的意图。发表在《Technology in Society》上的一项研究以集约化畜牧业（Intensive Livestock Farming）为例，首次提供证据表明，OpenAI 的文本生成图像模型 DALL-E 3 会通过提示词修订机制，抹去具有争议性议题的真实面貌。DALL-E 3 表现出一种明显的偏见，即倾向于将畜牧业浪漫化、美化。它生成的图像通常描绘奶牛在牧场上吃草、猪在泥地里拱土。即使研究人员明确要求生成真实的场景，这种偏见依然存在。当研究人员关闭提示词修订功能后，生成的图像便更加接近现代畜牧业的实际饲养方式，即将农场动物饲养在室内。研究人员要求模型生成北美、欧洲和大洋洲农场的图像。结果发现，无论指定哪个地区，模型生成的图像大多呈现田园牧歌式的场景在关闭提示词修订功能后，不同地区之间的差异开始显现。通过提示词修订机制将畜牧业浪漫化，掩盖其真实状况，可能会进一步强化公众对于农场动物饲养方式的错误认知，甚至传播错误信息和虚假信息。这种现实与 AI 生成内容之间的脱节，可能会阻碍社会开展有意义的对话。研究人员警告应警惕 AI 生成图像中普遍存在的、过度美化现实的倾向。