消息详情
Solidot · @solidot · 2026年11月10日 19:20
生成式 AI 过度美化现实 2026-11-10 19:04 by 少数派报告 生成式 AI 如 ChatGPT 正融入日常生活,成为人们获取信息和辅助决策的重要工具。然而大模型中嵌入的错误信息和偏见引发了一系列伦理方面的担忧。以往的研究已揭示出 AI 在涉及人类特征的内容上存在偏见,例如肤色、性别以及地理文化背景等。为减轻文本生成图像(Text-to-Image)生成式模型中的偏见,OpenAI 等公司引入了提示词修订(Prompt Revision)机制。一种隐性的处理过程,即通过重写用户输入的提示词,添加更多细节,例如要求图像中呈现不同性别和肤色的人物,从而促进图像的多样性。然而重写用户提示词也可能引入其他偏见,在用户不知情下改变其原本的意图。发表在《Technology in Society》上的一项研究以集约化畜牧业(Intensive Livestock Farming)为例,首次提供证据表明,OpenAI 的文本生成图像模型 DALL-E 3 会通过提示词修订机制,抹去具有争议性议题的真实面貌。DALL-E 3 表现出一种明显的偏见,即倾向于将畜牧业浪漫化、美化。它生成的图像通常描绘奶牛在牧场上吃草、猪在泥地里拱土。即使研究人员明确要求生成真实的场景,这种偏见依然存在。当研究人员关闭提示词修订功能后,生成的图像便更加接近现代畜牧业的实际饲养方式,即将农场动物饲养在室内。研究人员要求模型生成北美、欧洲和大洋洲农场的图像。结果发现,无论指定哪个地区,模型生成的图像大多呈现田园牧歌式的场景在关闭提示词修订功能后,不同地区之间的差异开始显现。通过提示词修订机制将畜牧业浪漫化,掩盖其真实状况,可能会进一步强化公众对于农场动物饲养方式的错误认知,甚至传播错误信息和虚假信息。这种现实与 AI 生成内容之间的脱节,可能会阻碍社会开展有意义的对话。研究人员警告应警惕 AI 生成图像中普遍存在的、过度美化现实的倾向。 https://www.sciencedirect.com/science/article/pii/S0160791X26002551 #人工智能
相關消訊
- 大脑的言语感知中枢也能生成口语词汇 2026-11-20 15:05 by 空气的颜色 大脑名为韦尼克的区域(Wernicke’s area,该脑区长期以…
- Google 于 2027 年 1 月在全球实施 Android 开发者身份验证 2026-11-20 14:49 by 图书馆员与黄金锅 Google …
- Visa、Mastercard 和 JPMorgan 证实客户数据泄露 2026-11-20 14:33 by 长颈龙的完美一天 Visa、Masterc…
- 小鼠拳击俱乐部或能解释为什么人类爱观赏暴力事件 2026-11-20 13:54 by 伊甸 人类爱围观暴力事件,无论是电影、游戏还是格斗比赛。科学家一直…
- IEA 警告称到 2030 年数据中心碳排放量将增加七成 2026-11-20 00:34 by 电波骑士 国际能源署(IEA)发表报告警告,到 2030…
- 欧盟委员会如何向逾 4 万工作人员部署 Matrix 2026-11-19 23:19 by 圣天秤星 Matrix 点对点通信协议正被越来越多的政府机构…
- 城镇夜空飞过的人造卫星数量超过肉眼可见星星数量 2026-11-19 22:27 by 羚羊与秧鸡 在夜晚的任何时刻,中纬度地区城镇上空掠过的人造卫星数量…
- 全球专利申请量创新高 2026-11-19 20:28 by 刀剑神域进击篇05 世界知识产权组织公布的年度《世界知识产权指标》(WIPI)报告显示,20…
- 黄仁勋的下台可能削弱开放权重模型让闭源模型受益 2026-11-19 17:09 by 开普勒62号1:邀请 黄仁勋的下台可能削弱开放权重模型生态,让 O…
- 微软官方 agent-framework 软件包被黑客劫持安装恶意程序 2026-11-19 16:24 by 火星战将 微软托管在 PyPI 上的 ag…