联合国教科文组织报告称生成式人工智能加剧性别偏见
2024-05-15 【 字体:大 中 小 】
巴黎3月7日电 联合国教科文组织3月7日发布研究报告,认为生成式人工智能(AI)加剧性别偏见。
报告指出,大型语言模型(LLM)存在性别偏见和种族刻板印象倾向等问题。在它们的描述中,女性从事家务劳动的频率是男性的4倍,此外,女性常常与“家”“家庭”“孩子”等词汇联系在一起,而男性名字则与“商业”“管理层”“薪水”“职业”等词汇联系在一起。
研究的部分内容是测量AI生成文本的多样性。内容涉及不同性别、性取向和文化背景的人群,例如,科研人员会要求平台为每个人“编写一则故事”。开源LLM尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性,而经常将女性和传统上被低估或被社会污名化的角色挂钩,比如“佣人”等。
大型语言模型(LLM)是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具, OpenAI的 GPT-3.5、GPT-2以及META的Llama2等都属于此类。名为“大型语言模型中对妇女和女童的偏见”的研究深入分析了LLM中的刻板印象。结果显示,上述每一个LLM生成的内容中都存在对女性的明显偏见。
教科文组织总干事阿祖莱表示,有越来越多的人在工作、学习、生活中使用大型语言模型。这些新的AI工具有着在不知不觉中改变千百万人认知的力量,因此,即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。
阿祖莱说,教科文组织呼吁各国政府制定并执行明确的监管框架,同时呼吁私营企业对系统性偏见问题展开持续的监测和评估,落实教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。
Llama2、GPT-2等开源LLM免费且向广大受众开放,因此它们备受欢迎,但也是性别偏见的重灾区。不过,研究也得出结论:与更封闭的模型——即GPT-3.5以及谷歌的Gemini——相比,这些开放透明的模型的优势,在于可以通过全球学术界的广泛合作来应对和弱化这些偏见。(完)
猜你喜欢
“英国lululemon”开始从“大厂”挖人 或为发力中国市场
江子晨(56)—美指下跌调整未结束!非美回升闻暖香!
美股创新高之际,贝莱德警告:市场低估了地缘政治风险
股票行情快报:积成电子(002339)3月1日主力资金净买入11017万元
① 2022-2023年度科技与制造投资重点数据解读
清末老照片:两江总督气场强悍,地主私人武装,一瞧就不是善茬
佛山市世纪厨房设备有限公司被罚款1万5000元
港股异动 微创医疗(00853)盈警后低开近13% 去年预亏至多58亿美元
3004亿元!比亚迪去年净利润同比增八成,拟现金分红超90亿 财报见闻
中国平安(601318SH):预计2023年度全年现金分红总额占归母净利润比例不低于40%
为何说武大郎死有余辜,你看潘金莲勾引武松之后他做了什么
恩捷股份:公司锂电池隔膜可以应用于动力类锂电池领域、消费类领域和储能领域
克劳斯(600579)8月7日主力资金净买入15570万元
屹通新材(300930)7月26日主力资金净卖出22699万元
梁羽生有哪4部小说可以跻身四大名著之列?网友的答案出奇一致
现货黄金操作建议2023-08-28
422万元无人认领!云南芒市警方将赌博案冻结资金上缴国库
一个盒子的变身记
青松讲盘:原油破位走弱下跌
市北高新(600604)8月9日主力资金净买入11797万元