当前位置:首页>要闻在线 > 正文

《促进人工智能算法性别平等》报告在沪发布 八成从业者不了解实现算法公平的解决方案

发布时间:2021-10-08 11:50:50来源:中国妇女报
分享到:
摘要:近日,由联合国妇女署资助支持、玛娜数据基金会主办的“促进人工智能算法性别平等”报告发布会暨政策研讨会在上海举行。

“对企业开展性别意识及能力建设,对社会倡导提升对于该问题的认知和讨论,都是促进算法性别平等的举措。”

近日,由联合国妇女署资助支持、玛娜数据基金会主办的“促进人工智能算法性别平等”报告发布会暨政策研讨会在上海举行,会上发布了《促进人工智能算法性别平等研究报告(2021)》(下称《报告》)。与会专家表示,算法的应用使既有的、存在于社会中的性别偏见得到强化,而算法放大性别歧视源于工程师未将解决性别偏见纳入开发需求,

算法性别治理议题将影响今后社会样貌

联合国妇女署驻华办公室高级项目官员马雷军指出,中国在促进性别平等以及保护妇女权益方面,有很多实质性的举措。由玛娜数据基金会实施的联合国妇女署的“促进人工智能算法性别平等”项目,填补了国内关于人工智能领域性别问题研究的空白。

上海市浦东新区妇女联合会副主席国云丹表示,“算法性别平等议题讨论尚且处于起步阶段,现在讨论算法性别治理议题将影响到今后我们所面对的所置身的社会是何种样貌。”

她提出了对算法偏见问题的观察,“随着数字化转型的开展,性别平等的推动遇到了更大的挑战。技术本身无性别偏见,但算法的应用使既有的、存在于社会中的性别偏见得到强化”。国云丹期待通过该项目撬动社会意识,探索有效的落地措施。

据了解,2019年,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,提出了人工智能治理的框架和行动指南,明确提出要在数据获取、算法设计、技术开发、产品研发和应用过程中消除偏见和歧视。

该委员会近日又发布了《新一代人工智能伦理规范》,第十三条特别强调在数据采集和算法开发中,加强伦理审查,充分考虑差异化诉求,努力实现人工智能系统的普惠性、公平性和非歧视性。

玛娜数据基金会秘书长张唯表示,“对企业开展性别意识及能力建设,对社会倡导提升对于该问题的认知和讨论,都是促进算法性别平等的举措。”

算法工程师对算法性别平等的意识及能力亟需提升

据《报告》介绍,目前人工智能算法的诸多应用场景中均存在一定的性别歧视现象。以人工智能开放平台为例,一张“端着水果篮的男性”图片被AI人脸识别平台检测为“女性”,单独截出头像却能够被检测为“男性”。在就业场景中,2018年亚马逊公司的自动招聘算法倾向于给关键词含“女”字的简历打低分,降低了女性工作申请成功率,最后弃用了该招聘算法。

“算法中存在性别歧视问题,主要源于训练AI的数据集反映了人类社会存在的性别偏见,而算法工程师对这一问题缺乏意识,未将解决性别偏见纳入开发需求,从而使得算法放大了性别歧视。“该项目课题组专家况琨解释说。

《报告》通过专题社会调研的数据显示,58%的人工智能算法从业者不知道算法当中存在的性别偏见问题,73%的从业者不知道存在专门针对女性的恶意算法。而对于如何解决这一问题,更是有72%的从业者不了解数据偏误(或数据偏差)的解决方案或技术措施,80%的从业者不了解实现算法公平的解决方案或技术措施。表明从业者对算法性别平等的意识及能力较为欠缺,亟需提升。

企业可采取一系列手段直接干预算法偏见

为女性提供更多的科技教育机会,企业提供性别平等的职业准入、培训、晋升机会,增强企业内部的性别平等意识培训等,都是解决这一问题的重要举措。

在参与调研的从业者当中,有72%的从业者参与的人工智能算法项目中女性开发者比例少于30%,66%参与的团队中女性决策者比例少于30%。该项目课题组专家负责人周旅军认为,提升女性开发者和决策领导者比例,也将有利于促进算法中的性别平等,促进科技纳入更加多元包容和性别友好的视角。

开发者和程序员等相关从业群体对算法偏见与算法公平性的认知尚存在很大改善空间。企业可以采取一系列手段直接干预算法偏见,在算法产品开发和应用过程中提升性别公平性。《报告》中从开发、审计、反馈改进和应用决策四个方面提出建议:包括减少算法模型在开发过程中的性别偏见;公开算法审计结果,确保数据公平性;为产品用户设置反馈性别偏见的渠道,将公平性需求纳入产品改进过程;在高风险场景中,应当由人而非算法来做出决策。

此外,立法为审计可行性提供制度保障、研究机构和社会团体开展第三方算法审计等举措均有利于促进人工智能算法性别平等。

对于生产和使用数据的个人,周旅军也提供了几点建议:首先,作为数据生产者,认识到算法偏见,避免生产出带有性别偏见的话语;其次,将偏见反馈给平台,参与到算法产品性别平等的改进过程中;第三,要求企业公开训练数据的审计结果;最后,要求了解算法的使用场景和目的,选择企业使用数据的方式。

张唯在会上强调,一方面是要在人工智能的伦理层面建设和倡导性别平等的意识理念和话语体系,另一方面则是要寻找将性别平等观念落地的途径和措施,不能只止于反思和批判,要真正将性别平等的理念贯穿于人工智能行业中组织机构的内部运转,为其提供可行的操作方法,使算法能够为促进性别平等服务。

点赞

已收到1个赞

分享到: