当前位置:首页 >> 林雄威

人工智能行业的灾难性缺乏多样性使得偏见持续存在杨进明【新闻】

2022-08-19 14:43:07  百娱娱乐网

人工智能行业的“灾难性”缺乏多样性使得偏见持续存在,

根据纽约大学研究中心发表的最新研究结果,人工智能领域缺乏多样性已达到“一个清算时刻”。AI Now研究所发表的超过150项研究和报告的调查显示,“多样性灾难”导致了使性别和种族偏见长期存在的有缺陷的系统。

报告称,人工智能领域绝大部分是白人和男性,有可能复制或延续历史偏见和权力不平衡引用的例子包括图像识别服务,进行少数群体的攻击性分类,采用仇恨言论的聊天机器人,以及亚马逊技术未能识别肤色较深的用户。报告称,人工智能产业建立的系统偏差很大程度上归因于该领域内部缺乏多样性。

“该行业必须承认形势的严重性,并承认其现有方法未能解决这些问题,”该报告的作者凯特克劳福德说。“人工智能系统用于种族和性别的分类,检测和预测是迫切需要重新评估的。”

报告称,超过80%的人工智能教授都是男性,只有15%的人工智能研究人员和10%的人工智能研究人员都是女性。人工智能领域的构成反映了“计算机科学,Stem领域,甚至更广泛的整个社会的更大问题”,斯坦福大学博士候选人和研究员Dana?Metaxa专注于互联网和民主问题。根据美国国家科学委员会的数据,2015年,女性仅占计算机和信息科学领域的24%。只有2.5%的谷歌员工是黑人,而Facebook和微软都是4%,而且AI领域的跨性别者或其他性别少数群体的数据很少。

“随着人工智能越来越融入社会,这个问题背后的紧迫性正在增加,”Metaxa说。“从本质上讲,人工智能缺乏多样性正在将越来越多的权力和资本集中在一部分人的手中。”

AI创业公司的风险投资资金在2018年达到了创纪录的水平,与2017年相比增长了72%,达到93.3亿美元的资金。AI4首席执行官苔丝波斯纳表示,随着更多的资金和资源投入到人工智能中,公司有更多的资金和资源用于人工智能,公司有机会应对危机,AI4ALL首席执行官营利性,旨在增加人工智能领域的多样性。她说,在人工智能达到“临界点”之前,必须解决这种缺乏多样性的问题。

她说:“每天都要解决问题变得更加困难。” “现在我们处在一个激动人心的时刻,我们可以在看到之后会变得多么复杂之前能够发挥作用。”

周二发布的报告警告说,不要通过解决“管道”问题或单独雇用谁的构成来解决科技行业的多样性问题。根据2018年AI指数,美国人工智能目标的申请人数目占71%,该指数每年发布一份独立的行业报告。人工智能研究所建议采取其他措施,包括公开公布工人的薪酬水平,分享骚扰和歧视透明度报告,以及改变招聘做法,以增加各级代表性不足群体的数量。

谷歌解散了一个人工智能伦理委员会,旨在在3月宣布这一问题一周后监督这些问题。高级技术外部顾问委员会在任命反LGBT倡导者凯尔科尔斯詹姆斯之后,在公司内外引起了强烈反对。

波斯纳指出,为了解决人工智能中的多样性问题,可能需要进一步努力提高算法构建方式和工作方式的透明度。本月,美国参议员科里·布克和罗恩·怀登推出了“算法问责法案”,这项法案要求每年收入超过5000万美元的公司使用算法或者至少要对100万用户的信息进行评估。

“问题的核心在于市场力量是否足以解决这个问题,”波斯纳说。“它将在人工智能的各个阶段付出努力,并在文化和程序层面进行改变以解决这个问题。”

西安白癜风医院

尿血医院

济南复发性白癜风医院

合肥排卵异常医院

福州甲状腺结节医院

相关资讯
友情链接