关注官方微信
您现在的位置:首页 >> 通知公告 >>  通知公告

通知公告

直播报名 | 为了让AI更加公平,我们还能做些什么?

发布时间:2021-05-20 点击次数:

 

11.jpg


人们通常认为,比起人类固有的歧视和偏见,利用大数据得出的结论更加中立客观。毕竟,数据和算法是不会说谎的。而有研究者发现,事实并非如此。


2020年,一部名为《编码偏见》(Coded Bias)的纪录片在美国网络上映。片中来自美国麻省理工大学一名黑人女性人工智能研究员布兰薇妮(Joy Buolamwini),在研究过程中偶然发现,自己脸部无法被识别出来——直到她戴上一个纯白色的面具。


有研究显示,最糟糕的情况下,深色女性面孔的失败率超过三分之一,相比之下,白人男性却有机会获得低至 0% 的错误率。原因是主流的人脸识别数据集中,浅色皮肤占据绝大多数,导致样本数据的不平衡,并最终导致了识别错误率的差别。


2.png

《编码偏见》海报 图片来源:IMDB

3.png

图片截图自算法正义联盟影片



这种“算法偏见”还出现在其他场景中。


2018年,某世界五百强企业的招聘系统被指歧视女性,报道称其招聘系统识别到女性简历,会自动降低会该名应聘者的“得分”,原因是算法数据来自于以往10年的招聘数据,而过去十年,该企业被录用的候选者大部分是男性。


人类探讨“公平”千百年,对公平的定义却不尽相同。而AI算法却依赖着相对不变的数学模型。相同的标准下,算法输出的结果似乎永不变更,这使得标准的制定成为拷问结果公平性绕不过去的先决审判。


标准谁来制定,是否公平,有无偏见?是人的造物生来具备人的缺点,还是技术生来中立而从编码、程序与它的设计者身上继承了偏见?如果偏见避无可避,那如何保证最大程度的公平?


5月23日10:00-12:30,未来论坛首度发起的科技与人文结合的课题“AI伦理与治理系列”02期 · AI的公平性即将在各大媒体上线直播。


在这里,我们将AI研究者、开发者、决策者聚集在一起,为“内部算法”的改进与“外部公平”的促进提出建设性意见,为AI科技的发展寻求一条更为平衡、平等的发展路径。


Agenda

会议议程

- 北京时间 2021年5月23日(周日)上午10:00-12:30

- 美东时间 2021年5月22日(周六)晚上22:00-00:30

10:00-10:05 主持开场

主持嘉宾&组织者:

- 崔 鹏,未来论坛青创联盟成员,清华大学计算机系长聘副教授,博士生导师

10:05-11:05 主题报告

《法律如何保障AI应用的公平性》

- 申卫星,清华大学法学院院长、教授 

摘要:法律通过数据治理、算法治理两个维度,对AI的公平做了一系列的保障规则。一方面,法律赋予个人信息等民事权利,确保个人在数字化空间的自决权和知情权;另一方面,法律设立风险评估等运营者义务和安全审查等外部监督措施,保障AI应用的公平性风险能够被查知和处理。AI立法成为数据立法之后的下一个专门领域,欧盟、美国分别制定了专门的立法议案,我国未来也需要开展立法储备,建立以风险等级为基础的AI公平性保障制度。


《人工智能与数据治理》

- 杨 强,微众银行首席AI官,香港科技大学讲席教授 

摘要:人工智能如果不辅以数据治理则可产生严重的马太效应从而加深社会分化。联邦学习研究人工智能如何合规使用分布异构的多个数据集来建模。其效果是赋能中小微企业,使之享受人工智能的成果。同理,迁移学习和AUTOML也是人工智能变得更加普适。本报告中,讲者将着重讲述联邦学习近期的进展及对于社会公平性的意义。


《全球AI治理进展和新动态》

- 段小琴,华为公司AI治理首席专家 

摘要:本报告中,讲者将分享全球AI治理的进展和趋势,简要分析我国AI治理面临的挑战,并提供了应对挑战的一些思考方向。

11:05-12:05 圆桌讨论

讨论嘉宾

- 王小川,未来论坛理事,搜狗CEO

- 山世光,未来论坛青年理事会2021 联席主席,中科院计算所研究员,中科视拓(北京)联合创始人

12:05-12:30 现场问答环节Q&A




嘉宾简介

(按姓氏拼音顺序排列)

4.jpg

崔   鹏

未来论坛青创联盟成员,清华大学计算机系长聘副教授,博士生导师

崔鹏,未来论坛青创联盟成员,清华大学计算机系长聘副教授,博士生导师。研究兴趣聚焦于大数据驱动的因果推理和稳定预测、大规模网络表征学习等。在数据挖掘及人工智能领域顶级国际会议发表论文100余篇,先后5次获得顶级国际会议或期刊论文奖。担任IEEE TKDE、ACM TOMM、ACM TIST、IEEE TBD等国际顶级期刊编委。曾获得国家自然科学二等奖、教育部自然科学一等奖、电子学会自然科学一等奖、北京市科技进步一等奖、中国计算机学会青年科学家奖、国际计算机协会(ACM)杰出科学家。入选中组部万人计划,并当选中国科协全国委员会委员。

5.jpg

段小琴

华为公司AI治理首席专家

段小琴,华为公司AI治理首席专家,负责华为公司AI产业和技术政策领域的洞察、规划、策略制定等,探索新产业机会,识别政策风险,推动公司决策和布局。自2000年加入华为,段小琴女士历任开发部部长、PDT(产品开发团队)经理等管理岗位,并在标准和技术创新领域经验丰富,曾任华为公司3GPP标准组织架构组首席参会代表,有300多件发明专利获得授权。

6.jpg

申卫星

清华大学法学院院长、教授

申卫星,清华大学法学院院长、教授。主要研究领域为民法学和计算法学,兼任教育部法学教学指导委员会委员、中国法学会常务理事、中国法学会网络与信息法学研究会副会长、中国国际经济贸易仲裁委员会仲裁员,同时担任工信部、交通部、卫健委等中央部门的法律顾问,中国人工智能产业发展联盟第一届专家委员会委员,在《中国社会科学》《法学研究》《中国法学》等学术期刊发表论文70余篇,参与《物权法》《民法典》《数据安全法》《个人信息保护法》等立法起草、论证工作,主持国家重点研发项目“热点案件和民生案件审判智能辅助技术研究”,国家社科基金重大项目“互联网经济的法治保障研究”,科技部战略规划项目“人工智能重大立法问题研究”。

7.jpg

杨  强

微众银行首席AI官,香港科技大学讲席教授

杨强,微众银行首席人工智能官,香港科技大学讲席教授,AAAI 2021大会主席,中国人工智能学会(CAAI)荣誉副理事长,香港人工智能与机器人学会(HKSAIR)理事长以及智能投研技术联盟(ITL)主席。他是AAAI/ACM/CAAI/IEEE/IAPR/AAAS Fellow,也是《IEEE Transactions on Big Data》和《ACM Transactions on Intelligent Systems and Technology》创始主编,曾获2019年度“吴文俊人工智能科学技术奖”杰出贡献奖,2017年 ACM SIGKDD 杰出服务奖。他曾任华为诺亚方舟实验室创始主任,第四范式公司联合创始人,香港科技大学计算机与工程系系主任以及国际人工智能联合会(IJCAI)理事会主席。领衔全球迁移学习和联邦学习研究及应用,著作包括《迁移学习》,《联邦学习》等。

8.png

山世光

未来论坛青年理事会2021 联席主席,中科院计算所研究员,中科视拓(北京)联合创始人

山世光,中科院计算所研究员、博导,现任中科院智能信息处理重点实验室常务副主任。他的研究领域为计算机视觉、模式识别和机器学习。已在国内外学术刊物和会议上发表论文300余篇,其中CCF A类论文100余篇,论文被谷歌学术引用23000余次。研究成果获2005年度国家科技进步二等奖、2015年度国家自然科学二等奖。他带领团队研发的人脸识别技术已应用于公安部门、华为等众多产品或系统中,取得了良好的经济和社会效益。曾应邀担任过十余次领域主流国际会议的领域主席,任多个国际学术刊物的编委(AE)。他是基金委优青,国家万人计划入选者,CCF青年科学家奖获得者,腾讯科学探索奖获得者。

9.jpg

王小川

未来论坛理事,搜狗CEO

王小川先生,现任搜狗公司CEO,十三届全国政协委员、工业和信息化部通信科学技术委员会委员、九三学社中央促进技术创新工作委员会主任、清华大学计算机学科顾问委员会委员、清华大学天工智能计算研究院联席院长等社会职务。王小川先生在1994年用吴文俊消元法,首次在微型机下完成初等几何命题的全部证明;1996年获得第8届国际信息学奥林匹克竞赛(“IOI”)金牌,之后毕业于清华大学计算机科学与技术专业,拥有工学学士、工学硕士, 以及EMBA学位。

他先后发明了有5亿多用户在使用的搜狗输入法、搜狗搜索等互联网标志性产品,被公认为中文信息化的重大突破;人工智能时代,他带领搜狗公司发展语音、图像、翻译等AI技术并率先实用化,带领搜狗公司成长为国内用户规模第四大互联网公司,以及赴美上市中国人工智能第一股。

转载自:未来科学论坛微信公众号

您是第访问该页面的用户

通知公告

最新图文资讯

| 网站首页中心概况新闻动态师资队伍人才培养技术研发科研平台开放与交流资料下载党建工作通知公告联系我们

微信公众号
联系电话

028-61830850
邮箱:      office@uestcrobot.net
地址:      四川省成都市高新西区西源大道2006号
电子科技大学清水河校区创新中心

版权所有©2020 人机智能技术与系统教育部工程研究中心 ICP备15015243号-1 公网安备 52032102000193号
   blue.png

微信
咨询
电话

028-61830850
邮箱:      office@uestcrobot.net
地址:      四川省成都市高新西区西源大道2006号
电子科技大学清水河校区创新中心

顶部