您的位置:首页 > 热点看点 > 正文

用AI分析姓名识别男女,Genderify为啥被骂到服务下线?

2020/8/1 10:26:41 来源:雷锋网 浏览:

上周刚面世的一项服务Genderify,号称能通过AI分析姓名、用户名或电邮地址来判断某人性别,结果因为算法偏差实在离谱,在社交媒体上引起了广泛关注。

我们来看看Genderify的一小部分“成绩单”:

输入“Meghan Smith”,评估结果为“男性:39.60%,女性:60.40%”;

但输入“Dr.Meghan Smith”,评估就会变为:“男性:75.90%,女性:24.10%”。

其他名字加上“Dr”,也会让系统给出更偏向男性的结果。

有网友试着输入了一些单词或名人姓名,Genderify也表现得令人失望:

比如输入“scientist”,评估结果为“男性:95.7%,女性:4.3%”;

输入“Oprah Winfrey”(美国著名脱口秀女主持),评估结果为“男性:78.3%,女性:21.7%”;

Genderify的首席运营官Arevik Gasparyan是一名女性,但系统连自家高管都不认得,给出了“男性:91.2%,女性:8.8%”的结果。

群众抗议情绪之强烈,已经迫使Genderify彻底关闭了这项服务,网站现已脱机,其免费API也无法再访问。

一位代表通过电子邮件向媒体回应:“如果大家不想要,这样的结局也许是公平的。”

尽管类似的性别偏见经常出现在机器学习中,但Genderify这种“不过大脑”的程度似乎让该领域的许多专家感到惊讶。Meredith Whittaker是纽约大学 AI Now的联合创始人,专注研究AI对社会造成的影响,她的反应就非常典型:“科技圈的愚人节来了?这是一种干扰科技与司法世界的心理战吗?”

为什么Genderify会引发大规模吐槽?就因为它根据某人的名字对其性别做出假设?并非如此。业界指出,其实人类也会通过名字猜性别,有时也会在这个过程中犯错误,这就需要了解人们的自我认同感,思考对方希望得到怎样的称呼,才能降低冒犯对方的可能。

Genderify的问题在于,它自动化了这些假设,显得太过“想当然”了,加深了这个过程中的性别刻板印象。比如前文提到的,在名字前加Dr.的情况,意味着系统认为:如果你是医生,那你大概率是个男人。

虽然创始人Arevik Gasparyan强调这是一个用于营销的数据分析工具,但有观点认为,它在特定的应用方式和地点下,会出现潜在危害。

例如这项服务被集成到医疗聊天机器人中,它对用户性别的假设,可能会导致聊天机器人发出误导性的医疗建议。

用户们对产品的性别歧视色彩表示担忧,有提问称:“如果我选择了既不是男性也不是女性,你如何处理这个问题?你如何避免性别歧视?你是如何处理性别偏见的?”

对此,Gasparyan称,服务是基于“已经存在的姓名/性别数据库”,公司也“正在积极寻求解决办法,以改善跨性别者等群体的用户体验”,试图将姓名/用户名/电子邮件的概念与性别身份区分开来。

一位代表也通过电子邮件给出了较为详细的回应:

“我们明白,我们的模型永远不会提供理想的结果,算法需要显著改进。为了让它更好地发挥作用,我们非常期待LGBTQ等群体的反馈,以协助我们尽可能地改进性别分析算法。我们的目标是建立一个自学习的人工智能,它将不会像任何现有的解决方案那样带有偏见。”

雷锋网编译,参考来源:

https://www.theverge.com/2020/7/29/21346310/ai-service-gender-verification-identification-genderify

https://baijiahao.baidu.com/s?id=1673625518588393349&wfr=spider&for=pc

雷锋网雷锋网雷锋网

看看网友怎么说

sunny暴暴:性别刻板印象?

文章来源网络,版权归属原作者,未注明作者均因传阅太多无从查证。本站为公益性非盈利网站,在本网转载其他媒体稿件是为传播更多的信息,此类稿件不代表本网观点。如果本网转载的稿件涉及您的版权、名益权等问题,请尽快与我们联系,我们将第一时间处理!
  • 传闻称英伟达RTX 3090显卡性能有望较RTX 2080 Ti大涨50%

    近段时间,社交网络上已经有许多可靠的泄密者透露了有关英伟达RTX3090显卡的消息。比如昨日,当@KkatCorgi在Twitter上询问RTX3090的TimeSpyExtreme基准测试成绩是否较上一代大涨了50%时,@kopite7kimi就给予了相当肯定的答复。当然,在官方证实之前,事情仍有

  • 韩国防疫新政出台自华归国企业人员“免隔离”

    来源:人民网人民网首尔7月31日电(杨晓娜)韩国中央灾难安全对策本部29日将中国、越南、柬埔寨指定为疫情低风险国家,并从当天起对14天内前往上述国家出差的韩国企业人员不再实施入境隔离措施。韩国中央灾难安全对策本部表示,上述三个疫情低风险国家是在综合韩企人员的出差需求、各国确诊人数,以及境外输入情况和

  • 德国舆论:美国撤军令人失望 但也是加强欧洲自主性的良机

    来源:央视新闻客户端美国29日宣布,计划从德国撤出近1.2万名美军并对其进行重新部署。与此同时,美国欧洲司令部将从德国迁至比利时,同在德国的美国非洲司令部未来也将迁至别处。对此,德国舆论普遍认为,美国的计划百害而无一利,并强调欧洲应该借此机会加强自主性。“德国之声”网站在29日的报道中称,在德美军目

  • 想偷偷给手机装“后门”?没门

    来源:经济日报移动互联网时代,很多人都遇到过APP或SDK(软件工具开发包)未告知用户就收集个人信息,或者是未以显著方式标示且未经用户同意,将收集到的用户搜索、浏览记录、使用习惯等个人信息,用于定向推送或广告精准营销,且未提供关闭该功能选项等问题。针对这些问题,7月29日,工业和信息化部召开会议,要

  • 北京面向“无车家庭”增发2万个新能源小客车指标,明起可申请

    记者从北京市交通委获悉,本市将于8月1日起面向“无车家庭”一次性增发2万个新能源小客车指标。7月31日,北京市小客车指标调控管理信息系统网站发布了《关于一次性增发新能源小客车指标配置办法的通告》和《申报指南》。据市交通委有关负责人介绍,此次增发的2万个新能源小客车指标,全部向符合条件的“无车家庭”配

  • 意大利总统呼吁不要对病毒放松警惕

    当地时间31日,意大利总统马塔雷拉在总统府举行的一场仪式上发表讲话,感谢疫情期间向意大利伸出援手的国家,同时指出“自由不是让其他人生病的权利”,病毒正在流行,不能放松警惕。△马塔雷拉(图源:意大利总统府网站)针对目前意大利出现的否认疫情风险的现象,马塔雷拉说,出于对逝者和国民所作出的牺牲的尊重,我们

  • 南非主流媒体发表评论 美国遏制中国战略暴露其软弱

    来源:央视网7月30日,独立传媒集团外事主编香农在南非第二大新闻网站独立传媒发表题为“冷战升级,美国开火”的评论文章,指出美国不断升级中美紧张关系,但其遏制中国的战略显然没有赢得任何荣誉,反而暴露了美国的软弱和缺乏想象力。文章主要内容如下:为遏制中国的崛起,封杀华为和加剧南海紧张局势似乎还不够,美国

  • 防疫又现“红牌动作”!4名柬埔寨维和军人解除隔离3天后确诊

    7月29日,柬埔寨卫生部发布每日疫情通报,显示前一天新增了7例确诊病例,这7例确诊病例除3例印尼输入性外,还有4例是解除了14天隔离的4名刚刚回到柬埔寨的维和官兵。7月10日,80名柬埔寨联合国维护部队官兵结束在马里工作任务后返回柬埔寨,然后在实居省进行集中隔离,在隔离地13天进行复检时,7月24日

  • 翡翠原石是怎样给人惊喜的?

    翡翠原石是怎样给人惊喜的?

  • 现场!美副总统彭斯车队一天遇两起车祸 事后发推“报平安”

    现场图(C-SPAN)现场图(C-SPAN)海外网7月31日电据美媒“商业内幕”报道,当地时间30日,美国副总统彭斯的车队在宾夕法尼亚州先后遭遇两起车祸,事故未造成伤亡。彭斯原计划当天在宾州的“警察支持特朗普”的活动上讲话,并参观一家化学公司。据报道,当天,彭斯的竞选大巴在倒车时,撞上了一辆自卸卡车