最近,微软宣布它将停止使用面部分析来推测情绪状态和身份特征(如性别、年龄、微笑、面部头发、头发和化妆等)并停止销售和限制使用基于面部识别技术的若干服务。
南达科塔的人工智能前台复合发现,早些时候IBM完全退出了面部识别市场,Facebook还宣布关闭了十年历史的面部识别系统,删除超过十亿用户的面部扫描数据。与此同时，由于面部识别功能,许多大型企业在欧洲和美国面临着许多诉讼。
微软将停止大部分面部分析和识别服务
微软决定关闭并限制其产品和服务是基于最近发布的负责人工知能标准(以下称标准)的最新版本。
经过两年的自我评估后,微软在2019年第一版的基础上更新了该标准。新的标准包括六个基本原则,即责任、透明度、公平、可靠性和安全、隐私和安全以及包容性原则。
微软人工智能部门首席执行官纳塔莎·克兰普顿说该标准详细规定了团队在开发人工智能系统时必须努力实现的具体目标或结果。每个目标是由一系列的要求组成的,并利用现有的工具和实践进行映射。它超越了迄今为止主导人工智能领域的高层次原则。
微软AI标准核心
为了使微软的人工智能产品符合这一新标准,微软 Azure AI首席团队产品经理莎拉·伯德(Sarah Bird)说:微软更新了有关脸部识别的内容,包括 对 访问 政策 的 新 限制 和 暂停 敏感 属性 的 人工智能 分类 功能,并加强对股权和透明度的投资。
具体来说，从6月21日开始，首先,新用户需要申请访问权,能够使用脸部识别工具,例如脸部API,年长用户可申请并获得批准一年,他们必须证明他们符合微软的人工智能伦理标准,这些功能可以为用户和社会带来好处。
此外,微软已停止使用面部分析来推测情绪状态和身份属性(如性别、年龄、微笑、面部发型、发型和化妆等),新用户将无法使用,而年老用户则将于明年6月30日之前才能使用。
面部识别表情
Bird指出，情绪分类函数被发现是“缺乏对情绪的定义的共识”和“无法解释不同案例、不同区域的潜在表现和情绪状态之间的联系”。这些用于推断敏感特征的服务非常易受到滥用,包括歧视和耻辱,或不公平的对待。
事实上,微软并不是第一个决定关闭服务的巨人。 谷歌云去年也推出了类似的评估,最终决定从其情感检测工具中筛选13个计划的情绪,并审查了4个现有的情绪。
值得注意的是，微软仍保留了一些功能,用于特殊情况下使用。例如,面部检测功能(包括模糊、暴露、眼镜、头部姿态、标记、噪音、盾牌和面部边框等)将继续提供;不需要额外申请。看到人工智能还可以使用能推导敏感属性的服务,为残疾人提供援助。
早些时候IBM完全退出了面部识别市场,脸书删除十亿数据
南达科塔的人工智能前台复合发现,无论企业宣称自己的面部识别技术多么高超，用于识别和分析人脸的产品和服务一直饱受争议。
根据微软的网站,Uber使用微软的面部识别技术来认证司机。 去年10月,英国的在线司机工会就面部识别系统存在种族歧视提出诉讼,导致一些黑人司机因误认而被解雇。
一些研究表明,识别肤色的人的面部识别系统比白人更精确。
国家标准技术研究所的研究,在NIST数据库中被分类为非洲裔美国人或亚洲人的可能性比被分类为白人高10至100倍。《自然 2020 》 的 一份 论文 也 指出,微软 、 苹果 、 谷歌 、 IBM 的面部识别系统在识别黑人方面都不太好,甚至最优秀的微软也是如此.黑人也有27%的错误率,它比白人占15%高得多。
事实上,公司对面部识别数据和技术的谨慎态度早已显而易见。
2020年,IBM CEOAred Christiana在一份给美国国会的信中宣布IBM不再提供通用面部识别或分析软件。
去年11月,Facebook宣布将关闭其十年历史的面部识别系统,并从超过十亿用户身上删除面部扫描数据。
南达科塔的人工智能先驱站观察到,许多企业面临大量关于脸部识别功能的诉讼,美国和欧盟的立法者正积极推动有关脸部识别技术的立法,因此,企业决策与日益严格的生物识别数据监管无关。
2015年，美国伊利诺伊州的几个用户向Meta提起集体诉讼,因为Meta未经他们的同意存储了生物数据。历经近7年，最终,梅塔同意支付6.500亿美元的定款。今年4月，谷歌也达成了类似集体行动的解决协议,清算金额为100万美元。
第一家识别和检索面部识别的公司Clearview AI也面临着许多罚款和诉讼。英国和意大利都对他罚款了。法国和加拿大也实施了制裁,伊利诺伊州和弗吉尼亚州向他提起诉讼。今年5月，Clearview AI已接受伊利诺伊州法院提出的解决协议,它不再向大多数私人公司和个人提供面对面的数据库服务。
实习生韩燕燕,南达科他记者梁林
这篇文章来自:南方城市报