雷锋网按:现在,人脸辨认技能被广泛运用于智能手机范畴,但人脸辨认技能还未真实老练。近期,亚马逊想要在法令范畴推广AI人脸辨认技能,但却遭到了多方质疑与对立。《华盛顿邮报》对“俄勒冈州成为亚马逊人脸辨认方针的试验场”宣告了相关文章,雷锋网全文编译如下。

【 图片来历:pixabay 一切者:pixabay 】

人脸辨认技能的运用

希尔斯博罗,俄勒冈州——当地一家Ace五金公司的职工陈述说,一名年青女子带着一箱11.99美元的焊接气体走出了商铺,而她的手提包里却没有付出这笔钱, 一项精心规划的高科技冲击违法行为敏捷打开。

华盛顿县治安官的一名侦察与该安排的特别查询组协作,经过亚马逊(Amazon)开发的一套内部人脸辨认程序Rekognition,监控了这家商铺的监控录像,发现了或许的匹配。

三个月后,一名缉毒人员在一辆没有标识的SUV上发现了这名女子的车牌,并经过无线电告诉其他巡查人员阻挠她。一份拘捕陈述显现,一名警员用手铐铐住了她的手腕。她说她需求这些焊接气体来修车。

在俄勒冈州西部波特兰城外的这个角落里,警员们通常用旧式的办法来清查罪犯,他们会把嫌疑犯在作业室里被拍下的相片传真曩昔,期望有人能认出这张脸。

2017年底,华盛顿县治安官作业室成为已知的美国第一家运用亚马逊人工智能东西(Rekognition)的法令安排,将这片森林和市郊变成了一个公共试验场,用于新一波实验性的差人监控技能。

Rekognition的精确性饱尝争议

简直在一夜之间,议员们发现他们的查询权利被赋予了更大的权利,这使得他们可以扫描自2001年以来在该县监狱摄影的30多万张嫌疑犯脸部相片的匹配项。安全摄像头、交际媒体账号或副手的智能手机捕捉到的人脸含糊图片,可以很快成为他们身份的链接,包含他们的姓名、家庭和地址。警员们说,上一年记载在案的人脸辨认查找超越1,000次,他们有时会运用查找成果查找嫌疑人的Facebook页面、拜访他们的家或施行拘捕。

但华盛顿县也成为了一场高危险战役的起点,这场战役环绕的是算法不受监管的警务添加。辩解律师、人工智能研讨人员和民权专家以为,这项技能或许会过错拘捕那些与视频图画相似的无辜人士。Rekognition的精确性也备受争议,一些专家忧虑,装备代表的过错身份或许会发生危险的影响,要挟到隐私和人们的生命。

近年来,一些差人安排运用Cognitec、IDEMIA和NEC等承包商开发的体系,对州或联邦查询局的数据库进行人脸辨认查找。但亚马逊的推出,或许标志着这项备受争议的面部扫描技能将成为干流。Rekognition很简略激活,不需求什么首要的技能基础设施,并且简直任何人都可以以贱价取得。初次上传很多图片,华盛顿县花了大约700美元,现在,关于一切的查找,每月大约只付出7美元。

不过,在头18个月的实践测验中,咱们无法判别这项技能终究有多精确或有用。当警方运用面部辨认查找时,法令人员无需在拘捕陈述中注明,导致拘捕的切当次数也不清楚。警长的官员说,该软件现已导致数十人因偷盗、暴力或其他罪过被捕,但在揭露记载的要求中只找到了9份触及面部辨认的案子陈述。

“就像任何查询技能相同,咱们不会告诉人们咱们是怎么抓到他们的,咱们期望他们持续猜想。”重案组的侦察Robert Rookhuyzen说。他现已进行了“几十次”查找,并且发现在75%的情况下是有用的。

警长的官员说,面部扫描并不总是标志着查询的完毕:在指控违法嫌疑人之前,警员们还必须承认或许的原因或找到依据。但警长作业室为面部辨认的运用拟定了自己的规矩,答应警员运用该东西来辨认尸身、昏倒的嫌疑人和回绝泄漏姓名的人。

查找东西的不完美的成果添加了一个无辜的人被符号和拘捕的危险,特别是在扫描图画含糊、质量低下或部分躲藏的情况下。警员们还可以在查找进程中扫描艺术家的素描,人工智能专家表明,这种不寻常的运用或许更简略导致过错匹配。

亚马逊的法令攻略称,只有当体系对匹配有99%的掌握时,官员才应该采用Rekognition的成果。可是这儿的警员们在运用这个东西时的查找决心测验中并没有显现出来。相反,即便体系在匹配中确实认性很低,在每次查找中也都会给他们五种或许的匹配。

在答复了《华盛顿邮报》的问题后,亚马逊在这些指导方针中添加了遣词,规则警官在拘留嫌疑人之前应该人为检查一切匹配,查找不该被用作采纳行为的仅有决定因素。

亚马逊人脸辨认技能处于言论漩涡

亚马逊和俄勒冈州第三大法令安排之间的联络是互惠互利的,治安官作业室正在协助完善这个别系,亚马逊期望在全国出售这个别系。但亚马逊进军法令出售范畴的行为,令一些法令维权人士感到忧虑,他们表明,该体系对公民自由构成了太多危险。

“政府是十分强壮的,在一个案子中,它会带来很多去应对给公民个别。” 为无法负担起律师费用的被告辩解的华盛顿县公设辩解律师作业室主任Mary Bruington说,“你把它和亚马逊配对了?这是一个强有力的伙伴联络。”

亚马逊网络服务公司云核算部分的人工智能总经理Matt Wood在一份声明中说,Rekognition仅仅“对一项100%由人类驱动的查询的许多其他头绪中的另一个投入。”

虽然如此,该公司仍面临着许多批判:高档人工智能研讨人员,国会成员和民权安排,以及亚马逊的自己的一些投资者和雇员曾敦促该公司中止向法令部分供给的技能, 有研讨指出,该体系对皮肤乌黑的脸部辨认不太精确。亚马逊对这一研讨提出了质疑。

亚马逊的一些竞争对手也回绝了相似的合同。微软总裁Brad Smith说,该公司最近在4月份的时分回绝供给其面部辨认软件给加州法令安排,该安排想要其军官让人靠边泊车时可以随时进行脸部扫描。但它现已赞同了一项将该技能运用在美国监狱中的协议。微软回绝供给细节。

亚马逊的投资者将在5月就一项由一群维权股东支撑的提案进行投票,该提案将阻挠该公司向政府安排出售Rekognition,除非该公司董事会确定它不会对人权构成危险。

本年3月,警长作业室答应《华盛顿邮报》的记者在警车、侦察作业室和县监狱里呆上两天,查询警员们是怎么将这项技能融入日常案子的。大多数承受采访的人表明,该软件为他们节省了时刻,添加了拘捕人数,并协助他们处理日益增多的视觉依据。警员和大众辩解人说,到目前为止,还没有呈现由于相片匹配过错而对拘捕提出的任何法令应战。

可是俄勒冈州的律师说,在很多人看来,技能不该该成为治安未来行将迈出的一步,他们缔造的体系不是作为技能里程碑,而是品德:假如为了捉住更多的坏人,但有更多的好人或许会被拘捕,这是好的吗?

“人们总是喜爱说,‘嘿,假如是可以抓坏人就很好啊,谁在乎呢’”俄勒冈州的首席副辩解律师Joshua Crowther说,“直到他们有一天也被抓了。”

【 图片来历:pixabay 一切者:pixabay 】

“与戏法无法区别”

2016年,当亚马逊(Amazon)揭露Rekognition时,该公司称其为一种强壮的深度学习人工智能办法的打破,其成果显现“与戏法无法区别”。在一篇配有一位高管宠物狗相片的博客文章中,该公司为人们怎么开端运用它供给了一些一般性的主意,包含用于安全检查点或衔接在一起搜集观众面部数据的广告牌。

这次揭幕式引起了eBay前程序员Chris Adzima的留意,他受雇于华盛顿县治安官作业室,担任开发一款能被警员运用于追寻监犯行为的iPhone运用程序。他的安排在网上现已有不计其数的面部相片,但没有真实的办法来剖析它们。经过运用亚马逊的人工智能,他在不到三周的时刻里就树立了一个别系并运转起来。

“他们对实际国际中的任何类型的运用事例都没有清晰的概念,但他们知道自己发明了一个强壮的东西,所以我开端运用它了。”在治安官总部的一个小隔间里作业的高档信息体系剖析师Adzima说。

警员们当即开端将面部查找归入日常巡查使命中,Adzima还树立了一个简略的内部网站,让他们可以在巡查车中进行查找。他抛弃了查找决心的百分比,并规划体系每次回来5个成果。他说,当体系回来0个成果时,议员们会置疑他们是否把作业搞砸了。为了添加趣味性,每逢一名警员上传一张相片,他还会添加了一个不必要的紫色“扫描”动画——他说这是遭到了像《违法现场查询》这样的警匪片的启示。

当他开端在亚马逊的服务器上很多输入图画数据时,那里的账户管理人员留意到了这一点,一些人对他将其用于差人作业表明惊奇和振奋。2017年,美国公民自由联盟的一份揭露记载恳求初次披露了一封电子邮件。邮件中,一名亚马逊的客户高管将Adzima介绍给一家警用相机公司的高管,该公司期望了解他是怎么“战胜利益相关者的阻力”的。“你现在是AWS的名人了。”这位高管写道,并附上了一个笑脸的表情符号。

这儿的警员们说,这个别系是一个巨大的冲击。曾在5起偷盗和偷盗案子中运用过该查找引擎的Chris Lee表明,他的许多搭档成为了多产的用户,巴望找到一种处理困难打猎的简略办法。“你总是在想:这会给咱们带来什么吗?”他说。

在训练方面,警员们只会收到一份打印出来的作业室人脸辨认方针,以及一份简略的PPT演示文稿,提示他们要当心处理成果。其间一张幻灯片展现了该体系对上传的O.J. Simpson面部相片的反响:退回一张蓄胡须的白人男人的相片。“正如你所看到的,”幻灯片上写道,“这个别系依然需求人工解说。”

该安排长达四页的方针要求作业人员仅在“违法联络”的情况下运用该体系,并制止在“大规模监控”中运用,或依据宗教、政治活动或种族对人进行监控。但它也供给了一些破例,包含答应在“生命遭到严重要挟”的情况下进行面部搜寻,或许当警方以为重罪嫌疑人将在特定时刻呈现在特定地址时进行面部搜寻。

这种搜寻协助警员想出了一些十分规的办法。在一个事例中,一名罪犯在监狱里打电话给他的女朋友,她说有拘捕令要拘捕她。警员们进入了这名罪犯的Facebook页面,找到了一段她歌唱的旧视频,并经过人脸辨认查找得到了她的姓名,几天后她就被捕了。

警员还可以经过体系查找是非警用速写寻觅成果,他们说,在一个测验事例中,它指向了一名他们现已符号为嫌疑人的男人。亚马逊表明,经过Rekognition进行速写并不违反规则,但它期望人工审阅人“亲近重视以这种办法生成的任何匹配成果的可信度”。

来自县公设辩解律师作业室的Bruington说,Rekognition的低价价格和易用性或许会诱使差人安排测验一种他们或许并不彻底了解的体系。她还忧虑,该体系对脸部相片的依靠意味着任何曾经被差人带进来的人,都更有或许在刑事搜寻中从头出面。

她说:“无辜的人每天都要承受刑事司法体系的审判。”

“看那只鸟”

几十年来,人脸辨认技能一直是差人局的愿望:一种简略的、隐秘的、可以在不知情或未经别人赞同的情况下辨认远方的任何人的办法。但直到最近几年,由于成像技能和核算机才能的进步,以及数据存储本钱的大幅下降,这项技能才变得廉价和广泛,被用于给Facebook相片加标签,以及解锁iphone。

现在的体系将人们的面部相片分解成长串的代码,称为“特征向量”或“脸纹”,可以与巨大数据库中的其他肖像快速比较。可是,虽然“核算机视觉”算法拿手模式辨认,但它们匹配的是像素,而不是头绪,并且或许会疏忽在人眼看来明显得惊人的不一致性。

虽然如此,现实证明,廉价和简略辨认的许诺对许多公司来说太有吸引力了以至于不能忽视。美国国家标准与技能研讨所是评价人脸辨认算法的联邦安排。该安排最近表明,它现已测验了44家公司的127套体系,测验它们在“大规模人群中的可扩展性”,以及在野外辨认“非协作目标”时的精确性。来自微柔和我国草创企业依图科技的尖端算法,可以在包含数百万张图画的数据库中,以99%的精确率匹配人脸相片。

亚马逊此前曾回绝提交Rekognition的评价陈述,称这项研讨孤立版别的中心查找算法的测验无法在杂乱的依据云端的查找中运转。但NIST的一名官员表明,这一现实并未阻碍其他公司进行相似的查找。一位亚马逊官员表明,该公司已发动一项“实质性”尽力,去“从头规划”体系的“要害组件”,以便参加其间。

美国联邦查询局(FBI)表明,在曩昔的一个财政年度,该安排进行了5.2万屡次面部辨认查找。2016年,乔治敦大学的法令研讨人员发现,至少有52个州或当地安排在某种程度上依靠于由联邦承包商或监控公司树立的面部辨认体系。但亚马逊依据“贮存的人脸”数量收取部分费用,让任何一支新差人部队的起步都变得简略起来。

没有联邦法令控制面部辨认的运用。不过,本年3月美国参议院提出的一项两党方案,以及亚马逊总部所在地华盛顿州提出的一项方案,这些方案或许会施行新的规则,比方要求公司告诉过路人他们的脸正在被扫描。估计旧金山领导人下周迁就一项遭到警方对立的提案进行投票,该提案将使旧金山成为美国第一个制止当地安排运用面部辨认软件的城市。

亚马逊高管表明,他们支撑国家进行人脸辨认立法,但他们也辩称,“不该该由于它或许被乱用就制止或斥责新技能。”联邦查询局(FBI)奸细和奥兰多警方表明,他们现已对该体系进行了测验,亚马逊现已向包含移民和海关法令在内的政府安排推销了这套体系。

华盛顿县的律师们说,他们才刚刚开端在拘捕陈述中看到这种技能,一些人正在为或许要在法庭上就体系的可承受性提起诉讼的那一天做准备。在俄勒冈州公共辩解服务作业室作业的副首席辩解人Marc Brown说,他忧虑体系的躲藏的决议计划或许使权利的天平歪斜:人类目击者可以在法庭上提出质疑,但对这个“奇特的黑盒”不可以,“咱们作为辩解律师不能问询这个进程是怎么作业的。”

Brown弥补说,该体系的成果或许会经过引导议员们的反响,带来一个巨大确实认误差问题。他说:“你现已被奉告这便是你要找的人,所以当你查询的时分,你的脑海里就会浮现出这个主意。问题不再是谁犯了罪,而是支撑核算机剖析的依据在哪里?”

亚马逊的软件正敏捷变得愈加先进。上个月,该公司宣告了一项Rekognition更新,该更新将进步体系的“心情检测”功用的精确性,可以依据一个人在镜头前的姿态主动推测出他的感触。它包含7种受支撑的心情:高兴、哀痛、愤恨、惊奇、讨厌、安静和困惑。

亚马逊还具有广受欢迎的门铃摄像头制造商Ring,该公司上一年申请了一项面部辨认专利,该专利可以在买家门口发现“可疑”人士。Ring的一位发言人表明,公司的专利申请旨在“探究新技能的悉数或许性”。

与此同时,华盛顿县治安官作业室的人脸数据库一直在添加,每年约有1.9万次监狱预定。当人们被拘捕时,他们会被带到一个人山人海的接待室,在那里他们会被一个网络摄像头摄影下来,摄像头的顶部是一个赤色的豆豆娃红衣主教。“看那只鸟。”摄影的时分警官会对他们说。

这些相片成为了该县整个惩罚体系中罪犯的身份,监狱内部的一个网站和iPhone运用程序将这些相片显现在一个大网格中,这样警员们就可以快速盯梢他们的食物摄入量、行为和自杀危险。

Rekognition在罪犯被关进监狱后不会被运用,但它依然在监狱里发生了奇妙的影响。Brian van Kleef副警长站在3号舱的警卫室神经中枢,这儿是罪犯们称为“洞”的最高安全级别的侧翼,他说:“这是咱们搜集数据库的当地。”

雷锋网注:本文编译自The Washington Post

声明:该文观念仅代表作者自己,搜狐号系信息发布渠道,搜狐仅供给信息存储空间服务。

推荐阅读