人脸识别大行其道,10 项建议保护隐私 | DataLaws

转载自“罗汉堂观点”,仅供学习!

本文转载自布鲁金斯学会(Brookings Institution)于 10 月 31 日发表的 10 Actions that Will Protect People from Facial Recognition Software,作者是布鲁金斯学会政府治理研究项目的副主席兼主任达雷尔·韦斯特(Darrell M. West),他的研究主要包括竞选和选举、公众舆论、技术政策和电子化政府。英文原文请点击文末“阅读原文”。

这是一个“看脸”的时代。人脸识别软件让生活更便利的同时也引发了关于公众隐私和信息安全的焦虑。许多人担忧人脸识别技术会带来一场《1984》式的噩梦——我们将暴露在无孔不入的监控下,个人隐私无处可逃。他们将人脸识别和摄像头、人工智能(AI)与大数据视为限制个人自由的枷锁。

但另一方面,人脸识别技术在失踪搜救、安保升级、导盲、反恐等领域都发挥了积极作用。这项技术是一把锋利的双刃剑,既有广阔前景,如滥用又有极大风险,让个体闻之色变的同时又可救死扶伤、造福人类。

人脸识别大行其道,10 项建议保护隐私 | DataLaws

鉴于人脸识别技术的应用尚有诸多不确定风险,一些人认为我们应该全面禁止这项技术,直到对其潜在后果有更深的了解。另一些人则呼吁暂缓推行,为立法改革争取一段缓冲期。还有一些人虽然赞同人脸识别的应用,但前提是监管机构应该设立合理防护,监管恶意滥用行为。

本文提供了十条监管人脸识别的政策建议,从而规避这项技术潜在的最大风险。这些举措包括限制数据存储与共享、强制精度标准(Mandating Accuracy Sandards)以及建立第三方评估等。

人脸识别大行其道,10 项建议保护隐私 | DataLaws

人们对人脸识别最大担忧是图片、影像长期存储,这些信息有多种被滥用的风险,从而侵犯个体隐私和自由。尽管好处颇多,但人脸识别应用采集了海量视觉数据,且对它们限制寥寥无几,不禁引发公众担忧。

我们可以进行变革以缓解公众忧虑,限制数据滥用,其中之一是设置视频和图片存储期限。在某些突发情况下可能对特定图像数据有迫切需求,但一旦危机平息后这些数据应该被立刻清除。事实上,对于许多应用,时间限制可以在发挥人脸识别积极效用同时,将风险降至最低。

更具理智的人会考虑到设限时长是多长。这个期限应因数据使用类型而异,一些信息需要保存更长时间,而有些信息在发挥有短期效力后应该被删除。例如,为应对突发险情而编译的特定图像具有极高瞬时价值,但其他目的的图像可能需要通过长时间储存来分析。一种称为“分布式学习”(Fedrated Learning)的机器学习方法确保数据只独立储存于摄像头,而永远不用发送到中央数据中心,提高了数据安全性。

人脸识别大行其道,10 项建议保护隐私 | DataLaws

人们普遍担忧为某一目的采集的信息被用作其他目的。现实中不乏这样的案例,例如机动车管理部门将车牌信息出售给第三方组织。人们一般对这种信息的转卖并不知情,而且他们也不会同意将这些信息用于其他商业目的。把甲公司的图像向乙、丙方传输时应该有明确标准,按需调用。任何企业都不应该在没有限制的情况下传输或销售脸部识别图像。换言之,脸部识别图像的传输需要清晰合理的原因。

民意调查显示,个人对脸部识别所持态度也会因使用情景而异。布鲁金斯学会(Brookings Institution)一项研究发现,对人脸识别的支持率在不同环境中存在差异。如下图所示,人们最支持的应用是保障学生在校安全(41% 支持率),但只有 27% 的受访者赞成便利店使用脸部识别防范盗窃行为。在机场和体育场馆情景下应用支持率处于中间值。

人脸识别大行其道,10 项建议保护隐私 | DataLaws

人脸识别大行其道,10 项建议保护隐私 | DataLaws

一切通过拍摄或其他方式收集公众信息以用于人脸识别的企业或政府机构,应该在公共区域明确标注声名此类行为。他们有职责提醒该区域内所有人,其面部信息正在被记录,这样不愿意被拍到的人可以选择绕行。这一举措也可以加深用户对人脸识别技术的认知,也能让不愿意共享信息的人享有个人信息不被记录的自由。

人脸识别大行其道,10 项建议保护隐私 | DataLaws

图像识别主要问题之一是针对不同肤色其精确度也不尽相同。由于大多数训练数据不完整且种族代表性不足,因此基于这些数据开发的人脸识别技术也有偏向性。白人相比其他肤色人种有更高的识别精度,且肤色越深准确度越低。随着人脸识别应用在执法、边检、零售和机场等各个领域,不同群体之间的差异可能导致偏见、歧视和其它倾向性判断。

因此在大规模应用前,人脸识别应该达到什么精度?这是一个挑战性的问题。该精确度应取决于识别结果对人们生活的影响程度。例如在执法行动中误判可能会导致无辜之人被拘捕或监禁,那么识别精度就应该非常高。加的夫大学(Cardiff University)的一项研究发现澳大利亚发生过数千例误匹配,此外人脸识别系统在低光环境下也会运行失常。

人脸识别大行其道,10 项建议保护隐私 | DataLaws

与就业相关的应用也会带来严重后果,也需要较高的精度标准。一些存在歧视性或偏向性识别判定的企业应该被问责,而对于因人脸识别产生的种族偏见或滥用人脸识别的产品应该受到相应的惩罚。

人脸识别大行其道,10 项建议保护隐私 | DataLaws

第三方评估可以让人们更加信任人脸识别产品和服务。消费者希望识别应用只完成“份内”工作,同时避开“问题”应用。可以设立一个类似“能源之星*”由政府评定的评级系统,帮助大众更深刻地了解应用的功能以及他们应顾虑的地方。总体而言,第三方组织可以提升人们对应用方式和准确性的信心。

  • 能源之星(Energy Star),是美国能源部和美国环保署共同推行的一项政府计划,旨在更好地保护生存环境,节约能源。1992 年由美国环保署参与,最早在电脑产品上推广。

人脸识别大行其道,10 项建议保护隐私 | DataLaws

一些人脸识别应用程序中收集了大量与主要目的无关的附加信息。例如,佩戴随身摄像机的警察在勘察事发现场时,不仅会拍到嫌疑人的画面,还可能拍到碰巧在视线范围内的路人。除非这些证据与案件有明显关联,否则执法部门在调查之外没有必要保留不相关信息。当图像不再具有调查价值时,它们可以被模糊处理或干脆销毁。

人脸识别大行其道,10 项建议保护隐私 | DataLaws

嵌入人脸识别技术的营销 APP 必须向用户确认授权,包括将用户姓名附加到商业名单并推送广告等行为。消费者对个人隐私很敏感,这些以营销为目的的应用应受到用户授权选择的限制,消费者有权利将他们的信息共享限制在他们觉得合理的水平。

同样,用户也应该有自主退出选择权。在对长期数据存储没有明显需求的低风险情况下,应该为用户提供删除个人图像信息的途径,从而让公众确信他们的信息不会被用作它途。“被遗忘权”可以提升公众对人脸识别的接受程度。

人脸识别大行其道,10 项建议保护隐私 | DataLaws

技术标准是企业保护产品的一种传统安全措施。例如,移动通讯技术还处于开发阶段时,专家们就共同确定了通信、安全和兼容性的通用标准,所有智能手机都必须符合这些规格才能上市销售。国际机构则将这些标准扩展到全球范围。

人脸识别大行其道,10 项建议保护隐私 | DataLaws

同样的逻辑也适用于人脸识别,应该有一套标准来确保应用安全、隐私得到保护。共同规则可以有效缓解大众恐惧心理,从而改善由此带来的种种应用限制。人脸识别也应该像其他“有利有弊”的技术一样对技术负责。美国电气与电子工程师协会(Institute of Electrical and Electronics Engineers)目前已经着手制定人脸识别技术标准,美国国家标准与技术研究院(National Institute of Standards and Technology,NIST)也应该进行相关试点研究。

人脸识别大行其道,10 项建议保护隐私 | DataLaws

企业系统安全系数由国际标准化组织(ISO)等机构认证,具体来说,ISO 将评估特定产品是否符合监管法规,并由第三方机构对产品进行合规性测试,帮助消费者更清楚某项技术的用途是否符合相应规则。认证保证了安全性的高度一致,从而提升公众对整个行业的接受程度。

在美国,NIST 是产品认证的主要机构,它通过公共数据库进行人脸识别测试并认证相关应用。但也有人质疑,NIST 测试的主要数据来源是私有网站的浅层数据,无法普及到日常的使用场景中。此外,NIST 数据选择也过于片面,以执法相关应用为主,测试主要依赖图像质量和操作功能等。一种改进方法是将自动化测试与人工检查相结合,从而获得较为可靠的测试和认证。

人脸识别大行其道,10 项建议保护隐私 | DataLaws

脸部识别的认证、技术标准和政府合规测试应基于有代表性和非单一用途的数据,且测试应该在实际应用环境中进行。在一个拥有大量专业信息的商业系统中,使用具有代表性的数据库进行基线测试和产品认证是至关重要的。单一用途数据例如警用正面照不能覆盖整个人群,因此在测试中的效用有限。识别测试应该基于海量图像信息、实际应用环境以及足够有代表性的人群样本分组,从而让公众消除疑虑。由于识别精度会受到光照条件和图像分辨率影响,可靠的实地测试就非常关键。

人脸识别大行其道,10 项建议保护隐私 | DataLaws
人脸识别大行其道,10 项建议保护隐私 | DataLaws如需《GDPR 域外适用指南》中译本 PDF 全文,请在本公号后台回复“GDPR 指南”免费下载!

- 企业内训课程预约(点击图片) -

金融数据合规课程

人脸识别大行其道,10 项建议保护隐私 | DataLaws

区块链合规课程

人脸识别大行其道,10 项建议保护隐私 | DataLaws

(点击图片,第一时间预约新课程)

人脸识别大行其道,10 项建议保护隐私 | DataLaws

人脸识别大行其道,10 项建议保护隐私 | DataLaws

数据隐私与网络安全实务群

数据合规,合则生,不合则亡!

欢迎扫码加入我们

人脸识别大行其道,10 项建议保护隐私 | DataLaws点击“阅读原文”,第一时间预约新课程!

来源链接:mp.weixin.qq.com