每年2000名被驱逐者竟“黑”在加拿大！边境局出大招，今秋实施

据温哥华港湾综合报道：加拿大边境服务局（CBSA）计划推出一款使用面部识别技术的应用程序，以追踪那些被勒令驱逐出境的人。

这款名为ReportIn的手机应用程序将利用生物识别技术确认用户身份，并在用户签到时记录其位置数据。通过信息公开法获取的文件显示，CBSA早在2021年就提出了这个应用程序的建议。

一位发言人证实，这款应用程序将在今年秋天发布。

专家们对这款应用程序提出了众多担忧，质疑用户是否真正自愿同意，以及有关技术如何做出决策的潜在保密性。

2021 年的一份文件指出，每年约有2000名被勒令离境的人没有按时现身，导致CBSA“必须花费大量资源调查、定位，并在某些情况下拘留这些客户”。

该机构提出使用智能手机应用程序作为“理想的解决方案”。

文件指出，通过应用程序定期获取用户的“居住地址、就业情况、家庭状况等信息，将使CBSA掌握相关信息，以便在出现违规迹象时联系和监控用户”。

“此外，鉴于自动化的特点，用户更有可能感受到参与感，并认识到CBSA对他们的案件有多大的可见度。”

文件还指出：“如果用户未按规定出席驱逐，应用程序收集的信息将为定位用户提供良好的调查线索。”

一份尚未发布在联邦政府网站上的算法影响评估显示，CBSA曾试图使用的生物识别语音技术正在被淘汰，因为该技术“失败率高”，因此开发了ReportIn应用程序来替代它。

文件称，ReportIn应用程序通过用户的“面部生物识别信息和由传感器及/或手机中的GPS提供的位置数据”来记录用户的签到情况，然后将信息发送到CBSA的后台系统。

用户提交照片后，“面部对比算法”将生成一个与参考照片的相似度得分。

如果系统未能确认面部匹配，则会触发官员进一步调查的程序。

“每次用户报告时，系统都会收集其位置信息，并在用户未能遵守规定时进行记录。”文件中提到，用户将不会被“持续追踪”。

该应用程序使用了亚马逊网络服务（Amazon Web Services）的技术。这个选择引起了麦克马斯特大学数字社会公共政策执行教育项目主任布伦达·麦克费尔（Brenda McPhail）的关注。

她表示，虽然许多面部识别公司将其算法提交给美国国家标准与技术研究院（NIST）进行测试，但亚马逊从未自愿这样做。

一位亚马逊网络服务发言人表示，其Amazon Rekognition技术经过了“广泛测试——包括由专注于负责任人工智能的Credo AI和iBeta质量保障等第三方机构进行的测试”。

该发言人补充说，Amazon Rekognition是一个“大规模的基于云的系统，因此无法按NIST参与指南所述下载”。

“因此，我们的Rekognition Face Liveness技术提交给获得NIST认可的独立测试实验室iBeta Lab进行测试，”发言人表示。

CBSA文件称，使用的算法将是商业机密。麦克费尔质疑，在可能影响人生的情况下，使用受商业机密或专有权保护的工具是否“适当”，这种工具剥夺了人们真正了解如何做出关于他们的决策的权利。

温莎大学法律、机器人与社会系主任兼副教授克里斯汀·托马森（Kristen Thomasen）表示，提到商业机密表明可能存在法律障碍，阻止人们了解系统的相关信息。

多年来，人们一直担心系统中的错误导致某些人被法律禁止获取更多信息，因为这些信息受知识产权保护，她解释说。

CBSA发言人玛丽亚·拉杜塞尔（Maria Ladouceur）表示，该机构“开发了这款智能手机应用程序，以允许受移民执法条件约束的外国国民和永久居民无需亲自前往CBSA办公室即可报告。”

她说，该机构“在开发过程中密切咨询了隐私专员办公室”。“注册使用ReportIn将是自愿的，用户需要同意使用该应用程序，并同意使用他们的肖像来验证身份。”

约克大学难民法实验室副主任佩特拉·莫尔纳（Petra Molnar）表示，在实施应用程序的机构和接收方之间存在权力不平衡。

“在这种巨大的权力差距下，人们能否真正、完全地自愿同意？”

拉杜塞尔表示，如果个人不同意使用应用程序，他们可以选择亲自报告。

托马森还警告说，面部识别技术存在出错的风险，而这种风险对于有色人种和肤色较深的人更高。

莫尔纳表示，“文件中基本上没有讨论……人权影响，这非常令人不安。”

CBSA发言人表示，Credo AI审查了软件对不同人口群体的偏见问题，发现该应用程序在六个不同人口群体中的面部匹配率达到99.9%，并补充说该应用程序“将在发布后继续进行测试，以评估其准确性和性能”。

最终决定将由人类做出，所有提交信息将由官员监督，但专家指出，人们往往倾向于相信技术做出的判断。

托马森表示，人们普遍认为存在一种“心理倾向，即人们会倾向于听从计算机系统的专业判断”，因为计算机系统被认为更少偏见或更准确。

来源：温哥华港湾综合