“自动打分!” 加拿大边境新筛查系统曝光, 1年284万人遭红标! 华人当心

据温哥华港湾综合报道：加拿大边境服务局（CBSA）计划利用人工智能（AI）来检查所有访加或回国人员，以预测他们是否有违法风险。被识别为“高风险”的人员可能会被单独进行进一步检查。

这一名为旅客合规指标（Traveller Compliance Indicator, TCI）的工具已在六个陆路口岸进行测试，由 CBSA 五年的旅客数据开发而成。该系统会为每位入境者分配一个“合规评分”，用于执行《海关法》及相关法规。

根据通过信息公开申请获得的一份评估报告，这一 AI 辅助工具预计最早将在 2027 年投入使用，旨在帮助边境服务官员在陆路、空路和海路口岸判断是否需要对旅客及其携带物品进行二次检查。

报告指出：“我们使用获得的数据建立预测模型，以预测旅客遵守规定的可能性。”

报告还称：“TCI 将通过减少边境处理时间来改善旅客体验。该系统让官员在面对合规旅客时花费更少时间，同时减少不必要的选择性检查。”

然而，专家对该工具开发过程中缺乏公众参与和意见表示担忧。他们担心，这一系统可能强化对某些旅客类型（如移民和来自特定国家的访客）的偏见，因为分析质量仅取决于输入数据的质量。

温哥华移民律师 Will Tao 表示：“如果历史上对某一群体有过严格审查，这些数据就会被纳入系统，并被转化到工具中。你找哪里有问题，哪里就会出现问题，对吧？”

政府报告称，边境局每年服务超过 9600 万旅客，随着旅客数量增长，需要增聘数百名边境官员。而一些口岸的物理条件限制了增设额外检查亭的可能性。

报告指出，这一 AI 工具将帮助维持现有的边境处理时间，即便旅客数量增加。

报告强调：“没有决策是自动化的。该系统仅在初步处理阶段提供标识，指示旅客信息是否符合合规模式。”

然而，如果官员依据工具的错误推荐做出判断，可能会产生“长期影响”。

多伦多大学教授 Ebrahim Bagheri（专注 AI 及数据社会学研究）表示：“一旦风险评分或指标呈现给官员，它可能严重影响其判断。实际上，这意味着系统即便最终决策仍由人做出，也在塑造结果。”

Bagheri 解释道：“误报是指系统将遵规旅客标记为风险或不合规者。在边境环境中，这可能意味着旅客会被额外盘问或二次检查，尽管他们没有做错任何事。”

该系统会显示官员可能关注的信息，例如旅客交通方式及同行人员。它还会收集“实时决定因素”，包括是否独自旅行、出示的证件类型、使用车辆的车牌，以及旅客以前在 CBSA 系统中的出行记录。

CBSA 告诉《星报》，该工具是旅客现代化计划的一部分，旨在通过技术提高边境安全与效率。系统仍在不断完善中。目前，官员依靠专业训练、经验和知识来监控潜在威胁。

边境局在邮件中表示：“旅客合规指标仅为指标，并不会取代官员判断或自动决定结果。”

去年，共有 284 万名旅客被二次检查，截至 8 月 20 日已有 134 万人被选中进行二次检查。

虽然边境局表示，合规指标仅适用于《海关法》，Tao 担心该系统可能很容易触发针对非公民旅客的入境不准调查，这些人可能被拒绝入境加拿大。

Tao 说：“如果你是加拿大公民，比如因为携带过多现金涉及洗钱，你会被翻箱查问，问很多问题，但法律上你仍可以入境加拿大。但对没有入境权的移民来说，二次检查可能会成为被认定不准入境的起点。”

他还担心，像其他存在偏见倾向的 AI 工具一样，合规指标可能会进一步边缘化特定群体，例如特定肤色、公民身份或背景的人群。

Tao 指出，该工具可能在挑战官员决定的法庭案件中带来问题，如果系统仅提供“模板化理由”，或者这些理由实际上只是官员事后为掩盖机器真实关注点的解释。

Bagheri 教授表示，受该工具影响的个人必须能够对 AI 系统标记提出异议，否则错误将不断重复。

他强调：“补救措施不能仅停留在纠正单个案例上。机器学习模型需要能够‘去偏’，不仅仅是修正个别错误决策，还要检测并纠正模型中的系统性偏差。”

Bagheri 表示，这需要超过行政投诉审查程序的技术方案，包括在发现系统性偏差时对模型进行重新训练、校准或更新。政策制定者应确保从一开始就建立个体救济与结构性纠正机制，以持续保障公平，而非单独处理每个案例。

边境局称，该工具已花费 1530 万加元开发，全面实施后每年费用约为 70 万加元。预计到 2027 年底将在所有陆路口岸实施，空港和海港口岸随后跟进。

来源：温哥华港湾综合