科技合规|使用自动化就业决策工具时需要解决的首要问题

在我们等待《欧盟人工智能法案》通过之际，人工智能即将在美国实施。在联邦层面，我们收到了美国联邦贸易委员会、司法部、消费者金融保护局和平等就业机会委员会的联合和个人声明，以及白宫的人工智能权利法案蓝图和关于促进保护美国人权利和安全的负责任人工智能创新新行动的后续情况说明书。

在州一级，纽约市的自动化就业决策工具法，即第144号地方法，专门涉及自动化工具在决策中的使用。

⬇️以下是最重要的问题

在您的工具使用之前

您是否对其进行了第三方偏见审计并公开披露？

根据纽约市的《自动就业决策工具法》，如果该工具“大大有助于或取代自由裁量决策”，则需要进行第三方偏见审计。这必须每12个月进行一次，并涵盖法律进一步定义的特定项目。

根据平等就业机会委员会的指导意见，当被问及是否已采取措施评估使用该工具是否会大大降低具有受保护特征的个人的选择率时，AEDT供应商应能够回答雇主的问题。

根据白宫人工智能权利法案，系统应进行部署前测试、风险识别和缓解，并实施持续监测，以证明其基于预期用途是安全有效的。

这包括积极的公平评估、代表性数据的使用和人口特征代理的保护、确保残疾人在设计和开发中的无障碍性、预部署和持续的差异测试和缓解，以及明确的组织监督。

组织应以算法影响评估的形式进行独立评估和简明语言报告，包括差异测试结果和缓解信息。这一点应尽可能公开。白宫关于负责任人工智能创新的情况介绍也重申了这一概念。

根据《人工智能法案》，欧盟可能也需要这样做。

在此之后，各组织还必须确保制定持续监测这些风险和影响的政策。

您是否进行了数据保护影响评估？

适用于员工的《加州隐私权法案》目前还没有相关规定，但即将出台。科罗拉多州的隐私法规则说明了这一点，目前可以作为评估模式。

根据科罗拉多州的隐私法，在处理活动对消费者造成伤害的风险增加的情况下，控制者必须进行DPIA并将其记录在案。对消费者产生非法、不同影响的合理可预见风险的分析也会增加伤害风险。

DPIA必须识别并权衡处理带来的利益与消费者权利的潜在风险，这些风险由控制者可以用来降低风险的保障措施来缓解。

在文件中解决自动化处理是否涉及或由人类审查也很有帮助，并且应该根据欧盟法院的SCHUFA裁决进行调整。

进行DPIA的必然结果是，通过设计和默认方式进行数据保护设计，避免采用暗模式方法，这也是白宫人工智能权利法案所建议的。

您是否有符合法律要求的详细隐私披露？

我们已经知道，与其前身《加州消费者隐私法》一样，CPRA要求对候选人和员工进行全面的隐私披露，其中还应包括利用自动化决策的处理。

根据纽约市的AEDT法，雇主需要在使用AEDT前至少10天提供披露。

根据科罗拉多州的规定和联邦贸易委员会最近的执法行动，在收集相关数据之前也需要披露。作为供应商，你至少需要向你的雇主客户提供信息披露，以促进他们的合规性。

根据纽约市的AEDT法，通知必须解释将在评估中使用的AEDT，个人如何根据其他法律申请替代选择程序或合理住宿的说明（如有），以及AEDT用于评估候选人的工作资格和特征。

如有要求，必须在提出要求后30天内，向候选人或雇员提供为AEDT收集的数据类型、此类数据的来源以及雇主或职业介绍所的数据保留政策的通知。

白宫人工智能权利法案指出，各组织需要对该系统如何工作提供有意义的理解，并解释影响个人的结果是如何以及为什么由自动化系统决定的，包括当自动化系统不是决定结果的唯一输入时。

您有数据保留策略吗？

纽约市的AEDT法规定，如果有要求，雇主必须在提出要求后30天内向候选人或员工提供与该工具相关的数据保留信息。

在CPRA适用的情况下，这需要包括在收集时的通知中，并根据法规和最近的问答文件进行细化。

联邦贸易委员会还要求制定数据保留政策，包括最近的Easy Healthcare和Drizly和解。组织需要包括哪些信息被保留，保留多长时间，以及为什么要保留这么长时间。此外，要特别注意任何“无限期”保留期。

您是否提供了一种选择退出自动决策/参与人工干预的方法？

根据白宫人工智能权利法案，个人应该能够在适当的情况下选择退出自动化系统，而选择人工替代。个人应该能够接触到能够快速考虑并解决自动化系统问题的人员。

根据科罗拉多州的隐私法，用户有权选择不进行分析，以促进对消费者产生法律或类似重大影响的决策，包括就业决策。

作为一家受这些法律约束的公司，我们已经知道监管机构正在密切关注。然而，即使法律或指导意见不直接适用于您，就像在欧盟通用数据保护条例和CCPA的早期一样，作为供应商，您也应该接受旧的“GDPR/CPA就绪”口号，并向使用您产品的商业客户表明，他们将以合规的方式使用人工智能。

感谢Fox Rothschild合伙人Melanie Notari（CIPP/US）为本文提供的材料。

*文章来源：iapp.org

*原标题：使用自动化就业决策工具时要解决的首要问题

*整理编辑：A隐小私(yinxiaosi00)

   月底课程大促销！

    IAPP+USBAR双证促销，买1得2，

       名额有限，速速报名！

长按二维码即刻报名！

扫描下方二维码咨询详情

往/期/回/顾

中国顶级金融数据提供商因新规限制离岸访问

深度思考：数据合规法律业务的行业前景如何？

CIPPE+CIPM双证到手！他如何在3个月内完美通过的？

数据合规零基础，仅用三个月456分通过 IAPP CIPP/E！！

千呼万唤始出来：CIPP/E备考教材第三版终于上线啦！

■ DEPTH 

想了解IAPP哪个证书适合你？

全套资料长按扫码领取

全套资料试听课在线试讲

-End-

#IAPP国际隐私专业保护认证培训#

扫描下方二维码咨询详情

IAPP认证（国际隐私专业保护认证）

IAPP三大方向（CIPP/CIPT/CIPT）

DASCA认证（美国数据科学委员会认证）

备考经验分享｜全球隐私动态｜

干货分享｜考试资讯

■ DEPTH 

想了解IAPP哪个证书适合你？

 IAPP更多考试内容以及精选题库？

CIPP,CIPM,CIPT三大认证区别？

 如何申请考证相关？

 国内具体考点及如何定考位？

......

识别下方二维码

为你一一解答

资格评估可直接扫码

免费评估/赠送一份国际隐私认证学习资料一份

▼关注隐私合规交流圈，最新考试政策资讯抢先看▼

觉得不错你就赞赞我吧！

点分享

点点赞

点在看

戳这，领取IAPP备考资料包