关注我们，学习更多隐私合规讯息

人工智能的繁荣，包括大型语言模型（LLM）及相关聊天机器人的出现，给数据隐私带来了新的挑战。

为了更好地了解这些威胁并与潜在的解决方案作斗争，斯坦福大学以人为本的人工智能研究所（Stanford HAI）的隐私和数据政策研究员Jennifer King和斯坦福大学HAI的政策研究经理Caroline Meinhardt发表了一份题为“重新思考人工智能时代的隐私：数据中心世界的政策挑衅”的白皮书。

在这里，King描述了他们的主要发现。

首先，人工智能系统带来了许多与我们在过去几十年互联网商业化和大多不受限制的数据收集中面临的隐私风险相同的风险。

不同之处在于规模：人工智能系统对数据的需求如此之大，以至于我们对收集到的关于我们的信息、信息的用途以及如何纠正或删除这些个人信息的控制甚至更少。

如今，使用在线产品或服务的人基本上不可能在生活的大多数方面逃脱系统的数字监控，而人工智能可能会使情况变得更糟。

其次，存在其他人将我们的数据和人工智能工具用于反社会目的的风险。

例如，用从互联网上抓取的数据训练的生成性人工智能工具可以记住人们的个人信息，以及他们的家人和朋友的关系数据。

这些数据有助于实现网络钓鱼——为了身份盗窃或欺诈而故意针对他人。坏人已经在使用人工智能语音克隆来冒充人，然后通过老式的手机勒索他们。

第三，我们看到为一个目的共享或发布的简历或照片等数据被重新用于培训人工智能系统，通常在我们不知情或不同意的情况下，有时会直接涉及民权问题。

预测系统正被用于帮助筛选候选人，并帮助雇主决定面试谁以获得空缺职位。然而，在某些情况下，用于帮助选择候选人的人工智能存在偏见。例如，亚马逊建立了自己的人工智能招聘筛选工具，却发现它对女性员工有偏见。

另一个例子涉及使用面部识别来识别和逮捕犯罪者。人们很容易认为，“有一个像面部识别这样的工具是件好事，因为它会抓住坏人。”

但相反，由于用于训练现有面部识别算法的数据中固有的偏见，我们看到许多黑人被错误逮捕。这些算法错误地识别了他们。

我是个乐观主义者。当然，我们收集了很多关于我们所有人的数据，但这并不意味着我们仍然不能建立一个更强大的监管体系，要求用户选择参与收集他们的数据，或者在数据被滥用时迫使公司删除数据。

目前，几乎在你上网的任何地方，你在不同网站上的移动都会被跟踪。如果你使用的是移动应用程序，并且手机上启用了GPS，则会收集您的位置数据。

大约20年前，该行业说服联邦贸易委员会，如果我们从选择退出转向选择加入数据收集，我们就永远不会有商业互联网。

在这一点上，我认为我们已经建立了互联网的实用性。我认为公司不需要这个借口来收集人们的数据。

在我看来，当我在网上浏览时，除非或直到我做出一些肯定的选择，比如注册服务或创建帐户，否则不应该收集我的数据。即便如此，除非我同意分享，否则我的数据也不应被视为公开。

十年前，大多数人从网上购物的角度考虑数据隐私。他们想，“我不知道我是否在乎这些公司是否知道我买了什么，我在找什么，因为有时这很有帮助。”

但现在我们看到公司转向了这种无处不在的数据收集，以训练人工智能系统，这可能会对整个社会产生重大影响，尤其是我们的公民权利。

我认为现在扭转局面还不算太晚。这些默认规则和做法并不是一成不变的。

这些类型的规则是至关重要和必要的。它们在欧洲隐私法（GDPR）和加利福尼亚州的隐私法（CPPA）中发挥着关键作用，是联邦拟议隐私法（ADPPA）的重要组成部分。

例如，监管机构如何评估一家公司为其想要使用的目的收集了太多的信息？在某些情况下，很明显，一家公司收集了不需要的数据，完全做得过火了。

但当公司（比如亚马逊或谷歌）可以现实地说他们做了很多不同的事情时，这意味着他们可以证明收集大量数据是合理的。

白皮书确定了人工智能带来的数据隐私问题的几种可能解决方案。

我认为，默认情况应该是，除非我们明确要求收集数据，否则我们的数据不会被收集。在这方面已经出现了一些运动和技术解决方案。

其中之一是苹果的应用程序跟踪透明度（Apple ATT），苹果于2021年推出该技术，以解决第三方应用程序收集了多少用户数据的问题。

现在，当iPhone用户下载新应用程序时，苹果的iOS系统会询问他们是否希望允许该应用程序在其他应用程序和网站上跟踪他们。营销行业报告估计，80%到90%的人会说不。

另一种选择是，网络浏览器具有内置的退出信号，如全球隐私控制，可以防止第三方放置Cookie或在不勾选框的情况下出售个人数据。

目前，《加利福尼亚隐私保护法》（CPPA）规定浏览器可以包含此功能，但这不是强制性的。虽然一些浏览器（例如Firefox和Brave）有内置的输出信号，但大型浏览器公司（如微软Edge、苹果的Safari和谷歌Chrome）没有。

有趣的是，加利福尼亚州的一名立法者最近提议对CPPA进行修改，要求所有浏览器制造商尊重第三方选择退出信号。

这正是我们所需要的，这样数据就不会被每个可能的参与者和你去的每个地方收集。

当我谈论数据供应链时，我指的是人工智能系统在数据输入端和数据输出端引发问题的方式。

在输入端，我们担心个人的个人信息是否从互联网上被抓取并包含在系统的训练数据中。

反过来，我们的个人信息在训练集中的存在可能会对输出端产生影响。例如，生成式人工智能系统可能已经记住了我的个人身份信息，并将其作为输出提供。

或者，生成式人工智能系统可以揭示一些关于我的信息，这些信息基于多个数据点的推断，这些数据点在其他方面是未知的或不相关的，与训练数据集中的任何个人身份信息无关。

目前，我们依靠人工智能公司从他们的培训数据中删除个人信息，或者设置护栏，防止个人信息在输出端泄露。这并不是一个可以接受的情况，因为我们依赖于他们选择做正确的事情。

监管人工智能需要特别关注数据的整个供应链——不仅是为了保护我们的隐私，也是为了避免偏见和改进人工智能模型。

不幸的是，我们关于在美国监管人工智能的一些讨论根本没有涉及数据。我们一直专注于围绕公司算法系统目的的透明度要求。

即使是已经将GDPR作为隐私基线的欧洲《人工智能法案》，也没有对人工智能的数据生态系统进行广泛的审视。

它只是在高风险人工智能系统的背景下被提及。因此，如果我们要意识到我们的个人信息受到保护，不被纳入人工智能系统，包括基础模型等非常大的系统，这是一个需要做很多工作的领域。

如果我们想让人们在生成和收集大量数据的情况下对他们的数据有更多的控制权，在个人权利上加倍努力是不够的。

在加利福尼亚州，我们有数据隐私法，但大多数人甚至不知道我们有什么权利，更不用说有时间弄清楚如何行使这些权利了。

如果我们真的想行使这些权利，我们就必须向我们接触过的每家公司提出个人请求，要求他们不要出售我们的个人信息——鉴于这些“不出售”的选择退出不是永久性的，我们必须每两年提出一次请求。

这一切都表明，需要一个集体解决方案，以便公众有足够的影响力来大规模谈判他们的数据权利。对我来说，数据中介的概念最有意义。

它涉及将你的数据权利的谈判权委托给一个为你工作的集体，这给了消费者更多的影响力。

我们已经看到数据中介在一些企业对企业的环境中形成，它们可以采取各种形式，如数据管理员、信任、合作、协作或共享。在消费者领域实施这些将更具挑战性，但我认为实现的可能性非常大。

文章整理于：

https://hai.stanford.edu/news/privacy-ai-era-how-do-we-protect-our-personal-information

由隐私合规交流圈 隐小私整理，转发请备注出处

随着人工智能技术的扩展，各行各业的专业人员都需要了解并执行负责任的人工智能治理。AIGP（人工智能治理专家） 证书表明个人可以确保道德人工智能的开发和部署以及人工智能系统的持续管理的安全性和信任度。

这个证书是IAPP协会2024年第一季度发行的人工智能领域的证书，目前持有者较少，是现阶段市场上权威性较高的人工智能领域方面的证书。该证书表明，个人可以确保道德人工智能的开发和部署以及人工智能系统的持续管理的安全和信任。

第一，建立人工智能系统及其用例、人工智能的影响以及负责任的人工智能原则的理解的基础知识。

第二，展示对当前和新兴法律如何适用于人工智能系统的理解，以及如何能够负责任地管理主要框架。

第三，展现对人工智能生命周期、人工智能风险的管理背景以及负责任的人工智能治理实施的理解。

第四，展示对人工智能不可预见的问题的认识以及对围绕人工智能治理的争论问题的了解。

‍适学群体：

推荐理由：

更多课程在线听讲

『 扫码获取解析，并评估AIGP考试资格 』

感觉不错你就赞赞我吧！

点分享

点点赞

点在看

戳这个，领取AIGP备考资料