Flock 的辩护者忽略了什么

Flock 的辩护者们忽略了什么

随着城市重新审视这项技术，值得追问的是，该公司的设计选择如何塑造了破案与保护公民自由之间的权衡。

• James O'Donnell 档案页

本文原载于我们的 AI 周报《The Algorithm》。若想第一时间在收件箱中收到此类文章，请在此订阅。

以在美国部署约 12 万个自动车牌识别摄像头网络而闻名的警用科技巨头 Flock，上周四宣布了其平台的一些变更。这些更新旨在防止警员将平台用于非法或不正当目的。

其中包括跟踪骚扰。 《华盛顿邮报》最近披露了 50 起警员滥用 Flock 及其竞争对手系统的案例，通常用于跟踪和骚扰女性。威斯康星州一名女性声称，她身为警员的前男友曾搜索她的汽车 179 次。另一名女性则遭到警察局长的跟踪，却无人可举报。

Flock 已采取相应措施，旨在确保每次搜索都有正当理由，例如使用软件标记异常搜索，并要求搜索者输入刑事案件编号。

然而，这些变更存在巨大漏洞。例如，警员可以输入虚假的案件编号，就像他们曾撒谎绕过 Flock 的其他保障措施一样。这些政策也未解决公民自由和隐私组织提出的一些更广泛的担忧，即 Flock 正在将原本作为打击犯罪工具出售的产品转变为大规模监控网络。这些批评引发了越来越多的反对声浪，已有一些城市取消合同，一些州正试图通过立法来限制或完全禁止车牌识别摄像头。

在此背景下，近期出现了一些为 Flock 辩护的论点：如果这些摄像头有助于破案，那又有什么大不了的呢？运气好的话，它们或许能帮助抓获绑匪；即便不能，它们也只是拍下我的汽车照片，没人会费心去看。

暂且不论 Flock 系统究竟在多大程度上真正解决或预防了犯罪这一悬而未决的问题，这一切都忽略了一个更重要的问题：Flock 选择构建的是什么样的打击犯罪系统？其网络之所以如此运作，是因为一系列关于收集哪些信息、谁可以搜索、数据保留多久以及共享范围有多广的决策。这些决策设定了安全与公民自由之间权衡的条款。相信技术应在破案中发挥作用，并不意味着要盲目接受这些条款。

例如，考虑其新要求：警员在 Flock 平台上进行搜索前必须输入案件编号。这旨在确保搜索具有合法目的。但 Flock 向《麻省理工科技评论》确认，它不会核实这些案件编号，因此警员只需输入一个虚假编号即可。可以设想一种系统，要求案件编号与警察局的记录相匹配——这或许是一种更具侵入性的整合，但也是更强大的保障，并能留下更有用的审计线索。

或者，考虑寻找被绑架或失踪人员这一 Flock 最常引用的用例。解决此类犯罪将极大受益于 Flock 的全国摄像头网络。但如果美国人希望警员仅为此目的使用该网络，我们可以这样设计：与正在进行的安珀警报或类似紧急情况关联的搜索，或许可以访问周边城市更大量的数据。这将保留该网络在紧急情况下的价值，而无需人们接受大规模监控。

最后，还有 Flock 收集多少数据以及保留多久的问题。Flock 主要作为一个全国性网络运作：一个城市或州的警察可以搜索在另一个地方收集的数据，机构可以将这些数据保留数月或数年。然而，Flock 自己表示，90% 的搜索发生在事件发生后一周内。这暗示了另一种可能的权衡：仅在数据对破案实际有用时，才广泛共享并保留数据。（该公司最近将其建议的保留时间改为七天，但实际上机构可以随意保留数据。）

简而言之，Flock 可以将其监控设计得更加狭窄。如果这样做，该公司的一些批评者可能仍不会罢休。美国公民自由联盟的高级政策顾问 Chad Marlow 半开玩笑地对我说，按他的标准，最可接受的 Flock 合同是“从未签署的合同”，并强调限制监控的最佳方式不是制定新的 Flock 指南，而是制定新的法律。（Flock 首席执行官 Garrett Langley 则表示，他“可能永远与美国公民自由联盟持不同观点”。）

而缩小其技术范围将威胁该公司向警察部门推销的整个卖点。车牌识别摄像头自 1990 年代以来就已存在，用于收费和罚单。Flock 的商业模式——以及最近 80 亿美元的估值——依赖于将其摄像头打造成一个大规模网络，收集大量数据，并为警察部门提供一种现代化方式，不仅理解自己辖区的情况，还能理解其他辖区的情况。

Flock 可能很快就会被逼入绝境。一些城市已取消与该公司的合同。一些城市转向了竞争对手，另一些城市则在居民思考希望如何使用这项技术并制定警察必须遵守的新规则时暂停合作。结果可能是，社区将自行决定如何利用技术破案，以及为此需要接受多少监控。

作者：James O'Donnell

• 在 LinkedIn 上分享

• 在 Facebook 上分享

• [通过电子邮件分享](mailto:?subject=What%20Flock%E2%80%99s%20defenders%20are%20missing&body=https%3A%2F%2Fwww.technologyreview.com%2F2026%2F08%2F17%2F1142200%2Fwhat-flocks-defenders-are-missing%2F)

• 热门一家初创公司声称突破了阻碍大语言模型的瓶颈Will Douglas Heaven

• 一个根本缺陷使大语言模型极易受到攻击Will Douglas Heaven

• 欧洲生育组织称精子捐赠者需要限制Jessica Hamzelou

• Anthropic 发现了一个隐藏空间，Claude 在其中思考概念Will Douglas Heaven

一家初创公司声称突破了阻碍大语言模型的瓶颈

Subquadratic 现已分享了其新模型的更多细节。但一些人仍持怀疑态度。

• Will Douglas Heaven 档案页

一个根本缺陷使大语言模型极易受到攻击

这使得很容易诱骗它们去做不该做的事情，比如告诉你如何破坏飞机的导航系统。

• 威尔·道格拉斯·海文存档页面

Anthropic 发现了一个隐藏空间，Claude 在其中思考概念

一项新技术让该公司比以往任何时候都更深入地探究了大型语言模型的奇异工作机制。

• 威尔·道格拉斯·海文存档页面

Claude Science 是 Anthropic 最新的旗舰产品

该公司正加倍押注于人工智能用于科学。

• 格蕾丝·哈金斯存档页面

获取来自

MIT Technology Review 的最新更新

发现特别优惠、热门故事、即将举行的活动等。

感谢您提交您的电子邮件！

看起来出了点问题。

我们无法保存您的偏好设置。请尝试刷新此页面并重新更新它们。如果继续收到此消息，请通过 [customer-service@technologyreview.com](mailto:customer-service@technologyreview.com) 联系我们，并附上您希望接收的新闻通讯列表。