美国高级监控工具曝光！海关与边境保护局斥资数百万引进人工智能监控技术-可检测“情感和情绪”

根据404 Media获得的美国国土安全部的一份文件，DHS下属的海关与边境保护局（CBP）已从一家公司购买了价值数百万美元的软件，该公司使用人工智能来检测在线帖子中的“情感和情绪”（sentiment and emotion）。据称名为ONYX的监控工具涵盖端到端情报流程，是一个完全可扩展的解决方案，能够无缝、快速地提高目标愿景，而无需更多熟练员工来承担工作负载。跨各种在线平台实时有针对性、自动化和模糊化的数据收集，与可定制且支持人工智能的风险评估框架相结合，可自动执行复杂的情报分析。 今9年5月份，Vice曾报道了CBP使用的另一款人工智能支撑的监控工具-Bable X。

CBP告诉404 Media，它正在使用技术来分析与入境和出境旅客相关的开源信息，该机构认为这些旅客可能威胁公共安全、国家安全或合法贸易和旅行。其中一份文件显示，在这种情况下，名为Fivecast的特定公司还提供图像和视频中的“人工智能支持”对象识别，以及跨多种语言的“风险术语和短语”检测。

营销材料宣传该软件能够从Facebook和Reddit等大型社交平台提供有针对性的数据收集，但也特别提到了4chan、8kun 和Gab等较小的社区。为了展示其功能，Fivecast宣传材料解释了该软件如何能够跟踪社交媒体帖子和相关人士，从《纽约时报杂志》一篇有关极右翼准军事组织Boogaloo成员的文章中的“基本生物详细信息”开始。404 Media还获得了 Fivecast员工的泄露音频，该音频解释了如何使用该工具来打击网络贩运或宣传活动。

这一消息标志着美国海关与边境保护局将继续使用人工智能来监控旅行者和目标，其中可能包括美国公民。五月，媒体透露美国海关与边境保护局使用另一种人工智能工具来筛查旅行者，该名为Bable X的工具可以将人们的社交媒体帖子与其社会安全号码和位置数据联系起来。Babel X允许用户输入有关目标的一条信息——他们的姓名、电子邮件地址或电话号码——并收到一组返回的数据。结果可以包括他们的社交媒体帖子、链接的IP地址、工作历史以及与其手机关联的唯一广告标识符。该文件称，监控适用于美国人，包括公民和永久居民，以及难民和寻求庇护者。

这一最新消息表明，CBP已经部署了多个人工智能驱动的系统，并深入了解了这些工具声称的具体功能，同时提出了对其准确性和实用性的质疑。

美国公民自由联盟（ACLU）国家安全项目副主任帕特里克·图米(Patrick Toomey)通过电子邮件告诉404：“CBP不应该秘密购买和部署依赖垃圾科学的工具来审查人们的社交媒体帖子，这种技术声称可以分析他们的情绪，并识别所谓的‘风险’。”

404 Media通过《信息自由法》向CBP和其他美国执法机构提出请求，获得了这些文件。

Fivecast的ONYX产品的公开介绍非常少，网站上的产品介绍中称，Fivecast ONYX涵盖端到端情报流程，是一个完全可扩展的解决方案，能够无缝、快速地提高目标愿景，而无需更多熟练员工来承担工作负载。跨各种在线平台实时有针对性、自动化和模糊化的数据收集，与可定制且支持人工智能的风险评估框架相结合，可自动执行复杂的情报分析。

404 Media获得的一份标记为“机密商业”的文件是对Fivecast的“ONYX”产品的概述。Fivecast在文中表示，其产品可用于针对个人或团体、单个帖子或事件。文件称，除了从大大小小的社交媒体平台收集数据外，Fivecast用户还可以上传自己的“大量”数据。Fivecast表示，其工具是与五眼执法和情报机构“协商”后构建的，这些机构来自美国、英国、加拿大、澳大利亚和新西兰。特别是在构建“感兴趣的人”网络方面，该工具“针对这一具体要求进行了优化”。

与情绪和情感检测相关，Fivecast文档中包含的图表包括随时间变化的“愤怒”、“厌恶”、“恐惧”、“喜悦”、“悲伤”和“惊讶”等情绪。例如，一张图表显示了目标在2020年初的整个时间范围内愤怒和厌恶的峰值。

该文件还包括一个关于如何将ONYX用于特定网络的案例研究。在示例中，Fivecast研究了Boogaloo运动，但Fivecast强调“我们的目的不是关注特定问题，而是展示Fivecast ONYX从单一在线起点发现、收集和分析风险的速度有多快。”

该过程从用户输入Boogaloo短语（例如“Civil War 2”）开始。然后，用户选择一个发现的社交媒体帐户，并部署 Fivecast所谓的“完整”收集功能，该功能“收集给定帐户的社交媒体平台上的所有可用内容”。根据该文件，该工具还从那里绘制出目标的连接网络。

Fivecast的间谍技术顾问劳森·弗格森(Lawson Ferguson)此前曾在一次峰会上向观众展示了如何使用该工具来打击贩运网络或宣传活动。“这些只是人们可以使用像我们这样的开源情报工具收集的数据类型的例子，”他说。来自透明度组织 Tech Inquiry的Jack Poulson与404 Media分享了演讲的音频。

弗格森说，用户“可以训练系统识别某些概念和图像类型。” 在一个例子中，弗格森说，一位同事花了“大量时间”训练 Fivecast的系统来识别药物奥施康定的概念。这包括分析“药丸的图片；手中药丸的照片。”

Fivecast没有回应置评请求。

根据404 Media获得的公共采购记录和CBP内部文件，CBP的Fivecast软件合同已达数百万美元。CBP 2019年8月花费近 35万美元；2020年9月超过650,000美元；2021年8月为260,000美元；2021年9月接近95万美元；最终在2022年9月获得近117万美元。

404 Media还有意征集有关Fivecast与CBP和信息。

您还知道有关Fivecast或CBP使用此工具的其他信息吗？你现在在Fivecast工作吗？或者以前是这样吗？我很想听听你的消息。使用非工作设备，您可以通过 Signal（[phone]）安全地向我发送消息。否则，请向我发送电子邮件至 [e-mail]。

CBP在一份声明中告诉404 Media，“国土安全部致力于保护个人隐私、公民权利和公民自由。国土安全部使用各种形式的技术来执行其任务，包括支持与基础设施威胁、暗网上非法贩运、跨境犯罪和恐怖主义相关的调查的工具。国土安全部以符合其当局和法律的方式利用这项技术。”

至于CBP为何需要购买Fivecast的软件，CBP的内部文件指出了该机构的几个具体部门。它们是现场行动办公室 (OFO)，CBP的主要部门，负责执行边境安全；位于弗吉尼亚州的国家目标中心（NTC），旨在抓捕该机构认为威胁国家安全的旅客和货物；反网络部门（CND，Counter Network Division），属于NTC的一部分；最后是公开信息组（PAIG），该组重点关注我之前获得的其他文档中的位置信息等数据。

雅虎新闻2021年报道称，CND收集了一系列记者的信息。监察长办公室对一名与全国委员会合作从事监测工作的官员进行了刑事移交，但他们没有受到指控。该部门的一名主管此前告诉调查人员，“我们正在突破极限，因此没有规范，没有指导方针，我们是制定指导方针的人。”

美国公民自由联盟(ACLU)的图米补充道：“公众对CBP的反网络部门知之甚少，但我们所知道的情况描绘了一幅令人不安的画面：该机构几乎没有规则，无法获取大量有关美国人的敏感个人数据。” “滥用的可能性是巨大的。”

参考资源

1、https://www.404media.co/ai-surveillance-tool-dhs-cbp-sentiment-emotion-fivecast/

2、https://www.vice.com/en/article/m7bge3/dhs-uses-ai-tool-babel-x-babel-street-social-media-citizens-refugees?ref=404media.co

3、https://www.fivecast.com/product-overview/fivecast-onyx/