Anthropic最新报告：AI开始批量“崩老头”了？

• 2026-09-12

头图来自：AI生成 如果有一天，你在交友软件上认识了一个人。对方记得你说过的话，会持续回应，也会在你要求视频时真的出现在镜头里。过去，这大概足以证明屏幕另一端"确实有人"。 但Anthropic最新发布的154页威胁情报报告，给出了一个更麻烦的现实：视频里出现的可能是真人，过去几天一直陪你聊天的，却未必一直是。 2026年4月，Anthropic发现一家位于中国的应用工作室运营20多款约会应用。在其观察的两周窗口内，超过4700个AI驱动的人设至少与2.5万名真实用户互动，产生约236万条Claude消息。匹配池中的账号约四分之三由AI驱动。更关键的是，当用户要求视频通话或转移到其他社交平台时，真人工作人员可以介入。 这不是整份报告里技术风险最高的案例，却可能是离普通人最近的一幕：AI负责规模化维持关系，真人负责在最关键的时刻证明"我是真人"。 把这一个案例放回Anthropic整份报告，会发现它和网络攻击、监控、影响力行动甚至武器研发共享着同一条变化：AI正在从"给人建议"，走向参与更长、更完整的执行链。过去需要很多人、很多时间和较高专业门槛才能推进的事情，开始被压缩成少数人加上一组模型或Agent。 先看报告：Anthropic到底发现了什么？ Anthropic这份《Detecting and Countering Misuse of AI: September 2026》覆盖2025年12月至2026年8月间被公司发现并处置的滥用活动。它不是Claude整体用户行为的抽样统计，而是集中呈现Anthropic认为最值得注意、最具新颖性的威胁案例： 此表更适合被理解为"AI滥用边界正在延伸到哪里"，而不是"这些风险在所有用户中有多普遍"。 一、4700个"真人"：AI开始学会在最关键的时候让真人出现 过去我们对网络机器人的识别方式很朴素：头像可能是假的，话术可能是模板，聊久了总会露出破绽。生成式AI已经让"聊得像真人"变得容易，但Anthropic披露的约会应用案例更进一步——系统不是执着于让AI完成100%的伪装，而是在人最容易起疑的地方引入真人。 这是一种很值得注意的人机分工。AI承担最耗时间、最需要规模的长期聊天，真人只在视频、跨平台联系等高风险节点介入。换句话说，真人不再负责维持关系，而开始成为大量AI身份背后的验证节点。 这改变了欺骗的成本结构。过去，一个真人一天能认真维护的关系数量非常有限；现在，同一套系统可以让数千个身份同时在线、持续回应、保留上下文，再用少量人工去处理机器最难通过的验证。 报告还显示，这些应用通过匹配和消息额度推动用户持续购买虚拟币。于是情感互动不再只是"AI会不会说甜言蜜语"的产品能力，而被嵌进一条完整的商业链：身份制造、持续互动、真人验证、付费转化。 需要说明的是，Anthropic披露的是它发现并处置的具体滥用活动，不能由此推断所有AI陪伴或约会产品都采用类似模式。真正的分界线也不是"AI能不能陪伴人"，而是用户是否知道自己正在和AI交流。 二、AI从"告诉你怎么做"，走向"参与把事情做完" 如果只看4700个AI恋人，这份报告很容易变成猎奇新闻。但Anthropic真正反复呈现的，是另一条更重要的技术趋势：AI的角色正在从一次性的内容生成，进入连续任务。 网络攻击是最清楚的例子。攻击者不再只是让Claude解释漏洞或写一段代码，而是把模型放进侦察、利用、数据整理、恶意软件迭代等多个环节。报告披露的一项疑似与俄罗斯国家背景相关的网络间谍活动，计划攻击超过20家组织；当恶意工具被安全产品发现后，AI还被继续用于修改和重新部署代码。 这里真正变化的是经济学，而不是AI突然有了"恶意"。对于合法企业，Agent的价值就在于减少人工接力，让一个人能推进更完整的工作流；同样的生产率提升落到攻击者手里，也会让少数人完成过去需要更多专业人员才能完成的事情。 因此，AI安全问题正在从"模型会不会回答一个危险问题"，变成"模型能不能在现实系统里连续行动"。前者主要靠内容过滤，后者则涉及权限、工具调用、日志、身份验证、人工接管和异常检测。 三、监控和情报工作也开始Agent化 Anthropic还披露了AI被用于监控与情报活动的案例。一名为马里国家安全部门工作的顾问曾借助Claude参与开发通信拦截平台；另一起与伊朗相关的活动则使用Claude处理大量社交媒体信息，并筛选特定账户持续分析。 这类案例之所以重要，不在于模型能够"读社交媒体"，而在于它开始承担过去需要分析人员长期处理的信息整理和筛选任务。模型越能持续调用工具、读取数据、形成中间结论，风险的单位就越从一条输出变成一段工作流。 对企业也是同样的提醒。未来一个Agent能读取邮件、合同、CRM、代码仓库和财务文件时，真正决定风险的不只是模型聪不聪明