AI总结也会被“下毒”？微软警告新攻击术_***_公司_导致用户

发表时间：2026-09-20 13:54:11
来源：

IT之家 2 月 13 日消息，或许网龄比较老的小伙伴们听说过“SEO ***”，别有用心者通常会在互联网上创建大量低质量文章，然后将某个***冒、篡改的工具与特定关键词绑定，进而导致用户搜索某个关键词时，搜索引擎跳出来的第一个搜索结果是恶意软件，而非官方产品。

而根据微软安全研究人员本周（2 月 10 日）发布的博文，目前 AI 领域也存在类似的“AI 推荐***”攻击术。

以现实举例，一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮，当用户点击时，系统会通过 URL 的提示参数，尝试将 AI 助手的记忆注入持久化指令。

IT之家在此援引微软，这些提示词会让 AI 固化认知，将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心，最终让 AI 在未来回答中偏向某个产品或服务。

不过问题就在于，一旦有别有用心之人尝试篡改网页提示词参数，将原本的“XX 公司”替换为“XX ***公司”，那么 AI 就会照本宣科地向其他用户提供有毒的建议，进而操纵推荐、AI 总结系统，给出篡改的总结文章，而用户这边却毫不知情。

微软强调，上文所述的攻击方法并非纸上谈兵，目前公司已在邮件流量中发现了 50 起类似***案例，涉及金融、医疗、法律服务、营销、食品、服务行业等，常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”，更有甚者直接注入完整营销文案，并且上述案例均来自合法公司而非黑客。

微软对此警告，上述实例表明，这种***术已经存在现实风险，金融工作者有可能被 AI 推荐到高风险、***投资平台；而家长很有可能完全听信 AI，忽略儿童游戏中的不良内容；并且普通人也有可能会被有心之人利用，在 AI 中持续引用单一媒体来源。

当然，最好的应对方法就是不要完全信赖“AI 总结”，用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规，同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆，如遇可疑情况，可以删除相关条目、重置 AI 记忆。返回搜狐，查看更多

48亿，阿里腾讯百度字节，过年集体送钱！_App_红包_活动

巨头集体“不务正业”，AI真能救未来？_特斯拉_投资_OpenAI

推荐资讯

2026-09-20 17:18:23印度网友沸腾了：中国还只有7nm芯片，印度已有2nm了_制造_高通_设计
2026-09-19 18:39:18月之暗面，被BAT阴影笼罩_巨头_技术_用户
2026-09-19 19:39:17巨头集体“不务正业”，AI真能救未来？_特斯拉_投资_OpenAI
2026-09-21 10:31:04黄仁勋：在几乎无人相信AI的时候，马斯克却力挺AI_人工智能_公司_那是
2026-09-20 07:21:15颠覆硬盘！微软千年玻璃存储来了，数据存1000年不坏_数字_技术_传统
2026-09-20 16:38:07最贵的34990美元起，贾跃亭发布人形机器人！身背巨额债务8年没回国…_系列_Aegis_网友
2026-09-21 07:32:57一上高铁就昏睡，真的是二氧化碳浓度超标了？_ppm_系统_新风
2026-09-20 20:54:57天涯论坛又打复活赛！三年「复活」三次，1999元的创始会员割谁「韭菜」？_***_平台_社交
2026-09-19 21:04:45南京古生物所公布一项重要发现_动物_***_化石
2026-09-20 11:49:02ChatGPT开测广告！OpenAI终于向“钱”看_用户_模型_-Codex

推荐产品

OpenAI即将完成千亿美元融资，投后估值或突破8500亿美元_公司_战略投资者_开发
公开资料显示，截至2026年2月3日，OpenAI已完成10轮核心融资（含早期捐赠、正式融资和战略投资）。 OpenAI初始为非营利研究实验室，但烧钱的速度远超想象，2019年转型为营利性与非营利结合的混合…
马斯克将SpaceX与xAI合体，估值飙至8.7万亿，或批量造就亿万富翁_收购_合并_星际文明
北京时间2月3日，马斯克旗下商业航天巨头SpaceX正式官宣收购马斯克AI大模型独角兽xAI，合并后总估值直接飙升至1.25万亿美元（约合人民币8.71万亿元），这一数额已经逼近科技巨头Meta（1.79万…
月之暗面，被BAT阴影笼罩_巨头_技术_用户
一年时间，“AI六小虎”的分化早已给出答案：在巨头阴影下，AI创业公司想要生存，要么像阶跃星辰那样精准卡位细分赛道、稳扎稳打；要么像智谱AI那样借力资本、冲刺上市；要么像月之暗面那样坚守技术、打造差异化；而…
春晚机器人刷屏背后！谁是最大赢家？_宇树_松延_智元
除夕夜，当宇树的机器人在舞台上完成那惊世骇俗的七周半回旋，当松延动力的仿生机器人精准复刻蔡明的挑眉，当魔法原子的机器狗在宜宾分会场整齐列队，当***通用的G1在微电影中捡起玻璃碎片，这些画面叠加在一起，构成了…