新漏洞披露:字体投毒让 AI 变“瞎”,微软 Copilot 已积极修复
IT之家 3 月 18 日消息,安全厂商 LayerX 披露新型“字体渲染”攻击手法,利用自定义字体和 CSS 样式,巧妙伪装恶意指令,成功骗过 ChatGPT、Claude、Copilot 等多款主流 AI 工具。
IT之家援引博文介绍,这种攻击的核心在于制造“信息差”:AI 助手抓取的是网页底层的结构化文本,而用户看到的是浏览器渲染后的视觉画面。黑客借此向 AI 隐藏真实意图,导致 AI 向用户提供危险建议。
攻击者无需依赖 JavaScript 或任何浏览器漏洞,仅利用自定义字体和基础 CSS,就能在网页渲染层向用户隐藏并展示恶意指令。
攻击者通过修改自定义字体文件中的字形映射,将原本正常的英文字母渲染成乱码,同时将隐藏的恶意载荷显示为可读指令。
随后,他们利用 CSS(如极小字号或特定颜色)隐藏无害内容,并放大恶意载荷。结果是,纯文本解析器(AI)看到的是安全内容,而用户在浏览器中运行的却是攻击者控制的危险指令。
这样一来,AI 工具在分析网页时只能读取到被伪装的无害内容,而浏览器却会将经过特殊编码的恶意指令清晰地展示给普通用户。
LayerX 设计了一个以《生化奇兵》游戏“彩蛋”为诱饵的钓鱼页面。该页面诱导用户复制并运行一段代码。当受害者出于谨慎,要求 AI 助手评估该指令的安全性时,AI 由于只能读取到隐藏的无害代码,便会给出“绝对安全”的误导性答复。这种手法高度依赖社会工程学,利用了用户对 AI 工具的信任,从而诱导受害者在本地设备上执行反向 shell 等高危命令。
LayerX 于 2025 年 12 月 16 日向受影响的 AI 厂商报告了这一漏洞,但各方反应差异巨大。微软是唯一一家积极响应并完全修复该问题的企业。
相比之下,谷歌最初将其评为高危漏洞,随后却以“不会造成重大用户伤害”及“过度依赖社会工程学”为由将其降级并关闭,多数其他厂商也以超出安全防范范围为由拒绝处理。
If you thought the code writing speed was your problem; you have bigger problems https://andrewmurphy.io/blog/if-you-thought-the-speed-of-writing-code-was-your-problem-you-have-bigger-problems
Читать полностью…
Fascinating story btw
Note: Cancer hasn’t been cured. BUT: life expectancy and QoL has been improved
Still, worth to read to maintain hopes about humanity
好,MCP 写完了,上下文自动清理插件写完了,明天部署一套 KTransformer,实验就能开始跑了,正好 Nvidia 出了个新模型,带着 QWen 32B 可以一起做一套对比测试
Читать полностью…
bba34: https://jandan.net/t/6107877
OO: 149 XX: 3
煎双黄蛋: 喝完这一杯还有三杯
OO: 30, XX: 0
莫问: 正在品尝生活苦涩的猫猫
OO: 22, XX: 0
日本乐天 AI 模型被指“套壳”DeepSeek V3
3 月 18 日消息,日本乐天集团 17 日发布了号称“日本国内最大规模”的高性能 AI 模型 Rakuten AI 3.0。却在不到 12 小时内被技术社区发现,其核心架构完全基于中国深度求索公司的开源模型 DeepSeek V3,且初始版本中未对原创者进行任何标注,引发舆论哗然。
据技术社区爆料,在 Rakuten AI 3.0 发布当天上传至 Hugging Face 开源平台的文件中,其核心配置文件(config.json)的“architectures”字段明确显示为“DeepseekV3ForCausalLM”,“model_type”字段亦为“deepseek_v3”。模型总参数量(671B)、激活参数量(37B)等核心指标与 DeepSeek V3 原版完全一致,被指“仅进行了换皮微调”。
从法律层面看,DeepSeek V3 采用允许商用的 Apache 2.0 开源许可证,乐天的行为并不违法。
但社区网友争议焦点在于,乐天在宣传中仅模糊提及“充分利用开源社区最优成果”,全程未提 DeepSeek,极力塑造“自主研发”形象,涉嫌误导公众。
更严重的是,有网友发现,乐天最初甚至删除了 DeepSeek 的许可证文件,被曝光后才以“NOTICE”文件名重新上传,此举被认为违背了基本的开源精神。
美国国家反恐中心主任乔·肯特3月17日宣布辞职。他表示自己“无法在良心上”支持对伊朗的战争。他声称伊朗对美国没有迫在眉睫的威胁,美国发动战争是由于以色列及其游说团体施加的压力。
(美联社)
对不起,说话太大声了。
https://www.youtube.com/watch?v=GXpTyq-YbPM