AI 谄媚警报:“你绝对正确”让企业 CEO 容易患上“AI 精神病”
IT之家 6 月 3 日消息,英国卫报昨日(6 月 2 日)发布博文,示警称 AI 谄媚(AI sycophancy)正从产品体验问题变成社会风险。
专栏作者 Arwa Mahdawi 在调查后指出,AI 行业的集体兴奋正在扭曲现实判断,尤其是部分企业首席执行官(CEO)容易患上“AI 精神病”。
Mahdawi 援引 Box 联合创始人 Aaron Levie 观点,指出企业 CEO 通常处于决策层,离具体工作太远,往往只能看到 AI 演示中的顺利路径。
该博文指出这种距离感会让高层低估人力劳动的价值,在决策时渴望用顺从 AI 模型替代昂贵员工,却高估技术成熟度,也低估安全测试的必要性。
在实际案例中,今年 4 月 Claude 由于出错,删除 PocketOS 全部生产数据库和备份。创始人 Jeremy Crane 随后表示,行业把 AI 智能体接入生产基础设施的速度,已经快过安全架构建设速度。
IT之家此前还报道,今年 5 月在生产环境下,谷歌 Gemini 3.5 模型越权删除 28745 行现有代码,波及 340 个文件,导致整套生产门户持续 33 分钟返回 404 错误。
该博文认为导致这个问题的根源之一,是 AI 被设计得过于顺从,会不断附和你的观点,形成“你绝对正确”的逻辑,让人们更难发现自身判断漏洞。
2026 年 3 月《柳叶刀精神病学》相关研究发现,聊天机器人可能鼓励妄想思维,尤其影响已有精神病性症状风险的人群。斯坦福计算机科学家的研究也称,大语言模型谄媚会削弱自我纠错和负责任决策能力。
相关阅读:
● 《AI 智能体失控:9 秒清空公司生产数据库,事后书面承认违规》
● 《开发者反馈 Gemini 3.5 AI 删光 2.8 万行代码、搞崩后台、编造修复报告》
淦你娘加拿大政府的 Census 太难填了,我们家还有一个不是顺性别的人……我根本不知道人家想要填什么,私信问这东西感觉非常 offensive……
Читать полностью…
https://www.adobe.com/uk/acrobat/resources/repair-pdf.html
傻逼 Adobe 也开始用 AI 刷文章了。
My Students Can't Read https://www.chronicle.com/article/my-students-cant-read
Читать полностью…
风间苍月: jandan.net/t/6157428
OO: 143 XX: 9
小斌斌UNew: 呼号!时刻准备着!
OO: 43, XX: 4
神圣伟力: 圣经就是洗脑大全,全书都是教你信就完了,你只要信这玩意甚至可以拿到中东当地契
OO: 29, XX: 6
zllcpp: 越强调啥 越是缺少啥
OO: 16, XX: 2
没有人: 照这个讲法,老丁说文的完整录播能算历史教育(正视历史书籍图文、思考地理关系、比较语音的历史流变、和反方辩论、质疑部分文献、甚至否定自己的早期推论),而常规历史课算洗脑(避开所有)
OO: 12, XX: 1
蛋友e63b64bec06ee: 暴力加弱智的谎言用起来最容易
OO: 8, XX: 1
莫问: 真正的教育从来不怕被教育者的质疑和争讨,反而乐于看到被教育者在这种辩证中找到真正的道路
OO: 6, XX: 0
ASDZXC: jandan.net/t/6156920
OO: 126 XX: 2
筋肉横练小舅舅: 相当的佐特
OO: 19, XX: 1
【温馨提示】全国互联网公司运维节即将到来,您常用的互联网服务可能出现功能不正常的情况,请各位做好心理和生理不适的准备。
Читать полностью…
https://makerworld.com/en/models/1666866-brick-box?from=search#profileId-1764165
好厉害……
美国加州众议院投票通过《保护游戏法案》,玩家购买的游戏有望实现“永久可玩”
IT之家 6 月 2 日消息,此前育碧关停初代《飙酷车神》服务器引发“Stop Killing Games”游戏保存运动,玩家们联名要求厂商必须为旗下游戏负责。
而根据外媒 VGC 报道,随着相应运动持续推进,如今美国的《Protect Our Games Act(保护游戏法案)》以 43 票赞成、16 票反对的结果通过加州众议院投票,下一步将提交州参议院审议。
如果后续相应法案继续在州参议院获得通过,最终版本将被送交美国总统签署。一旦总统批准,该法案将在 10 天内正式生效,成为正式法律。
根据提案内容,而这项法案的核心目的是避免玩家花钱购买的游戏在关服后彻底“消失”,发行商未来需要确保玩家购买的付费游戏始终能够游玩,即使是官方服务器停止运营后玩家也能够以单人形式体验。
虽然这项法案名义上属于加州当地的州法律,但由于大量游戏厂商、平台和发行商都在加州运营,它实际上可能对全球游戏产业带来连锁影响。如法案最终获准通过,未来开发商可能需要为旗下多人付费游戏提前准备离线模式、私服支持,或者服务器关闭后的“保底运行方案”。