生成式人工智能（大语言模型）备案后模型被攻击，企业需承担责任吗？

备案≠免责！大模型被黑，锅真能甩给“已备案”吗？

最近不少客户拿着《生成式人工智能服务管理暂行办法》来问：我们模型老老实实备了案，结果被黑客攻破、数据泄露、甚至被用来造谣——这责任，还得我们自己扛？

别急着拍胸脯说“我备过案了”。
备案，本质是“入场资格审核”，不是“安全免死金牌”。就像开餐馆要办卫生许可证，但后厨老鼠乱窜、食材过期，食药监照样罚你没商量。监管要的是持续合规能力，不是一张纸的“通关文牒”。

责任边界，藏在三个关键动作里

第一，备案时提交的《安全评估报告》是否真实有效？如果为赶进度填了“未发现高危漏洞”，结果上线三天就被拖库，那备案材料本身就成了追责铁证。
第二，日常有没有做动态防护？比如API接口是否加了频率熔断、提示词注入有没有实时过滤、训练数据有没有做脱敏审计？这些不是备案时交一次材料就完事的，而是每天都在发生的“安全呼吸”。
第三，出事后的响应快不快？是第一时间下线模型、通知用户、配合溯源，还是捂着盖子等风头过去？监管看的不仅是“有没有事”，更是“怎么扛事”。

真正的风险，往往来自“看不见的角落”

我们帮某家金融客户做模型加固时发现：他们备案用的测试环境很干净，但生产环境悄悄接了第三方舆情爬虫接口——结果攻击者顺着这个“合法后门”，反向注入恶意指令。备案材料再漂亮，挡不住业务侧的“灵活操作”。

九蚂蚁干这事五年了，见过太多企业把“已备案”当护身符，却在日志监控、权限分级、红蓝对抗上省预算。其实真没那么玄——把模型当活物养，而不是当展品供起来；把安全当流水线工序，而不是上线前的“临门一脚”。

模型不会自己变安全，备案只是起点。真正扛住攻击的，从来不是那张备案回执，而是你每天多盯的一眼日志、多跑的一次渗透、多问的一句“这个接口真需要开放吗？”