企业用AI的50个法律风险（第一期1-10）

admin

第一批：先抓最容易出事、最容易被忽视的10个风险。由上海锦天城（重庆）律师事务所李章虎律师团队编写。 风险1：把“内部试用AI”误当成“无法律后果的效率工具”

很多企业以为，员工只是拿豆包类工具、文生图工具、智能客服插件做摘要、写方案、生成图片，属于内部效率行为，不会进入监管视野。这个认识并不安全。因为一旦AI工具被用于面向客户输出内容、嵌入产品功能、参与营销推荐、影响交易决策、处理个人信息，就可能落入生成式AI、深度合成、算法推荐、个人信息保护等规范的交叉适用范围。也就是说，企业风险不是从“研发大模型”才开始，而是从“把AI真正用进业务流程”就开始了。

企业常见场景：
市场部用AI自动生成海报和短视频；客服部用AI自动回复；销售系统用AI给客户打标签并推荐产品；法务部把合同上传至第三方AI平台审查。
律师提示：大多数企业现在做的是“先用起来”，但还应当注意场景分类：内部辅助、对外输出、自动化决策、个人信息处理、内容传播，这五类场景对应不同责任边界。

风险2：把客户资料、合同、投标文件、研发文档直接喂给外部AI

这是目前最常见、也最现实的高危风险。企业员工一旦把未脱敏的合同、客户名单、身份证信息、病历、财务表、源代码、研发参数等输入第三方AI平台，可能同时触发商业秘密泄露、个人信息违规处理、数据安全失控、保密义务违约等多重问题。现行规则明确要求生成式AI提供者在监管检查中可被要求说明训练数据来源、规模、类型、标注规则、算法机制机理等情况；同时，监管人员对国家秘密、商业秘密、个人隐私和个人信息负有保密义务。这恰恰反向说明：企业一旦把敏感数据输入AI，相关数据本身就已经进入法律高度敏感区。

高危输入内容：
客户名单、报价体系、尽调资料、投标方案、员工档案、诉讼材料、病患信息、供应链价格、核心算法文档。
律师提示：至少建立三道线——禁输清单、脱敏机制、审批机制。凡涉及个人敏感信息、商业秘密、未披露交易信息、重要经营数据的，原则上不得直接输入公有云AI。

风险3：个人信息“为了训练AI、优化模型”就随便用

个人信息不是企业“已经拿到手”就能任意二次利用。个人信息保护法确立了个人信息处理规则，并对敏感个人信息、自动化决策、影响评估等提出更高要求。尤其是当企业把用户数据用于画像、建模、训练、推荐、风控、营销时，已经不是简单的“存储”或“人工查看”，而是更高风险的数据处理活动。

特别要注意三类高发违法点：
第一，拿原本为了履约收集的数据，转而用于模型优化、商业营销、画像训练；
第二，处理敏感个人信息却没有充分的合法性基础和必要性论证；
第三，未做个人信息保护影响评估，就将AI嵌入高风险场景。个人信息保护法对敏感个人信息和自动化决策均采取更严格的保护逻辑。

律师提示：企业至少要把“AI数据用途”单独列出来，不要把“为了改进服务”写成兜底条款就以为足够。对于训练、画像、推荐、风控、评分，应单独做合法性梳理。

风险4：AI画像、推荐、定价、风控触发“自动化决策”风险

个人信息保护法明确规定：利用个人信息进行自动化决策，应保证决策透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇；用于信息推送、商业营销时，应同时提供不针对个人特征的选项，或者提供便捷的拒绝方式；对个人权益有重大影响的决定，个人有权要求说明，并有权拒绝仅通过自动化决策作出决定。

这意味着，企业把AI用于差异化定价、授信评分、简历筛选、保险核保、招商准入、客户分层、内容推荐时，不只是技术问题，而是明确的法律合规问题。
律师提示：凡是AI结果会影响交易机会、交易条件、身份评价、就业机会、融资机会的，都应进行自动化决策专项审查，并保留“人工复核”“申诉入口”“解释机制”。

风险5：AI生成内容发布时未做显著标识

这一点在2025年后已不再是“倡议”，而是规则要求。《人工智能生成合成内容标识办法》明确，人工智能生成合成内容包括文本、图片、音频、视频、虚拟场景等信息，标识包括显式标识和隐式标识；答记者问进一步说明，服务提供者应当在相关场景下为生成合成内容添加显式标识、在文件元数据中添加隐式标识，并在用户协议中说明标识方法、样式等内容；该办法与配套强制性国家标准于2025年9月1日同步实施。

高发误区：
企业认为“只是在公众号、短视频、海报、客服话术里用了一点AI，不需要标”。这个判断很危险。尤其是在容易引发公众混淆、误认的场景中，标识义务更加突出。算法推荐规定和深度合成规定也都已对生成合成信息标识提出要求。

律师提示：企业至少应建立“AI生成内容标识规则”并统一落地到：官网、APP、小程序、短视频账号、客服系统、营销物料、下载导出文件。

风险6：AI换脸、拟声、合成视频侵害他人肖像权、声音权益、著作权

AI最容易“出圈”，也最容易“侵权”。最高法和人民法院系统近年的公开案例已经清晰释放信号：一方面，法院关注AI技术应用中的著作权边界；另一方面，对于未经授权使用他人视频、人物形象、声音素材进行AI换脸、合成传播并牟利的行为，司法态度明显趋严。2025年发布的人民法院知识产权典型案例中纳入“AI换脸”著作权侵权案；同年人民法院发布利用网络、信息技术侵害人格权典型案例，也明确指出未获授权利用他人肖像供用户“换脸”构成侵害肖像权。

企业高发场景：
品牌宣传片换脸、数字人带货、拟声客服、仿某明星音色配音、用网络公开视频做AI再创作。
律师提示：凡涉及“可识别的人”“他人作品素材”“模仿性很强的声音/形象”，都不要把AI当成免责工具。AI只是手段，不会自动冲掉授权义务。

风险7：误以为“AI生成内容天然归企业所有”

这也是企业最容易踩坑的地方。北京互联网法院公开案例显示，AI文生图在特定条件下可能获得著作权保护，但关键仍在于人的智力投入、选择安排、创作控制和证据留存，并不是所有AI输出都当然构成作品。与此同时，2025年人民法院知识产权公开信息继续表明，司法对AI相关知识产权问题持审慎、个案判断态度。

企业实务中的误区有两个：
一是以为“我付费买了AI会员，输出物版权当然归我”；
二是以为“只要员工在公司电脑上生成，权利就天然归公司”。这两种认识都过于粗糙。
律师提示：企业必须保留生成链路证据：提示词、参数设置、版本迭代、人工筛选修改记录、发布时间、授权协议、平台条款。没有这些，后续主张权利会非常被动。

风险8：使用未备案、未登记、来源不明的生成式AI服务

国家网信办已公开发布生成式人工智能服务备案和登记信息，并明确：提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应通过属地网信部门履行备案程序；已上线的生成式人工智能应用或功能，应在显著位置或产品详情页面公示所使用已备案生成式人工智能服务情况，注明模型名称及备案号。

这对企业的直接影响是：
如果你是AI能力的集成者、代理者、平台化接入者，而你自己又面向用户提供相关功能，那么“底层模型是否合规”“备案登记情况是否清楚”就不再只是供应商自己的事。
律师提示：采购AI能力时，至少核验四项：模型名称、备案/登记情况、服务条款、数据处理规则。对外商用前，再看自己是否已进入需要履行相应义务的范围。

风险9：把AI客服、AI营销、AI内容推荐做成“黑箱系统”

算法推荐管理规定要求，算法推荐服务提供者应落实算法安全主体责任，建立算法机制机理审核、科技伦理审查、信息发布审核、数据安全和个人信息保护等制度，并定期审核、评估、验证算法机制机理、模型、数据和应用结果。换句话说，企业如果把AI推荐、AI分发、AI营销、AI客服做成“效果导向即可、过程无人解释”的黑箱系统，未来极易在投诉、争议、监管核查中处于被动。

典型风险后果：
客户投诉“为什么我总被拒绝”“为什么我看到的价格更高”“为什么系统一直给我推这种内容”，企业无法解释。
律师提示：算法治理的最低配，不是造一个伦理口号，而是形成三类文档：制度文件、审核记录、复核机制。没有留痕，就很难证明你尽到了管理义务。

风险10：认为“AI出错只是技术问题”，忽视虚假信息、误导传播和平台责任

现行规则对AI生成内容的虚假信息风险高度敏感。深度合成规定明确，深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息；算法推荐规定要求防范和抵制传播不良信息；生成式AI暂行办法也将传播虚假信息、侵害个人信息权益、数据安全、偏见歧视等作为制度回应的重要背景。

因此，企业一旦把AI用于新闻资讯、投研分析、医疗建议、法律问答、教育培训、招商宣传、产品说明等高信赖场景，就不能再用“模型幻觉”“系统失误”作挡箭牌。2026年最高法工作报告公开信息亦已提到，人民法院在涉生成式人工智能案件中强调既要把握科技创新“容错”空间，也要对侵害合法权益、扰乱社会秩序的行为依法规制。

律师提示：高风险行业场景必须加上三件东西：
第一，适当的人工复核；
第二，错误纠正与投诉通道；
第三，面向用户的风险提示与使用边界说明。

这一期的核心结论

对企业而言，AI法律风险并不是一个抽象概念，而是已经可以拆成十个非常具体的管理问题：能不能输、能不能训、能不能推、能不能标、能不能解释、能不能留痕、能不能授权、能不能上线、能不能公示、能不能纠错。如果这十个问题没有制度化答案，企业用AI越深，法律暴露面通常越大。

上述风险并非只针对“大模型公司”，而是会落到几乎所有“把AI嵌入业务流程”的企业头上。

律师简介：

李章虎律师，系上海锦天城（重庆）律师事务所高级合伙人，深耕法律行业15年以上，是知识产权、重大商事争议解决、投资并购、政企法律顾问领域的资深实战专家，同时深耕人工智能、大数据等高新科技法律事务，精通企业出海全流程法律服务，专业实力过硬。

他斩获多项重磅荣誉，连续五届获评《Benchmark Litigation》中国西部诉讼之星，多次入选《The Legal 500》推荐律师榜单，还跻身律新社知识产权律师20强、获评司法部、国家知识产权版发“涉外知识产权律师”等，是行业公认的精英律师。作为行业标准起草人之一，他身兼重庆科技局等数十家政企法律顾问，及多个市级官方专家库专家，行业资源丰厚。

执业期间，他服务政企客户500余家，承办多起标的额过亿、千万的重大案件，经手案例多次入选全国及地方典型维权、司法保护案例，胜诉实绩亮眼。此外，他深耕行业研究、撰写多部专业著作，热衷公益事业、践行社会责任，以专业能力守护客户权益，助力法治建设与企业高质量发展。