一句话回答：一份能落地的 AI 道德准则至少应包含合法目的与比例原则、人权与不伤害、公平与可及性、隐私和数据治理、透明与解释、安全与稳健、人类监督、责任与可追溯、申诉纠错、可持续性十类要求；但“写进制度”还不够，每一项都必须对应负责人、工程控制、测试证据、上线阈值、事件响应和退役条件。本文依据 NIST AI RMF、OECD AI Principles、UNESCO《人工智能伦理问题建议书》及中国、欧盟官方规则复核，资料复核日为 2026 年 7 月 18 日。
AI 道德准则与法律合规有什么区别？
伦理准则回答“组织认为什么是负责任的设计和使用”，法律与监管回答“在特定地区、行业和角色下必须做什么”。二者重叠但不能互相替代。伦理准则可以比法律最低要求更严格，也可以覆盖法规尚未明确的新场景；但一份内部原则不能证明已经满足个人信息、消费者保护、劳动、医疗、金融或内容标识等具体义务。
| 层级 | 解决的问题 | 典型证据 |
|---|---|---|
| 价值与伦理 | 哪些影响不可接受，组织优先保护什么 | 原则、禁用场景、利益相关者承诺 |
| 风险治理 | 怎样识别、测量、处置并持续监控风险 | 风险登记、影响评估、闸门与事件流程 |
| 法律与监管 | 特定角色、产品、地区和行业必须履行什么 | 适用性分析、备案、合同、记录与法定披露 |
| 工程控制 | 系统怎样防止、发现、限制和恢复错误 | 测试、权限、日志、回滚、红队和监控 |
| 运营问责 | 谁批准上线，谁处理投诉，谁能停用 | RACI、审批记录、值班表、复盘与退役记录 |
本文是通用治理指南，不是针对某个组织或地区的法律意见。适用规则取决于你是模型提供者、系统开发者、部署者、内容平台还是普通用户，以及系统服务对象和影响地域。跨境或高风险项目应由合格的法务、隐私、安全与行业专家审查。
为什么只列“公平、透明、安全”没有用？
因为这些词在不同场景可能冲突。公开更多模型细节有助于透明，却可能暴露安全弱点或个人数据；追求总体准确率可能牺牲少数群体；保留更多日志有利于追责，却增加隐私和泄露风险。UNESCO 的官方建议明确要求根据情境处理原则张力，并遵循合法、必要、合理和比例原则。真正的准则必须说明如何权衡、由谁批准、哪些底线不可突破。
NIST AI RMF Core把风险工作组织为 Govern、Map、Measure、Manage 四个函数，并强调治理贯穿其他函数；OECD AI Principles聚焦包容与福祉、人权与公平、透明、稳健安全和问责；UNESCO 建议进一步覆盖不伤害、人类监督、可持续、意识与素养。它们不是一张可以机械打勾的通用清单，而是建立组织控制的参考框架。
AI 道德准则应包含哪十项内容？
| 原则 | 必须回答的问题 | 最低控制与证据 |
|---|---|---|
| 合法目的与比例 | 为什么必须用 AI？非 AI 方法是否更合适？ | 问题契约、非 AI 基线、必要性与适用性记录 |
| 人权与不伤害 | 谁可能承受身体、经济、机会或尊严损害？ | 影响评估、禁用场景、严重度与停止条件 |
| 公平与可及性 | 不同群体的错误率、拒绝率和可用性是否不同？ | 分群测试、代表性分析、无障碍与缓解记录 |
| 隐私与数据治理 | 数据是否合法必要，保留多久，谁能访问？ | 数据清单、来源与许可、最小化、权限和删除 |
| 透明与解释 | 用户知道在与 AI 交互吗？能理解并挑战结果吗？ | AI 标识、能力限制、来源、理由与申诉说明 |
| 安全与稳健 | 正常使用、误用、攻击和异常条件下会怎样？ | 威胁建模、红队、故障注入、监控和回滚 |
| 人类监督 | 谁有能力、时间和权限纠正或停止系统？ | 审批闸门、人工兜底、培训和接管演练 |
| 责任与追溯 | 模型、数据、流程与部署各由谁负责？ | 系统卡、版本、决策日志、供应商责任和审计 |
| 申诉与恢复 | 受影响者如何报告、复核和恢复权益？ | 可达渠道、时限、人工复核、纠错通知和补救 |
| 可持续与退役 | 资源与社会成本是否与收益相称？何时停用？ | 能耗成本、复用与压缩、替代方案、退役清单 |
第一步：先证明“应该用 AI”
很多项目从选择模型开始，伦理评审却应从问题开始。把目标写成可验证的任务契约：服务谁、做什么决定、错误会怎样、哪些数据允许使用、成功和失败怎样测量。随后建立规则、人工流程或传统软件的非 AI 基线。若一个确定性规则能更准确、更便宜、更易申诉，就没有必要为了“智能化”引入额外不确定性。
| 立项问题 | 不合格答案 | 可审查答案 |
|---|---|---|
| 目标是什么 | 提高效率、提升体验 | 把客服知识检索中位耗时降低，同时不增加错误承诺 |
| 影响谁 | 所有用户 | 普通用户、未成年人、残障用户、客服与申诉人员分别列出 |
| 失败是什么 | 回答不够好 | 捏造政策、泄露个人信息、错误拒绝服务或无法转人工 |
| 为何用 AI | 模型很先进 | 非 AI 基线无法处理开放式检索，但高风险决定仍由人完成 |
| 何时停止 | 持续优化 | 发生严重泄露、越权或关键错误超过阈值即暂停 |
更完整的工程立项方法见本站的 AI 项目从问题定义到上线监控指南。
第二步：按影响分级，不让所有系统走同一流程
会议摘要、广告文案与医疗诊断辅助的影响显然不同。风险分级至少考虑影响严重度、发生可能性、受影响规模、可逆性、是否涉及儿童或弱势群体、是否替代人的机会或权利。高风险系统需要更严格的数据、独立评估、人工监督、审计和申诉；有些用途即使技术可行，也应被禁止或暂缓。
| 等级 | 示例 | 最低治理 |
|---|---|---|
| 低 | 内部非敏感文本格式化、草稿标题 | 用户复核、基本日志、禁止输入敏感信息 |
| 中 | 客服建议、企业知识问答、营销个性化 | 来源核验、分群测试、人工升级和持续监控 |
| 高 | 招聘筛选、信贷、教育录取、医疗或公共服务辅助 | 法律审查、影响评估、独立验证、人工最终决定、申诉与审计 |
| 不可接受 | 目的不合法、损害不可逆且无有效缓解，或属于适用法规禁止用途 | 不开发、不采购、不部署；记录拒绝理由 |
分级不能只看模型名称，同一个通用模型用于拼写修改和人员评价会产生完全不同的风险。风险归属于具体系统、用途、数据、用户和环境，而不是抽象的“AI”。
第三步：把原则嵌入完整生命周期
| 阶段 | 关键工作 | 不可缺少的交付物 |
|---|---|---|
| Govern 治理 | 确定政策、角色、风险偏好、培训与供应链要求 | 责任矩阵、禁用清单、升级与问责机制 |
| Map 映射 | 界定用途、情境、影响对象、数据和第三方依赖 | 系统卡、数据流、影响评估、非 AI 基线 |
| Measure 测量 | 测试准确、公平、隐私、安全、解释和人工协作 | 基准集、分群结果、红队、已知限制与不确定性 |
| Manage 管理 | 规避、降低、转移、接受或停止风险 | 上线闸门、监控指标、回滚与事件预案 |
| 运营与退役 | 处理漂移、投诉、事故、供应商变更和退出 | 事件复盘、纠错记录、数据删除与退役证明 |
NIST 明确说明 AI RMF 是自愿、跨行业、与具体用例无关的风险管理资源，而且 1.0 正在修订。组织可参考 AI RMF Playbook选择适合自身情境的行动，而不应声称“按清单做完就合规”。生成式系统还可参考 NIST AI 600-1 生成式 AI Profile识别虚构、信息完整性、隐私、知识产权与滥用等专门风险。
怎样衡量公平，而不是只写“不得歧视”？
公平没有脱离情境的单一指标。招聘筛选可能关注不同群体的通过率、假阴性率和合理便利；语音识别可能关注不同口音、性别和噪声条件下的错误；内容审核还要考虑误删与漏放的不同伤害。总体准确率会掩盖小群体问题，所以测试集必须覆盖真实人群、边界情形和交叉群体，并说明样本不足带来的不确定性。
| 检查层 | 问题 | 证据 |
|---|---|---|
| 目标 | 被优化的代理指标是否真正代表合理结果 | 业务目标与权利影响说明 |
| 数据 | 谁被遗漏、标签由谁定义、历史偏见是否被复制 | 来源、代表性、标签规范和质量抽样 |
| 性能 | 不同群体和情境下错误如何分布 | 分群混淆矩阵、置信区间与边界测试 |
| 流程 | 人是否会过度依赖模型，人工环节是否也有偏见 | 人机协同实验、审核一致性与培训记录 |
| 结果 | 错误是否造成机会、成本或尊严上的不成比例影响 | 投诉、申诉、结果监控与定期影响评估 |
NIST 的 AI TEVV 资料强调，可信 AI 测量不只包括准确与稳健，也包括偏差、解释和透明，而且情境会改变测量方式。若无法获得可靠群体数据，不能把“没有发现差异”写成“系统公平”，应公开证据缺口并限制用途。
透明与解释应该向谁说明什么？
透明不是公开源代码，也不是给每个人同一份技术报告。普通用户需要知道正在与 AI 交互、系统用途、主要限制、数据如何使用、如何转人工和申诉；操作人员需要理解适用范围、置信信号和接管条件；审计与监管人员还需要数据、版本、测试和决策记录。OECD 的 透明与可解释原则强调提供与情境相称的信息，让受影响者理解并挑战结果。
| 对象 | 最低说明 |
|---|---|
| 最终用户 | AI 身份、用途、限制、重要来源、数据处理和人工渠道 |
| 受影响者 | 结果是否使用 AI、关键因素、如何补充材料与提出异议 |
| 操作人员 | 适用边界、已知错误、置信与异常、不得自动化的决定 |
| 采购与管理者 | 供应链、成本、数据条款、评测证据、事故和退出能力 |
| 审计/监管 | 版本、数据与模型来源、测试、审批、日志、投诉和修复 |
对于生成式回答，“有引用”也不等于结论正确。应把输出拆成原子主张，核对来源存在、引用忠实、引用完整、时效和适用性。本站的 原子主张与证据忠实度核验框架提供了可执行方法。
人类监督怎样避免成为形式？
在高风险系统上放一个“人工确认”按钮，并不等于有效监督。审核者必须拥有足够时间、领域知识、独立信息和真实否决权；界面不能把模型建议包装成默认正确；组织还要监测自动化偏见、疲劳和橡皮图章式批准。最终责任不能推给“算法”或一线操作员。
| 无效监督 | 有效控制 |
|---|---|
| 每个结果都让人点确认，但一天需处理数千条 | 按风险抽样与分流，高风险逐项审，异常自动升级 |
| 只显示模型答案，不显示来源和替代方案 | 提供原始证据、不确定性、冲突和拒绝建议的入口 |
| 审核者无权改结果或暂停系统 | 明确覆盖、回滚、停用权限及值班负责人 |
| 发生错误只要求员工“更仔细” | 复盘数据、模型、界面、配额、培训和管理压力 |
涉及不可逆、生命健康或重大权利影响的决定，应保留合格人员的最终判断。智能体执行写入、发送、支付或生产变更时，还应使用最小权限、明确参数、预览、人工审批、费用上限和回滚；详见本站 AI 智能体与自动化治理指南。
责任应该怎样分配？
“AI 委员会负责”过于模糊。产品负责人定义合理用途和成效；数据负责人管理来源、许可和质量；模型/工程团队实现测试与控制；安全与隐私团队评估攻击和数据风险；领域专家确认临床、金融、教育等场景有效性；运营团队监控、处理投诉并能停用；管理层批准风险偏好和资源。供应商责任必须写进合同，但采购方仍要对自己的部署情境负责。
| 决策 | 批准人 | 必须查阅 | 记录 |
|---|---|---|---|
| 立项与用途 | 业务 Owner | 法务、领域、数据与受影响代表 | 问题契约、非 AI 基线、禁用范围 |
| 数据使用 | 数据 Owner | 隐私、安全、知识产权 | 来源、许可、保留、删除与跨境路径 |
| 上线 | 风险 Owner | 工程、TEVV、运营和申诉负责人 | 测试结果、例外、阈值、回滚和签字 |
| 严重事件恢复 | 事件负责人 | 法务、安全、业务与沟通 | 时间线、影响、补救、通知与复盘 |
| 退役 | 系统 Owner | 数据、采购、运营和档案 | 替代流程、访问撤销、数据和模型处置 |
OECD 的 问责原则要求相关参与者根据角色和情境为系统正常运行负责，并通过数据、流程和决策追溯支持调查。责任矩阵的价值不在于出了事故找一个人背锅，而在于确保每个风险在上线前就有人有权处理。
中国团队至少要关注哪些当前规则？
面向中国境内公众提供生成文本、图片、音频或视频服务时，应先分析是否适用 《生成式人工智能服务管理暂行办法》。该办法要求遵守法律法规和社会公德，涉及训练数据时关注合法来源、知识产权、个人信息、真实性、准确性、客观性和多样性，并对数据标注规则和质量核验提出要求。内部研发或未向境内公众提供服务的情形，适用范围可能不同，但仍可能受个人信息、数据、安全、行业和合同规则约束。
《人工智能生成合成内容标识办法》自 2025 年 9 月 1 日施行，区分用户可明显感知的显式标识与文件数据中的隐式标识，并对生成、下载、传播和用户声明等环节提出要求。图片水印只是其中一部分，服务提供者还要结合内容类型、界面、文件元数据和传播环节实施。深度合成场景还应核对 《互联网信息服务深度合成管理规定》。
| 场景 | 伦理准则不能替代的工作 |
|---|---|
| 对公众生成内容 | 适用性、备案/安全评估、内容治理、用户协议和标识分析 |
| 使用个人信息 | 处理依据、告知同意或其他法定情形、最小化和权利响应 |
| 使用第三方数据或模型 | 来源、版权、许可范围、输出权利和供应商条款 |
| 新闻、出版、医疗、金融等 | 继续核对行业专门规则、资质、审核和责任要求 |
不要把“模型在境外”或“仅由供应商提供 API”理解为自己没有责任。部署者决定用途、输入数据、用户界面、自动化程度和后续动作，这些都会改变风险与义务。
涉及欧盟用户或市场时要注意什么？
欧盟《人工智能法案》采用基于风险的制度，并为提供者、部署者、通用 AI 模型等角色设置不同义务。官方实施页面显示，法案于 2024 年 8 月 1 日生效，禁止性做法和 AI 素养义务自 2025 年 2 月 2 日适用，治理规则和通用 AI 模型义务自 2025 年 8 月 2 日适用，法案的主适用日期为 2026 年 8 月 2 日，但部分规则存在例外或延长过渡期。项目应查阅 EUR-Lex 正式文本与 欧盟委员会当前实施时间表，不能依赖旧博客日期。
第 4 条要求提供者和部署者结合人员知识、经验、培训与使用情境采取 AI 素养措施。培训不是观看一次通用视频：客服需要识别虚构和升级，开发者需要安全与评测，管理者需要理解责任和采购，受影响人员则需要知道如何解释、拒绝和报告问题。
发生错误、伤害或申诉时怎么办？
| 阶段 | 动作 | 证据 |
|---|---|---|
| 发现与分级 | 确定影响对象、严重度、扩散范围和法定报告可能性 | 首报、时间线、影响假设 |
| 暂停与隔离 | 停用自动动作、切回人工、撤销密钥或限制流量 | 变更记录与安全状态确认 |
| 保存证据 | 保存必要输入输出、版本、配置、权限和日志 | 证据链与访问控制 |
| 人工复核 | 允许受影响者补充信息，由有权限人员重新判断 | 申诉材料、复核理由与决定 |
| 纠正与通知 | 修正结果、恢复权益、通知相关方并按需报告 | 补救、通知与确认记录 |
| 根因与复测 | 修数据、模型、界面或组织控制，补回归用例 | 复盘、修复版本、闸门结果 |
申诉渠道必须可发现、可使用、有时限、有人工升级，并能真正改变错误结果。尤其在招聘、教育、信贷和公共服务场景，不能只让用户重新提交同一表单或再次接受模型判断。
小团队怎样在 30 天内建立最低可用制度？
| 时间 | 任务 | 完成证据 |
|---|---|---|
| 第 1 周 | 盘点全部 AI 系统、供应商、用途、数据、自动动作和 Owner | AI 系统清单与风险初筛 |
| 第 2 周 | 确定禁用场景、风险分级、最小数据和采购条款 | 政策、责任矩阵、供应商问卷 |
| 第 3 周 | 为最高优先系统建立基准集、分群测试、红队和回滚 | 测试报告、限制、上线阈值 |
| 第 4 周 | 上线申诉、监控、事件响应和月度复核 | 公开说明、演练记录、指标面板 |
先覆盖高影响系统，不要试图一个月写完所有制度。选择一个真实系统走完整闭环，暴露责任和证据缺口，再把模板推广到其他系统。需要比较模型、数据、部署和成本路线时，可参考本站 模型与部署边界指南；组织层面的能力建设背景可参考 中国与全球 AI 能力差距的证据化分析。
可直接使用的 AI 道德准则模板
- 目的：我们仅在目标合法、必要、比例相称且有明确公共或用户价值时使用 AI。
- 边界：为每个系统记录允许用途、禁止用途、影响对象、数据范围和停止条件。
- 权利：保护隐私、公平、可及性、知情、解释、申诉与人工复核。
- 证据：上线前完成情境化测试；上线后监控错误、分群影响、滥用、漂移和投诉。
- 监督：高风险决定由合格人员最终判断，并确保其有时间、信息和否决权。
- 安全：实施最小权限、威胁建模、红队、日志、回滚、事件响应和供应链控制。
- 透明：说明 AI 身份、用途、限制、重要来源、数据处理和联系渠道，并依法标识生成内容。
- 责任：为立项、数据、模型、部署、运营、事件和退役指定可问责 Owner。
- 恢复：提供可达申诉，及时停止伤害、纠正结果、通知相关方并复盘。
- 持续改进：模型、数据、用途、供应商或环境变化后重新评估；无法控制风险时退役。
这份模板仍需按行业、用户、地区和系统风险改写。不要只让员工签字，应把它嵌入采购、设计评审、数据访问、发布流水线、运营指标、绩效和事件响应。
常见问题
一定要成立 AI 伦理委员会吗？
不一定。小团队可以由现有产品、法务、隐私、安全、数据和领域负责人组成跨职能评审机制。关键不是名称，而是独立性、专业能力、受影响者参与、书面记录和暂停项目的真实权限。
开源模型是不是伦理风险更低？
不能一概而论。开源或开放权重可能提高可检查性和部署控制，也可能把安全配置、许可证、数据、基础设施与滥用防护责任更多交给部署者。仍需按具体模型、许可、来源、用途和运行环境评估。
准确率达到 99% 就可以上线高风险系统吗？
不能。必须说明任务、样本、群体、错误类型和置信区间。剩余 1% 若集中在特定群体或造成不可逆伤害，可能仍不可接受；还要评估安全、隐私、解释、人工协作与申诉。
如何判断制度真的有效？
查看实际证据：项目是否因风险被修改或停止，测试是否覆盖真实影响对象，员工能否越过模型，申诉能否纠正结果，事故能否快速隔离，供应商变化是否触发复测。若所有项目都无条件通过，制度很可能只是装饰。
结论：把伦理写进决定、代码和运营
可信 AI 不是“没有任何风险”，而是组织能说明为什么使用、谁可能受影响、如何测量、谁负责、怎样纠错，以及何时不应使用。最有价值的道德准则不是更长的价值宣言，而是能让团队在立项、采购、发布和事故中做出不同决定的控制系统。原则没有负责人会失效，控制没有证据无法验证，系统没有申诉和退役就谈不上真正问责。
编辑复核与纠错记录：本文由兰塞 AI 编辑流程于 2026 年 7 月 18 日复核。旧稿列举公平、透明、问责、隐私、人类监督、安全和可持续，但将复杂模型简单等同于可用 SHAP/LIME 解释，且缺少风险分级、适用法规、供应链、测试证据、申诉、事件响应和退役。新版依据 NIST、OECD、UNESCO、中国和欧盟一手资料重写，并把原则转换为责任、控制、证据和生命周期闸门。本站来源与纠错方法见 关于本站与编辑规范。
