AI词典

• 【AI词典】灾难性遗忘 - 神经网络在学习新任务时丢失旧知识的现象2026-04-25

  灾难性遗忘：定义灾难性遗忘，亦称灾难性干扰，是人工神经网络在持续学习新任务或新数据时，其性能在先前已掌握的任务上发生急剧、灾难性下降的现象。这本质上是模型在学习新知识的过程中，覆盖或丢失了旧知识的表征，导致“学了新的，忘了旧的”。灾难性遗忘的原理可以将一个训练好的神经网络想象成一片精心塑造的沙雕（代

  查看详情>>
• 【AI词典】模型崩溃 - 生成模型性能退化现象2026-04-25

  模型崩溃：定义模型崩溃，特指生成式人工智能在持续使用自身生成的数据进行训练时，所引发的性能不可逆退化现象。其核心表现为模型输出多样性急剧丧失、错误模式被固化放大，最终导致生成内容质量显著下降甚至完全失真。模型崩溃的原理我们可以用一个“谣言传播”的类比来理解模型崩溃。想象一个房间里有100个人，他们通过

  查看详情>>
• 【AI词典】AI伦理 - 人工智能开发与应用的道德准则2026-04-25

  AI伦理：定义AI伦理（人工智能伦理）是一套旨在指导人工智能系统的设计、开发、部署与应用，以确保其符合人类价值观、社会规范与法律原则的道德准则与框架。其核心目标是预防AI技术可能带来的危害，促进其向善发展，保障人类福祉、公平与权利。AI伦理的工作原理AI伦理并非内置于算法的固定程序，而是一套贯穿AI生

  查看详情>>
• LLaVA 是什么：2026 多模态大模型原理、演进与实战全面解析2026-04-25

  一句话定义LL

  查看详情>>
• 【AI词典】安全护栏 - 限制AI输出的安全边界规则2026-04-25

  定义安全护栏（Guardrail），在人工智能领域，特指为约束和引导大型语言模型等生成式AI系统输出内容而预先设定的一系列安全边界规则。其核心目标是防止模型生成有害、偏见、违法或不准确的内容，确保AI行为与人类价值观、伦理准则及特定应用场景的安全要求保持一致。原理安全护栏的工作原理可类比为在一条高速公

  查看详情>>
• 【AI词典】人类对齐 - 使AI系统目标与人类价值观一致2026-04-25

  人类对齐：定义人类对齐（AIAlignment），指在人工智能系统设计与训练过程中，确保其目标、行为及决策结果与人类设计者的意图、伦理准则及广泛的人类价值观保持一致的研究领域与实践。其核心是解决“高级人工智能系统做我们真正希望它做的事”这一根本性问题。人类对齐的工作原理人类对齐并非单一技术，而是一个

  查看详情>>
• 【AI词典】BLEU分数 - 机器翻译质量评估指标2026-04-25

  BLEU分数：机器翻译质量评估的经典标尺BLEU分数是一种用于自动评估机器翻译文本质量的量化指标，它通过计算机器翻译输出与一个或多个高质量人工参考译文之间的n-gram（连续词序列）重合度，来判定译文的准确性。其核心思想是：与参考译文越相似的翻译，质量越高。原理：如何计算BLEU分数？BLEU分数的

  查看详情>>
• 【AI词典】困惑度 - 语言模型性能评估指标2026-04-25

  困惑度：语言模型性能评估指标困惑度（Perplexity，简称PPL）是评估语言模型性能的核心指标，它衡量模型对一组测试数据（通常是文本序列）的预测不确定性或“困惑”程度。直观上，困惑度越低，表明语言模型对数据的建模越准确，其预测能力越强。原理：如何理解“困惑”程度我们可以将语言模型想象成一个在陌生

  查看详情>>
• 强化学习是什么：2026 年原理、算法演进与前沿应用全解析2026-04-25

  一句话定义强化学习（ReinforcementLearning,RL）是智能体通过与环境交互试错，依据奖励信号优化决策策略，以最大化长期累积回报的机器学习范式。在人工智能的宏大版图中，如果说监督学习是“有老师带着做题”，无监督学习是“独自观察世界寻找规律”，那么强化学习就是“在实战中摸爬滚打，从成败中领悟生存之道”

  查看详情>>
• 【AI词典】评估基准 - 衡量AI模型性能的标准测试集2026-04-24

  评估基准：衡量AI模型性能的标尺评估基准（Benchmark）是人工智能领域用于系统化衡量、比较和排名AI模型性能的一套标准化测试集、任务和评价指标。它为模型能力提供了客观、可复现的量化标尺。原理：如何构建公平的“竞技场”评估基准的工作原理，可以类比为学生的标准化考试。首先，组织者会设计一套覆盖特定能

  查看详情>>