AI词典
-
【AI词典】LlamaIndex - 大语言模型数据连接与检索框架2026-04-27
LlamaIndex：大语言模型的数据连接与检索框架LlamaIndex（曾用名GPTIndex）是一个专为大型语言模型（LLM）设计的开源数据框架，其核心功能是高效连接私有或特定领域的外部数据源，并通过构建索引结构，为LLM提供精准、快速的信息检索能力，从而构建基于定制化知识的增强型应用。原理：如何工作
查看详情>> -
INT8 量化是什么：原理、2026 应用进展与实战详解2026-04-27
一句话定义INT8量化
查看详情>> -
【AI词典】LangChain - 大语言模型应用开发框架2026-04-27
定义LangChain是一个用于构建基于大语言模型（LLM）的应用程序的开源开发框架。它通过提供一套标准化的接口、组件和工具链，将大语言模型与外部数据源、计算逻辑和多种工具连接起来，从而简化了复杂AI应用的开发流程。原理LangChain的核心思想是“链式编排”（Chaining）。你可以将其想
查看详情>> -
【AI词典】vLLM - 大语言模型高效推理系统2026-04-27
vLLM定义vLLM是一个专为大规模语言模型设计的高吞吐量、低延迟推理和服务引擎，其核心创新在于引入了PagedAttention注意力算法，通过高效管理注意力计算中的键值缓存，显著提升了GPU内存利用率与推理速度。vLLM的工作原理传统的大语言模型推理在服务多个请求或生成长文本时，需要
查看详情>> -
【AI词典】Ollama - 本地部署与运行大型语言模型的工具2026-04-27
Ollama定义Ollama是一个开源工具，专为在个人计算机上本地部署、运行和管理大型语言模型（LLM）而设计。它将模型文件、运行环境及简洁的API接口打包整合，让用户无需复杂的配置即可在本地启动并交互式使用各类开源大模型。Ollama工作原理Ollama的工作原理类似于一个“模型容器”和
查看详情>> -
【AI词典】Hugging Face - 开源AI模型社区与库2026-04-27
HuggingFace：定义HuggingFace是一个领先的开源平台与社区，核心使命是“民主化优秀的人工智能”。它最初以提供革命性的自然语言处理（NLP）开源库Transformers而闻名，现已发展成为一个集模型仓库、协作工具、数据集和部署服务于一体的综合性AI生态系统。H
查看详情>> -
【AI词典】TensorFlow - 谷歌开源机器学习框架2026-04-26
TensorFlow：定义TensorFlow是由Google开发并维护的开源机器学习框架，其核心是一个用于定义、训练和部署机器学习模型的端到端生态系统。它以“张量”（Tensor）在多维数据流（Flow）图上的计算为核心抽象，为研究人员和开发者提供了构建复杂算法的强大工具。TensorFlow的工作原理
查看详情>> -
【AI词典】PyTorch - 开源深度学习框架2026-04-26
PyTorch：定义PyTorch是一个基于Python的开源深度学习框架，以其动态计算图（也称为“即时执行”模式）和直观的接口著称，极大地简化了从研究原型到生产部署的深度学习模型开发流程。PyTorch的工作原理理解PyTorch的核心在于其“张量”（Tensor）和“动态计算图”。张量
查看详情>> -
【AI词典】CUDA - NVIDIA推出的并行计算平台与编程模型2026-04-26
CUDA：定义CUDA（ComputeUnifiedDeviceArchitecture）是NVIDIA公司专为其图形处理器（GPU）设计的并行计算平台与编程模型，它使开发者能够利用GPU的众多核心进行通用目的的高性能计算。CUDA的工作原理理解CUDA工作原理的一个有效类比是“大规模协同工作”
查看详情>> -
【AI词典】AI芯片 - 专为人工智能计算设计的处理器2026-04-26
AI芯片：定义AI芯片，即人工智能芯片，是一类专门为高效执行人工智能（特别是机器学习和深度学习）核心计算任务而设计和优化的处理器。它不同于通用处理器（CPU），其硬件架构从底层针对矩阵运算、并行处理等AI负载进行了定制，旨在以更高的能效比和更快的速度处理海量数据。AI芯片的工作原理理解AI芯片工作原理
查看详情>>