首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 汽车 游戏 社会热点 开源推荐 医疗健康 归档 标签 关于

GitHub热门项目: one-small-step

摘要

GitHub项目:one-small-step 仓库地址:https://github.com/karminski/one-small-step Stars:6961 | 作者:karminski 项目描述:这是一个简单的技术科普教程项目,主要聚焦于解释一些有趣的,前沿的技术概念和原理。每篇文章都力求在 5 分钟内阅读完成。 ====================================...

what 什么是 LLM Attention attention how LoRA GGUF gguf Transformer
2026-07-06 1 阅读 约10分钟阅读 GitHub Trending
分享:
字号:
GitHub项目:one-small-step 仓库地址:https://github.com/karminski/one-small-step Stars:6961 | 作者:karminski 项目描述:这是一个简单的技术科普教程项目,主要聚焦于解释一些有趣的,前沿的技术概念和原理。每篇文章都力求在 5 分钟内阅读完成。 ================================================== README 内容: One Small Step -------------- by @karminski-牙医 ![one-small-step](assets/images/Apollo_11_mission_Buzz_Aldrins_boot_on_lunar_soil_2017_Bing_Wallpaper_1366x768.jpg) **这是一个简单的技术科普教程项目, 主要聚焦于解释一些有趣的, 前沿的技术概念和原理. 每篇文章都力求在 5 分钟内阅读完成.** ![Metrics](./assets/images/metrics-without-label.svg) **目前更新速度👆, 力求每周不低于3篇** ## 文章列表 ### 人工智能相关 - [什么是 GGUF](20250113-what-is-gguf/what-is-gguf.md) - 介绍 GGUF 文件格式及其在大语言模型部署中的应用 - [什么是推测性解码](20250116-what-is-speculative-decoding/what-is-speculative-decoding.md) - 解释推测性解码技术如何提升大语言模型的推理性能 - [什么是 Pythonic 函数调用](20250117-what-is-pythonic-function-call/what-is-pythonic-function-call.md) - 为什么 Pythonic 函数调用 比 function call 效果好? - [如何本地运行 GGUF 格式的 LLM 模型](20250122-how-to-run-gguf-LLM-model/how-to-run-gguf-LLM-model.md) - 如何本地运行 GGUF 格式的 LLM 模型? - [什么是 LLM 蒸馏技术](20250123-what-is-LLM-distill/what-is-LLM-distill.md) - 什么是 LLM 蒸馏技术? - [什么是 Transformer](20250126-what-is-transformer/what-is-transformer.md) - 什么是 Transformer? - [如何优化 Transformer](20250127-how-to-optimize-transformer/how-to-optimize-transformer.md) - Transformer 的优化方案都有哪些? - [什么是大语言模型量化](20250129-what-is-quantization-in-LLM/what-is-quantization-in-LLM.md) - 什么是大语言模型量化? 每个量化精度都代表什么? - [什么是 Flash Attention](20250201-what-is-flash-attention/what-is-flash-attention.md) - 什么是 Flash Attention? 为什么能将大语言模型推理速度提升3倍? - [什么是 Multi-Head Attention](20250202-what-is-multi-head-attention/what-is-multi-head-attention.md) - 什么是 Multi-Head Attention? Attention Is All You Need 论文精读 - [什么是 Multi-Query Attention](20250204-what-is-multi-query-attention/what-is-multi-query-attention.md) - 什么是 Multi-Query Attention? - [什么是 Grouped Query Attention](20250205-what-is-gropued-query-attention/what-is-gropued-query-attention.md) - 什么是 Grouped Query Attention? - [什么是 LLM 微调技术](20250208-what-is-LLM-fine-tuning/what-is-LLM-fine-tuning.md) - 什么是 LLM 微调技术? - [什么是 RAG 技术](20250209-what-is-RAG/what-is-RAG.md) - 什么是 RAG 技术? - [什么是 Safetensors](20250210-what-is-safetensors/what-is-safetensors.md) - 什么是 Safetensors? - [什么是 ONNX](20250211-what-is-onnx/what-is-onnx.md) - 什么是 ONNX? - [大模型微调最佳实践指南](20250210-LLM-fine-tuning-summary/LLM-fine-tuning-summary.md) - 大模型微调最佳实践指南 - [什么是 MoE 模型](20250217-what-is-MoE/what-is-MoE-model.md) - 什么是 MoE 模型? - [LLM 中的 Token 是如何计算的](20250218-how-are-tokens-calculated-in-LLMs/how-are-tokens-calculated-in-LLMs.md) - LLM 中的 Token 是如何计算的? - [什么是 AI Agent](20250220-what-is-AI-Agent/what-is-AI-Agent.md) - 什么是 AI Agent? - [什么是 LoRA](20250228-what-is-LoRA/what-is-LoRA.md) - 什么是 LoRA? 为什么用 LoRA 微调大模型更高效? - [什么是向量嵌入](20250307-what-is-vector-embedding/what-is-vector-embedding.md) - 什么是向量嵌入? - [什么是向量数据库](20250308-what-is-vector-database/what-is-vector-database.md) - 什么是向量数据库? - [什么是 AI 幻觉](20250309-what-is-AI-Hallucination/what-is-AI-Hallucination.md) -
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱