AI Infra Wiki
搜索
Search
暗色模式
亮色模式
探索
标签: kernel
此标签下有13条笔记。
2026年7月09日
GEMM vs GEMV in LLM Inference
gemm
gemv
arithmetic-intensity
roofline
compute-bound
bandwidth-bound
prefill
decode
matmul
kernel
2026年7月07日
FlashDecoding++
inference
llm
gpu
decode
attention
kernel
serving
2026年7月02日
MegaMoE Kernel (Expert Parallelism Overlap)
communication
kernel
parallelism
moe
2026年7月02日
FlashMoE: Fast Distributed MoE in a Single Kernel
moe
gpu
kernel
expert-parallelism
communication
neurips
2026年7月02日
FlashMoE Kernel
moe
gpu
kernel
expert-parallelism
communication
llm
training
inference
2026年7月02日
FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness
attention
gpu
llm
training
kernel
prefill
2026年7月02日
FlashAttention-2: Faster Attention with Better Parallelism and Work Partitioning
attention
gpu
llm
training
inference
kernel
prefill
2026年7月02日
FlashDecoding++: Faster Large Language Model Inference on GPUs
inference
llm
gpu
decode
attention
kernel
2026年7月02日
FlashAttention
attention
gpu
llm
training
inference
kernel
prefill
memory-hierarchy
2026年7月02日
FlashAttention-2
inference
training
llm
gpu
attention
kernel
prefill
2026年7月02日
FlashAttention-3: Fast and Accurate Attention with Asynchrony and Low-precision
attention
gpu
llm
hopper
fp8
kernel
prefill
2026年7月02日
FlashAttention-3
attention
gpu
llm
training
inference
kernel
prefill
hopper
fp8
2026年6月24日
TileLang DSL
kernel
infrastructure
training-system