AI Infra Wiki
搜索
Search
暗色模式
亮色模式
探索
标签: decode
此标签下有12条笔记。
2026年7月09日
GEMM vs GEMV in LLM Inference
gemm
gemv
arithmetic-intensity
roofline
compute-bound
bandwidth-bound
prefill
decode
matmul
kernel
2026年7月07日
Prefill-Decode Resource Divergence
inference
prefill
decode
kv-cache
latency
throughput
2026年7月07日
FlashDecoding++
inference
llm
gpu
decode
attention
kernel
serving
2026年7月07日
WaferLLM Compiler Research Gaps
waferllm
compiler
mlir
gap-analysis
direction-2
decode
mesh-noc
research-direction
2026年7月07日
LoopLynx: A Scalable Dataflow Architecture for Efficient LLM Inference
dataflow
fpga
spatial
temporal
llm
inference
decode
looplynx
2026年7月02日
FlashDecoding++: Faster Large Language Model Inference on GPUs
inference
llm
gpu
decode
attention
kernel
2026年7月02日
DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation
inference
decode
serving
deepseek
speculative-decoding
scheduling
2026年7月02日
DSpark Speculative Decoding
inference
decode
serving
deepseek
scheduling
2026年6月25日
Voxel: 3D-Stacked AI Chip Efficiency for LLM Inference
accelerator
chiplet
memory-bandwidth
inference
prefill
decode
noc
interconnect
architecture
benchmark
2026年6月24日
Core Group (DRAM Access Synchronization)
accelerator
memory-bandwidth
memory
inference
decode
architecture
mesh
2026年6月24日
Understanding Inference Scaling for LLMs
inference
reasoning
parallelism
kv-cache
decode
prefill
latency
throughput
serving
benchmark
2026年6月24日
Reasoning Cliff
inference
reasoning
capacity-trap
kv-cache
decode
latency