霹雳的测试小站
学习学习再学习，跟上时代的脚步。
创立于 2026学习模块
🧠
Transformer 内部机制
剖析注意力头、KV 缓存机理，以及不同架构中的位置编码策略。
🔗
RAG 与知识检索
搭建检索增强生成管线——切块策略、混合搜索、重排序与评估。
🤖
智能体工作流
设计多步自主智能体：工具调用、规划循环与人机协同检查点。
📊
评测与基准
严谨的大模型评测——大海捞针、MMLU 探测与领域专项精度指标。
⚙️
微调与对齐
探索 LoRA、QLoRA、DPO 与 RLHF，将模型对齐到特定任务与安全约束。
🏗️
推理部署
模型落地——量化（GPTQ、AWQ）、vLLM、推测解码与成本优化。
🎙️
语音与信号
将碎片化的声音转化为可检索的语义——让模型学会倾听、转录与理解。
📈
市场关联性
捕捉数据之间若隐若现的引力——那些只有在大规模下才会浮现的暗线。
🏷️
标注与训练
教会模型识别关键信息的静默手艺——结构化标注、实体边界与人机协同优化。
近期笔记
- Jun 09为什么滑动窗口注意力在长上下文检索任务中会失效
- Jun 05切块策略对比：递归切分 vs 语义边界检测
- Jun 01搭建最小 ReAct 智能体循环——论文没告诉你的那些事
- May 28量化陷阱：4-bit GPTQ 如何悄悄降低推理质量
- May 22多智能体辩论：一种低成本的人类偏好数据替代方案
新公网安备65010502001091号