MENTAL MODEL · M0090
自注意力机制
Self-Attention Mechanism
Version 1.0.0 · 更新于 2026-07-30
CORE DEFINITION · 核心定义
模型在处理序列数据时,能够计算序列中每个元素与其他所有元素的相关性(权重),从而捕捉长距离依赖关系,理解上下文。
SCAFFOLDING EFFECT · 脚手架效应
psychology
降低认知负荷
信息加权隐喻。在阅读或分析复杂局势时,不要平均用力。要动态计算当前信息与“全局上下文”的关联度,把注意力聚焦在关键线索上。
anchor
锚定快速决策
序列中每个位置通过与其他位置计算相关性权重,动态聚集全局信息,捕捉长程依赖,是 Transformer 的核心。
MINIMUM ACTION · 最小行动
进行中 0/4在一个真实场景中练习这个模型:
勾选记录你的进度(本机暂存)
掌握进度0%
account_tree知识谱系 Genealogyexpand_more
menu_book信源参考 Sourcesexpand_more
来源明确性: 明确
- en.wikipedia.orghttps://en.wikipedia.org/wiki/Attention_Is_All_You_Needverified
PRIVATE NOTES · 仅自己可见
已保存问答
ENTRY Q&A · 可保存至我的笔记
在清晰边界内提问
thinkingmodels 仅基于已发布的条目上下文回答。
你的问题会发送给 thinkingmodels;回答仅使用公开词条上下文。
RELATED MODELS · 相关模型