backpropagation
出力側での誤差や影響を、計算の流れを逆向きにたどって入力側へ伝えていき、各部分の影響度を求める方法。学習でよく使われる。
たとえば: 完成品の不具合原因を、工程をさかのぼってどこで起きたか探るような手順。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 言語モデルの「どの文脈が効いたか」を少ない評価回数で推定するスケッチング手法
プロンプトの一部を抜いたときの出力変化(LOO attribution)を、安定性仮定の下で少ないモデル評価回数で推定する手法を提案。必要回数の上界と、オラクルモデルでの一致する下界を示した。
