Transformer 順伝播

01 / 一文で言うと

transformer 順伝播の全体を単一タイムラインで走らせる —— 料理人が客の "light and tangy" を聞いて "shrimp ceviche with lime" と返す場面。 上部の 6 段は料理人の頭の中で今どこにいるかを示す:学習済みの知識、注文のトークン化、 位置エンコード、アテンション、最初の応答語のデコード、KV キャッシュで後続を高速生成。