生成AI・LLM 注意機構(Attention)を5分で掴む ─ 翻訳タスクで追う「どこを見るか」の仕組み
注意機構(Attention)とは、翻訳などのタスクで「入力文のどの単語に、どれだけ注目するか」をスコアで数値化し、その割合に応じて情報を混ぜ合わせることで、必要な文脈を動的に参照できる仕組みである。従来のRNNが固定サイズのカバンに情報を...
生成AI・LLM
機械学習の基礎
生成AI・LLM
その他
その他
自然言語処理
自然言語処理
自然言語処理
golang
golang