時間アテンション（じかんあてんしょん）
最終更新：2026/4/27
時間アテンションは、時系列データ処理において、入力系列の各時点に異なる重みを付与するメカニズムである。
別名・同義語 アテンション機構注意機構
ポイント
自己注意機構を時系列データに適用することで、長期的な依存関係を捉え、文脈に応じた情報抽出を可能にする。
時間アテンションとは
時間アテンションは、自然言語処理や音声認識、時系列予測などの分野で広く用いられる技術である。従来のリカレントニューラルネットワーク（RNN）や畳み込みニューラルネットワーク（CNN）では、系列データの長距離依存関係を捉えることが困難であった。時間アテンションは、この問題を解決するために、入力系列の各時点に対して注意（アテンション）の重みを計算し、重要な情報に焦点を当てることを可能にする。
時間アテンションの仕組み
時間アテンションの基本的な仕組みは、以下の通りである。
- クエリ（Query）、キー（Key）、バリュー（Value）の生成: 入力系列から、各時点におけるクエリ、キー、バリューを生成する。
- 注意の重みの計算: クエリとキーの内積を計算し、ソフトマックス関数を適用することで、各時点に対する注意の重みを算出する。
- 文脈ベクトルの生成: 注意の重みとバリューの加重和を計算することで、文脈ベクトルを生成する。
- 出力の生成: 文脈ベクトルと元の入力系列を組み合わせて、最終的な出力を生成する。
時間アテンションの種類
時間アテンションには、様々な種類が存在する。
- グローバルアテンション: 入力系列の全ての時点に対して注意を計算する。
- ローカルアテンション: 入力系列の一部のみに対して注意を計算する。
- 自己アテンション: 入力系列自身をクエリ、キー、バリューとして使用する。
時間アテンションの応用例
時間アテンションは、様々な分野で応用されている。