#生成AI・LLM

トランスフォーマーとは

2017年にGoogleが発表した深層学習のアーキテクチャ。「注意機構(Attention)」により文章中の単語間の関連性を効率的に学習できる。現在のほぼすべてのLLMの基盤技術となっている。

中小企業での使い方や注意点をまとめた「くわしい解説」は準備中です。

トランスフォーマーのイメージ

出力層 デコーダー 注意機構(Attention) エンコーダー 入力エンベディング
最終更新:2026年11月1日