tokens のタグが付いたすべてのブログ記事。
コンテキストウィンドウとは、大規模言語モデルが1回のやり取りで処理できるテキストの最大量をトークン単位で表したものです。その仕組みと重要性について解説します。
AIにおけるトークン:言語モデルが読み書きする基本単位。トークン化の仕組み、コストやコンテキストにどう影響するか、そしてモデルの挙動をどう形づくるかを解説します。