NEWLINE、INDENT、および DEDENT の他、以下のトークンのカテゴリ: 識別子 (identifier)、キーワード(keyword)、リテラル、 演算子 (operator) 、デリミタ (delimiter) が存在します。 空白文字 (上で述べた行終端文字以外) はトークンではありませんが、 トークンを区切る働きがあります。 トークンの解析にあいまいさが生じた場合、トークンは左から右に読んで 不正でないトークンを構築できる最長の文字列を含むように構築されます。
ご意見やご指摘をお寄せになりたい方は、 このドキュメントについて... をご覧ください。