English page8.8. Tokenizers¶
TODO: Write me.
以下は組み込みのトークナイザーのリストです。
- TokenBigram
- TokenBigramSplitSymbol
- TokenBigramSplitSymbolAlpha
- TokenBigramSplitSymbolAlphaDigit
- TokenBigramIgnoreBlank
- TokenBigramIgnoreBlankSplitSymbol
- TokenBigramIgnoreBlankSplitAlpha
- TokenBigramIgnoreBlankSplitAlphaDigit
- TokenDelimit
- TokenDelimitNull
- TokenTrigram
- TokenUnigram