トークナイザーに全角記号・数字のNKFC正規化を追加

#2

トークナイザーに全角記号・数字のNKFC正規化を追加。

misdelivery changed pull request title from Upload tokenizer.json to トークナイザーに全角記号・数字のNKFC正規化を追加
kanhatakeyama changed pull request status to merged

Sign up or log in to comment