@chonkiejs/token

中文文档
0.0.4发布于 2026/07/07MITTypeScriptES Module构建来源已验证近 30 天下载 1795

HuggingFace tokenizer support for Chonkie - extends @chonkiejs/core with real tokenization

运行依赖 1

Peer 依赖 1

开发依赖 6