Hugging Face Blog·· 11 日前
Hugging Face、tokenizers v1を公開、符号化・復号・拡張性能を実測
tokenizers v1: encode, decode and scaling, measured
AI による要約
Hugging Faceはtokenizers v1を公開した。トークンID、API、語彙、merge ranksはv0.23と同一だが、速度は最大で数十倍になる。
入選の記録
基準 60公式・一次情報1 回目 382 回目 38
入選せず二回の合計 76 < 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過:Hugging Face tokenizers v1 性能优化,属AI开发工具
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源:Hugging Face Blog · huggingface.co