<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/">
  <channel>
    <title>Token on 菜菜博士</title>
    <link>https://microcai.org/tags/token.html</link>
    <description>Recent content in Token on 菜菜博士</description>
    <generator>Hugo</generator>
    <language>zh-cn</language>
    <lastBuildDate>Thu, 24 Sep 2026 00:00:00 +0800</lastBuildDate>
    <atom:link href="https://microcai.org/tags/token/feed.xml" rel="self" type="application/rss+xml" />
    <item>
      <title>TOKEN的最佳翻译</title>
      <link>https://microcai.org/2026/09/24/good-translation-for-token.html</link>
      <pubDate>Thu, 24 Sep 2026 00:00:00 +0800</pubDate>
      <guid>https://microcai.org/2026/09/24/good-translation-for-token.html</guid>
      <description>&lt;p&gt;大语言模型火了之后，&lt;code&gt;token&lt;/code&gt; 这个词无处不在，但它的中文译名一直没定下来。目前最流行的是「词元」。我不同意——它译错了方向。更准确的译法应该是「&lt;strong&gt;模型字&lt;/strong&gt;」，简称「&lt;strong&gt;字&lt;/strong&gt;」。&lt;/p&gt;
&lt;p&gt;为什么「词元」别扭、「模元」差在哪、为什么「模型字」更顺，下面分头说。&lt;/p&gt;
&lt;h2 id=&#34;一词元为什么别扭&#34;&gt;一、「词元」为什么别扭&lt;/h2&gt;
&lt;h3 id=&#34;1-词先把你带偏&#34;&gt;1. 「词」先把你带偏&lt;/h3&gt;
&lt;p&gt;token 不一定是词。它可能是半个词、多个词、一个空格、一个标点、一个 emoji、半个汉字。叫「词元」，外行第一反应是「词的单位」，但 token 根本不是按词切的。名字里带「词」，等于在术语层面就预设了它是词——那些最常被分词器切碎的 subword、标点、空格，全都被这个译名屏蔽掉了。&lt;/p&gt;
&lt;h3 id=&#34;2-元太抽象太漂浮&#34;&gt;2. 「元」太抽象、太漂浮&lt;/h3&gt;
&lt;p&gt;「元」在中文术语里经常表示「基本、最小、meta」：元素、单元、元数据、元语言、元宇宙。它没有具体形象。结果「词元」听起来像「词的某种抽象元素」，不直观。一个译名里最该具体的那部分（它到底是什么单位），恰恰是最含糊的。&lt;/p&gt;
&lt;h3 id=&#34;3-读音语感平&#34;&gt;3. 读音语感平&lt;/h3&gt;
&lt;p&gt;「词元」读 cí yuán，两个阳平，读起来平直，缺少重音收束。它也不像「字」那样能单用。你能说「这个词元」「那个词元」，但日常语感远不如「这个字」「那个字」。&lt;/p&gt;
&lt;h3 id=&#34;4-不能简称搭配也弱&#34;&gt;4. 不能简称，搭配也弱&lt;/h3&gt;
&lt;p&gt;「词元」既不能简称成「词」（「词」已经指 word），也不能简称成「元」（「元」太泛）。搭配起来也怪：词元窗口、词元嵌入、词元化、按词元计费……都有一股论文腔，不顺。&lt;/p&gt;
&lt;h3 id=&#34;5-和已有词法术语纠缠&#34;&gt;5. 和已有词法术语纠缠&lt;/h3&gt;
&lt;p&gt;词、词素、语素、词根、词缀、词位、分词、词向量——「词元」挤进这一堆里，容易混。token 本来就不是词法单位，却被塞进「词」字辈，生态位不对。&lt;/p&gt;
&lt;h2 id=&#34;二模元对了第一步卡在第二步&#34;&gt;二、「模元」对了第一步，卡在第二步&lt;/h2&gt;
&lt;p&gt;最近又冒出另一个译名：「模元」。它的提出者同样反对「词元」，这一脚踩得对——它把最误导人的「词」换成了「模」，切断了「token 是一个词」这个错误预设。这一步走对了。&lt;/p&gt;
&lt;p&gt;但它的思路还停在「元」上。把「词」换成「模」，只是修好了错的那半截，虚的那半截原样留着：「元」还是那个漂浮、没有具体形象、不指向任何东西的尾巴。&lt;/p&gt;
&lt;p&gt;更要命的是，「模元」没法简称，而没法简称就没法构词。「模型字」能简称成「字」，一整个术语族就顺理成章地铺开了：&lt;/p&gt;
&lt;p&gt;简称“模”：会和模型、模态、模块、模板全撞；&lt;/p&gt;
&lt;p&gt;简称“元”：元数据、元学习、单元、元素，太泛；&lt;/p&gt;
&lt;p&gt;不简称：模元窗口、模元嵌入、模元化、多模元预测，能用，但长且生硬；“多模元”还很容易被读成“多模态”相关。&lt;/p&gt;
&lt;p&gt;相比之下，“模型字”可以落到“字”，于是有字窗口、字嵌入、字化、字级、下一字预测、多字预测。这种构词能力在技术传播里是实打实的优势，不是修辞上的顺口而已。术语的能产性——能不能拆出一个短词根去生成新词——往往比术语本身的长度更重要。“模元”是一个封闭的双字整体，拆不开；而“模型字”的“字”可以反复复用。&lt;/p&gt;
&lt;p&gt;这两个是 LLM 里最核心的技术术语。「下一字预测」顺口且准确——模型本来就是在预测下一个「字」；「多字预测」同理。换到「模元」上，你只能憋出「下一模元」「多模元」，又长又拗口；想简称成「元」，就成了「下一元预测」，丢了「模」，而且「多元预测」还会和统计里的「多元（multivariate）」撞车。换到「词元」更惨，「下一词」直接把人引回「词」的层面。&lt;/p&gt;
&lt;p&gt;所以「模元」比「词元」好一点，但它卡在同一个地方：把一个没法简称、没法构词的字，放在了一个最需要构词的位置上。&lt;/p&gt;
&lt;h2 id=&#34;三模型字为什么更顺&#34;&gt;三、「模型字」为什么更顺&lt;/h2&gt;
&lt;h3 id=&#34;1-结构自然&#34;&gt;1. 结构自然&lt;/h3&gt;
&lt;p&gt;「模型」限定，「字」作中心语：模型字 = 模型自己的字。这是汉语最熟悉的名词构造。&lt;/p&gt;
&lt;h3 id=&#34;2-字本来就不是汉字的专利&#34;&gt;2. 「字」本来就不是汉字的专利&lt;/h3&gt;
&lt;p&gt;这是整件事的关键。谁说「字」就一定得是汉字？&lt;/p&gt;
&lt;p&gt;计算机里早有现成的反例。CPU 的「字长」（word length）是它一次处理的数据宽度，「机器字」（machine word）是它眼里的基本单位——这些「字」和汉字八竿子打不着；「字节」（byte）也一样，带个「字」，却指 8 位数据单元。也就是说，中文「字」早就在计算机术语里占了坑，它的内核从来不是「书写字符」，而是「一个被识别、被计数、被处理的最小单位」。&lt;/p&gt;
&lt;p&gt;把这个内核套到大模型上，严丝合缝：&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;CPU 一次处理一个字长；&lt;/li&gt;
&lt;li&gt;LLM 一次生成一个 token。&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;两者在「按最小单位逐个处理」这件事上是同构的。区别只是：CPU 的字是硬件/指令集定义的固定位宽，模型的字是分词器/词表定义的离散符号——总而言之，都是「机器的字」，跟人类的「字 / 汉字」无关。&lt;/p&gt;
&lt;p&gt;大模型确实就是「一个字一个字」地往下写：每个 token 对应词表里的一个 ID，模型预测下一个 ID。至于它的一个字对应几个「人类的字」，那是另一个问题——就像 CPU 的字长是 32 位还是 64 位，跟汉字也没关系。所以模型字不是汉字，逻辑上完全接得上。&lt;/p&gt;</description>
    </item>
  </channel>
</rss>
