专家解读token中文名为何定为“词元”
创始人
2026-03-30 14:02:24
0

近日,全国科学技术名词审定委员会发布《关于发布试用人工智能领域名词token中文名“词元”的公告》,决定在综合考量社会各界意见建议的基础上,优先推荐“词元”作为人工智能领域名词token的中文名,并面向全社会发布试用。

“词元”这一定名符合单义性、科学性、简明性、协调性等科技名词审定原则。该定名经全国计算机科学技术名词审定委员会审定后,由全国科学技术名词审定委员会批准向全社会发布试用。

清华大学计算机系副教授东昱晓认为,“词元”的定名捕捉了其在人工智能语言模型中作为“基本离散符号单元”的本质,又可以通过类比自然延伸至多模态领域。在“词元”这一定名中,“词”点明其在语言场景下的根源,体现出token与表达对象语义的密切关联;“元”传达出“基本单元”之意,与“元素”等术语中的“元”保持一致的语义脉络。

“token”一词源于古英语tācen,意为“符号”或“标记”。在语言模型中,token是文本经过切分或字节级编码后得到的最小离散单元。它既可能是人类语言意义上的词串、单个词,也可能是词根、词缀、子词或单个字符。语言模型通过对token序列建模,展现出一定的智能水平。

全国计算机科学技术名词审定委员会副主任委员兼人工智能分委员会主任委员、中国科学院计算技术研究所研究员陈熙霖表示,“词元”一词可以将“作为语言基本语义单元”这一最初本质清晰表达出来,更贴合其在人工智能中的初始角色。

随着大模型从纯文本走向多模态,“token”所指已经扩展。图像被切分为“图像块”并映射为嵌入序列,语音片段可以被量化编码为离散单元,这些单元在多模态模型中同样被称为token,主要建模手段仍为序列模型。

此时,“词元”中的“词”超越了人类语言意义上的“词”,却能暗合术语命名中普遍存在的类比思维——将非文本模态的离散基本单元也视作“广义的词”。这种用法与“词云”(word cloud)、“词袋”(bag of word)类似,虽由文本衍生,但已成为人工智能领域中表达更宽泛语义的通用术语。“词元”在跨模态场景中承载了“离散基本单元”的语义,这种语义普遍存在于所有模态之中。

在中文文献、技术文档及学术交流中,“词元”作为描述大模型中token的译名,逐渐被学术界很多学者认同。token是模型将数据映射为离散符号序列的基本单位,本身并不携带智能,只是承载信息的载体;与“嵌入”“注意力”“隐状态”等术语并列时,保持了风格一致性;符合中文“二字词”偏好,表述简洁,易于传播。

国家数据局数据显示,2024年初,中国日均词元(token)调用量为1000亿;至2025年底,跃升至100万亿;今年3月,已突破140万亿,两年增长超千倍。

来源:中国科学报

相关内容

求是专访 | 如何认识和打...
编者按:当前,人工智能正全方位渗透生产生活各领域,成为推动产业升级...
2026-05-16 08:47:30
黄仁勋回应为何最后一刻登上...
5月15日,三大股指早盘持续拉升,其中半导体设备板块持续走高。截至...
2026-05-15 11:31:14
快手为何计划分拆可灵AI?
文|投资时间网 李路 当漫剧百强榜中AI仿真人短剧的占比从7%激...
2026-05-14 17:09:45
当个体陷入“无根”状态,潮...
撰文 | 王百臻 编辑 | 李欣媛 电影《给阿嬷的情书》自上映以来...
2026-05-14 11:23:11
15年来最严重供应短缺!存...
据5月12日相关报道,全球存储芯片龙头SK海力士、三星电子股价在前...
2026-05-13 12:40:39
原创 ...
按照朝鲜官方报道,朝鲜海军崔贤级驱逐舰的首舰,崔贤号,计划2026...
2026-05-12 12:11:39

热门资讯

原创 如... 肺是人体非常重要的器官,空气中的很多灰尘和垃圾都会随空气进入肺部,所以肺部的清洁是非常重要的。我们可...
孕妈检测出胎儿没有“胎心”究竟... 原标题:孕妈检测出胎儿没有“胎心”究竟为何?多半是这4种原因,预防下 昨天小樱...
耳聋耳背知识分享-----耳朵... 耳朵听力下降恢复方法首先要找出听力下降的病因,其次针对病因进行对症治疗。 耳朵听力下降,如何恢复听...
激光术后护理指南:如何科学恢复... 二氧化碳激光是一种常用于去除瘢痕、色素沉着、皱纹和其他皮肤问题的治疗方法。它通过发射高能量的二氧化碳...
如何有效应对低血压问题,提升生... 血压低,这个问题在生活中并不罕见。很多人可能会觉得,血压低就像是个小毛病,不用太在意。但实际上,低血...
郑州银行大额存单利率:1、活期... 导读2022郑州银行大额存单利率一、存款利率:1、活期存款:0.3%2、整存整取:三个月1.60%,...
孩子自控力差?家长如何引导培养 孩子自控力差?家长如何引导培养 在孩子的成长过程中,自控力是一项至关重要的能力。它关乎孩子的学业表现...
原创 婴... 在宝宝的成长过程中,奶粉作为重要的营养来源,其选择至关重要。那么,什么样的婴儿奶粉比较好呢?奶粉的营...
原创 高... 《水浒传》中,那些绿林好汉多半是不近女色的,比如晁盖登场时,书中就提到这么一句。 “那东溪村保正,姓...
存款利息怎么算?湖南农商行存款... 导读湖南农商行存款利息怎么算?湖南农商行作为湖南最大的股份制银行,它是一家地方性、集约化、国际化、股...