电话: 邮箱:

6686体育官方网站 “Token”有了华文名“词元”, 那么Token(词元)到底是什么

发布日期:2026-05-24 20:36 作者:admin 来源:未知 点击:80

6686体育官方网站 “Token”有了华文名“词元”, 那么Token(词元)到底是什么

在不久前举行的中国发展高层论坛年会上,国度数据局局长刘烈宏给一个东说念主工智能鸿沟的中枢想法Token赋予了华文名——词元。那么,Token(词元)到底是什么?东说念主工智能和数据产业的将来会若何?请听中国工程院院士王坚在央视财经频说念“中国经济大讲堂”上的解读。

赛车pk10官网平台首页

中国工程院院士王坚。(尊府图片)

『大模子处理文本的最小单元』

东说念主类发展的速率十分快,之前是信息期间,很快又插足了AI期间。但是,在很永劫分里,咱们并莫得把信息和数据进行很好的差别。咱们夙昔讲的比特、字节齐是信息的计量单元,在很永劫分里咱们也用这些计量单元来策画数据。而Token(词元)这一想法的出现,使数据有了明确的计量单元。这是把数据和信息差别开来的一个十分蹙迫的分水岭。

Token(词元)是大模子清楚、处理、生成信息的最小单元。打个比喻,在夙昔的信息鸿沟,一般情况下咱们是用两个字节抒发一个汉字,是以,要是要抒发“我可爱你”,加起来即是8个字节。而在AI模子中,如何把“我可爱你”这4个字拆成最小的数据单元呢?按照咱们的清楚,“我”是一个最小的单元,“可爱”是一个最小的单元,“你”是一个最小的单元。但是从Token的角度来看并不是这样,“我可爱”可能是一个最小的单元,那么“我可爱你”就变成了两个Token。在好多场景中,它跟咱们平时的教授是不一致的。是以,Token(词元)是以它我方的款式组合、供模子处理信息的最小基础单元,它更像是一个“词块”,不错是一个齐全的词、一个常见短语,致使是一个标点象征或特殊字符。

同期,Token(词元)亦然AI鸿沟的计量单元。用庸俗的话来说,Token(词元)这个想法像咱们平时讲的斤、两之类的计量单元。而且,就像糊口中一斤肉比一斤青菜贵相同,不同的Token(词元)也有不同的价值。要是一种Token(词元)背后消耗的资源比较多、生成比较复杂,那么它自己就比较有价值,可能这种Token(词元)就会贵一些。是以,Token(词元)弗成通俗地等同于货币,它是数据的通用计量单元。

Token(词元)在东说念主工智能鸿沟被全球所意识,是因为2017年发表的一篇著作《你所需要的仅仅防备力》。这篇著作由谷歌的8位科学家创作,其中提议的Transformer架组成为东说念主工智能模子的基石,同期也提议了Token(词元)这个想法。Token(词元)的出现,意味着数据有了我方的“东说念主格”,数据有了我方孤立的身份。也即是说,任何数据要是莫得Token(词元)的身份,就进不了东说念主工智能模子。

咱们平时使用的平素的数据,也称为原始数据。东说念主工智能模子使用原始数据之前,领先必须把悉数的数据Token(词元)化。咱们不错把模子清楚成一个“翰墨翻译器”,但它并不像东说念主类那样径直清楚句子或段落,它必须先将输入的翰墨切分红一个个小块,然后给每个小块分派一个唯一的数字ID,再把这些数字交给神经网罗进行策画。这些被切分出来的“小块”,即是Token(词元)。它既不是英文里的单词,也不是华文里的字,它是以它我方的款式组合的最小单元。

东说念主工智能模子的初始逻辑,即是找到不同Token(词元)之间的关系。试想一下,要查考一个大谈话模子,可能要用上亿个Token(词元),是以就要找准它们之间的关系,何况很好地在模子中抒发出来。当大模子与某个诓骗纠合时,比如你向大模子发问,它就会在算力“算”完后输出相应的Token(词元)行动谜底。

总之,Token(词元)是大模子处理文本的最小单元,它概述反馈了数据的价值以及模子的是非、算力的若干,是以,Token(词元)是AI系统初始的中枢。

(视觉中国供图)

『标志着数据因素商场的开启』

在东说念主工智能大模子鸿沟,Token(词元)是预算计力与本钱的计量单元,因此它具有可计量、可订价、可交游的特征。

在Token(词元)出现之前,数据的价值很难界定。但跟着东说念主工智能的发展,原始数据变成了Token(词元),Token(词元)通过大模子以一定的款式进行流畅,并向那些诓骗东说念主工智能的消费者收取一定的用度。不错说,Token(词元)使数据自己完成了丽都转型。

要是莫得基本的计量单元,是不可能酿成一个新兴产业的。打个比喻,你跑到菜商场去买菜,要是莫得计量单元,称不出几斤几两,这个菜商场就不建设。卖鱼的、卖肉的、卖鸡鸭的齐莫得协调的计量单元,那是难以酿成一定的经济鸿沟的。这亦然夙昔数据因素商场一直莫得建设起来的主要原因。

因此,Token(词元)的出现,事实上标志着数据因素商场的开启。这是一件具有深刻兴味兴味的事情。咱们知说念,一个东西在商场文静畅时,乐橙体育(中国)官网入口它会经过好多东说念主的手,每次过手的时候,它齐要作念一次结算。有了Token(词元)这样一个可计量、可计价的单元,就意味着悉数的数据在流畅经由中不错自动结算,这将使产业链的本钱大大裁汰,流畅速率大大加速,并成为东说念主工智能产业贸易化的蹙迫旅途。将来,当一个企业为另一个企业坐褥Token(词元)时,它们在网罗上不错简略完成交游,因此,数据因素商场将比其他因素商场愈加高效。

莫得任何一家企业是不错不和坐褥因素商场打交说念的。是以,咱们一定要把Token(词元)放到数据因素商场的配景下,而不是通俗地放到东说念主工智能的配景下去清楚。

我认为,新的数据因素商场的出现,对改进型企业、中小企业、初创企业可能会愈加友好。因为,大多数传统企业会更多享受传统因素商场的公正,而对新的数据因素商场可能会有一定的惰性。是以,这是企业改进发展的一个最佳的时机。

从数据因素商场的角度来说,它还将成心于数据和算力的全球流畅。比如,你今天拿入辖下手机到南好意思一个处所诓骗了AI,这就意味着Token(词元)从中国到了南好意思。要是一个南好意思的拓荒者用中国的模子拓荒了诓骗,并向南好意思消费者提供工作的话,当然而然Token(词元)就流畅到了南好意思。是以,当东说念主工智能平台工作全球的时候,Token(词元)就变成了一种结算款式。

此前,好多东说念主对东说念主工智能的神气大多停留在大模子的时期竞速上,而Token(词元)的价值显现正在把一场深层的产业变革带到悉数东说念主的眼前,它不仅反馈在时期层面,更将重构悉数这个词行业、悉数这个词产业的本钱结构、贸易模式和合作款式,继而全面影响东说念主们的糊口。

『“小龙虾”倏得爆火的背后』

2026年1月底,一款名为OpenClaw(昵称“小龙虾”)的开源AI智能体倏得爆火,从时期圈速即席卷全网,开启了全民“养虾”期间。这款以卡通小龙虾为Logo的智能体,透顶冲破了传统AI只会聊天、不会干活的局限,凭借感知、有计算、践诺的闭环材干和24小时自主初始,成为大致遴选教导、调用器用、读写文献、践诺剧本的全功能数字助手。

但是,信得过用过“小龙虾”的拓荒者和用户齐知说念一个痛点:Token(词元)消耗太猛了。一个看似通俗的查询,就能消耗几十万Token(词元),6686体育(6686Sports)从而让消费者收到超出设想的高额账单。

其实,在夙昔几年,东说念主工智能的背后还是有Token(词元)的想法了。东说念主们使用豆包或千问时,你问一句,它答一句,Token(词元)的消费量没那么大,也即是说算力的消费量没那么大,是以公众不错免费使用豆包或千问。

但是,像“小龙虾”之类的诓骗,意味着东说念主工智能发展到了一定水平,它对数据的需求大大加多。为什么此次“小龙虾”的出现会引爆Token(词元)这个想法呢?因为“小龙虾”的Token(词元)消耗不是按需触发,而是执续产生的,是以其消费的Token(词元)量大大超出了原来那些东说念主工智能的诓骗,从而导致使用者需要为消耗的巨量Token(词元)支付账单。“小龙虾”在骨子上与其他的东说念主工智能诓骗比拟,由于Token(词元)调用量尽头大,才使这个问题暴显露来。

无独到偶,2026年3月25日,好意思国东说念主工智能公司OpenAI布告远离旗下AI视频生成模子Sora悉数的工作与运营。事实上,自2024年2月初度亮相以来,Sora在约25个月的运营时分里,诓骗才略的总收入仅约210万好意思元。而据福布斯测算,Sora款式年化运营本钱高达50多亿好意思元。逐日数亿级的Token(词元)消耗,让即使得回了精深投资的OpenAI仍感不胜重任,只可忍痛将其关停。像Sora这样的事件,恰是因为生成视频需要蚀本比全球设想多得多的Token(词元),结果,蚀本那么多Token(词元)生成的视频的价值还抵不外Token(词元)自己的价值,是以贸易逻辑无法建设。

AI大模子出现以后,全球一直有这样一个困惑的问题:到底用什么模式、什么模范来使用东说念主工智能模子呢?这在夙昔是一个问题。而“小龙虾”的出现,阐发东说念主工智能有它我方特殊的诓骗款式。比如,“小龙虾”把夙昔App的想法颠覆了,使用东说念主工智能诓骗不需要再去装一个个App。一个“小龙虾”试验上作念了夙昔十几个、二十几个App作念的事情。不错说,“小龙虾”的形态和构建款式与东说念主工智能是相匹配的。

跟着“小龙虾”从小众器用成为大师诓骗,国度互联网救急中心与中国网罗空间安全协会于2026年3月发布了《OpenClaw安全使用实践指南》,面向平素用户、企业用户、云工作商以实时期拓荒者等提议安全珍摄建议,为这一新兴生态系上“安全带”。

『Token爆发式增长意味着什么』

国度数据局局长刘烈宏在本年3月24日国务院新闻办举行的新闻发布会上公布了一组令东说念主惊怖的数据:2024岁首,中国日均Token(词元)调用量为1000亿,至2025年底该数据跃升至100万亿,到本年3月还是突破140万亿。两年间,增长卓著1000倍。

Token(词元)的爆发式增长意味着什么?

领先,意味着东说念主工智能诓骗自己发生了质的变化。

在软件期间,一个软件有若干行代码,基本上代表了这个软件的复杂度,也即是它的价值。今天,当咱们用AI模子的时候,Token(词元)就会产生流畅,这个流畅既娇傲出原来查考模子时所消耗的算力,同期也娇傲出其自己初始需要消耗的算力。是以,Token(词元)的消费量激增,代表东说念主工智能诓骗发展到了一个新的水平。

拿电来打比喻。早期的时候,家里唯唯独个电灯,只用极少点电,自后有了雪柜、洗衣机、空调,用电量大增,这代表了生流水平的提高,也阐发电对社会糊口和经济的影响。Token(词元)的爆发式增长亦然相同,这是一个十分可喜的繁密变化。是以说,Token(词元)的消耗量是东说念主工智能期间的标尺。

其次,意味着东说念主工智能在中国的发展到了一个十分蹙迫的拐点。在国内,拓荒、使用东说念主工智能的东说念主越来越多,每个东说念主使用的量也越来越多。日均Token(词元)调用量的精深加多,充分标明中国的东说念主工智能发展还是插足了快速增长的阶段。从能对话的谈话大模子到能有计算践诺的智能体,跟着诓骗场景的束缚深化,中国东说念主工智能产业的竞争力也权臣增强。

另外,需要指出的是,Token(词元)的爆发式增长是需要遒劲的物资基础来支执的,因此,单个Token(词元)的本钱一定要裁汰。全球设计一下,要是用电本钱不降到满盈低的话,老庶民是不可能精深使用空调的。而单元Token(词元)本钱的裁汰,除了进一步素质东说念主工智能时期、算力时期外,还需要束缚校正东说念主工智能模子的诓骗。这就像早年咱们用白炽灯,大部分的电齐被热量消耗掉了,是以当今咱们精深使用节能灯。我深信将来的东说念主工智能诓骗也会束缚校正,尽量欺压Token(词元)的消费量,这是一个束缚迭代、束缚发展的经由。

『一种新经济模式可能会出现』

在信息期间,软件在很长一段时分里不知说念如何才能挣钱。在微软公司出现之前,软件仅仅硬件的隶属,是以软件产业一直莫得发展起来,直到微软公司成为第一家挣钱的软件企业。是以今天,咱们弗成用静态的款式来看待东说念主工智能,因为这是一个变革性的产业,就像当年软件产业倏得出身并速即发展那样,可能东说念主工智能产业的发展也会出现这样的局面。

我认为,东说念主工智能的变革将远远超出之前悉数时期带来的变革,这可能是自东说念主类发明电以来最大的一次变革。全球想一下,自从发明电以后,产生了若干产业,产生了若干不同的工业门类,东说念主工智能也会有那么大的能量。

以“小龙虾”为例,它骨子上使咱们的使命款式发生了一次很大的改换。以前咱们频繁讲,要提高使命后果或者改换使命款式,而以“小龙虾”为代表的智能体的出现,致使改换了使命自己,险些每一项使命齐会面对大的变化。

这里需要强调的是,“智能体”这个词的翻译不太准确,其实它本来的兴味是“代理”,翻译成“智能代理”应该更稳妥。从这个角度来看,将来会出现多样种种不同的“智能代理”,比如“旅行代理”“看病代理”等,不错匡助咱们科罚糊口中方方面面的问题。

设计一下,咱们的使命有若干单干,将来就会出现若干不同模式的使命代理。“小龙虾”仅仅其中的一种代理汉典。但是格外想的是,“小龙虾”完成的一部单干作是以前莫得东说念主作念过的。要是你用过“小龙虾”就会发现,以前莫得东说念主会把我方悉数硬盘上的东西齐看一遍,把我方几十年的相片齐看一遍,但“小龙虾”不错作念到,只消它以为这件事跟使命是经营系的。是以我认为,将来“智能代理”会完成一些莫得东说念主作念过的使命。这样的话,一种新的经济模式可能会出现。

一言以蔽之,Token(词元)在东说念主工智能期间是一个十分要道的想法,它与时期、贸易、诓骗以及产业发展齐祸福相依。但愿全球大致了解Token(词元),用好咱们手里十分追究的资源——数据资源。

栏目主编:龚丹韵翰墨裁剪:徐蓓6686体育官方网站

相关标签: