1、token

        提到token,不得不提tokenization(分词)分词就是将句子、段落、文章这类型的长文本,分解为以 字词(token) 为单位的数据结构。
        比方说,在句子 “我很开心” 中,利用中文分词得到的列表是 {“我”,“很”,“开心”},列表中的每一个元素代表一个token
        而论文中的token representation表达把文本分词后每个词表示成向量。

2、span

        通常span指一个片段,如下图所示,span指的是位置4-5(包含)对应的 “开心” 的这个文本片段。
span
        PS:有帮助可以点个赞支持一下博主么,谢谢~

Logo

CSDN联合极客时间,共同打造面向开发者的精品内容学习社区,助力成长!

更多推荐