IBM Watson机器人原理介绍
Watson机器人产生于IBM的Watson研发中心，机器人短期的主要目标是回答Jeopardy!竞赛的问题。并期望以此作为起点，研发出一个稳定的，有扩展性的机器人基础架构，来为后续的商业应用做准备。Watson机器人分为三大部分1，硬件部分2，语音识别部分（语音转文字，文字转语音）3，问答系统部分硬件部分这里不重点讨论。语音识别部分：IBM在90年代开始做ViaVoice，产品推出也很多年了，不
Watson机器人产生于IBM的Watson研发中心，机器人短期的主要目标是回答Jeopardy! 竞赛的问题。并期望以此作为起点，研发出一个稳定的，有扩展性的机器人基础架构，来为后续的商业应用做准备。
Watson机器人分为三大部分
1， 硬件部分
2， 语音识别部分（语音转文字，文字转语音）
3， 问答系统部分
硬件部分这里不重点讨论。
语音识别部分：IBM在90年代开始做ViaVoice，产品推出也很多年了，不过在Watson机器人中以及Watson研发中心的一些关于医疗，保险等商业软件中，语音识别部分主要是由Nuance公司提供。
Watson机器人研发力量主要集中在自动问答系统里面。这部分由该研发中心的DeepQA项目组负责。
DeepQA项目组有大概40多个研发人员，主要分为下面几个小组：
l 算法小组（负责各NLP模块和其他模块的算法）
l 策略小组（处理流程和处理策略）
l 系统小组（硬件使用和接入，系统效率提升）
l 语音小组（语音接入）
l 注释小组（标注语料库，扩展机器人理解范围）
l 中国研究实验室（本体，元数据，语义网络和知识表示方面的研究）
l 东京的研究实验室（文本挖掘，文本抓取，半结构化信息使用）
l 海法的研究实验室（各种信息检索算法）
下面详细介绍DeepQA项目。
1. 目标
目前我们获取知识的途径主要依赖搜索引擎，搜索引擎通过关键词能找到大量的文档，但缺少对找到的文档内容进行进一步分析的能力，可以说获取的知识并不够准确，给用户提供知识的效率也需要提高。
DeepQA项目先要做好基础架构，所以先做成了开放领域的自动问答，以便未来能够更好的适应各个专业领域的知识。目前机器人已经可以像人类专家那样快速的，准确的回答竞赛中的问题了，而且问题的范围可以很广。不过由于竞答类问题的局限，在扩展到各个专业领域时还是需要进行细节上的改动。不过整体架构应该变化不大。
DeepQA机器人未来可能对下面这些行业有所发展：
l 法律咨询
l 金融保险咨询
l 商业咨询
l 商业智能
l 知识挖掘
l 企业知识管理
l 客户支持
l 信息安全
l ……
需要用到的具体技术有：
l 词法分析
l 句法分析
l 问题分类
l 问题分解
l 资源的获取和评价（知识获取和知识置信度评价）
l 句子中逻辑形式的标注（施动，受动；主语，宾语）
l 知识表示
l 本体
l 本体关系检测
l 推理
l ……
2. 问答部分的处理模块和流程
DeepQA主要有两部分：
l 知识获取
获取结构化的，半结构化的信息，选取其中置信度高的做为知识。这部分第三章介绍
l 自动问答
用户输入问题，机器人给出答案。
自动问答部分的各个模块和处理流程如图1，主要做了下面这些工作：
1. 对用户的问题进行词法分析，句法分析，问题分类，实体识别，各种语法语义标注，角色标注，答案类型分析等
2. 判断问题的多个子问题之间的关系，是否分解成多个问题并行处理或应用其他处理策略
3. 在对答案库进行搜索后，抽取出可能的答案，替换到问句中组成陈述句类型的假设集（把答案填充到问题的疑问部分，改为陈述句）
4. 过滤掉一部分可能性不高的假设
5. 以样例库为标准，综合检验各个假设的置信度有多高，并给出置信度值
6. 综合各种渠道的信息，总的给各个答案一个排序。
由于期望建立一个扩展性比较好的基础架构，在问答部分的处理流程中，几乎包括现有的所有NLP技术，各种技术有的作为基础，有的从不同的角度给出答案的置信度，最后综合各个角度得来的判断，给出结论。下面对这几部分分别介绍。
2.1 问题分析(Question Analysis)
问题分析部分做了很多NLP相关的基础工作，比如：
l 词法分析，词性标注，实体标注，本体识别
l 浅层深层句法分析（主语，谓语，宾语；修饰；搭配；各子句之间的关系）
l 指代标注（句子中的代词各自指向的内容）
l 逻辑结构，语义角色标注（施动，受动）
l 关联关系标记（能够明确关系的本体部分标记出来）
l ...
这些部分的算法在这里不详细介绍了。
问题的类型有：
l 问逻辑
l 问定义
l 数学问题
l ……
如果一个问题由多个子句组成，还需要对各个子句进行分类，有的类型的子句需要特殊处理，比如：现任美国总统 à 奥巴马。 在加州的东北面 à **州
这类子句问题可能需要从本体关系知识库中查询。
问题的分类使用的是常见的基于统计的自动分类算法，通过各种问题的不同特征的表现，来判断具体问题属于什么类别。
能用到的特征有：
1， 有多种意思的关键词
2， 语义明确的词组，短语
3， 修辞，指代等手法表达的内容
4， 从句法结构中总结出来的特征
5， 语义标注和其他逻辑关系中总结出的特征
6， ……
2.1.2 LAT标注和疑问焦点提取
LAT: Lexical Answer Type，通过问题中的词或者短语来确定答案的类型，比如：（红色部分标注为LAT）
Clue: Invented in the 1500s to speed up the game, this maneuver involves two pieces of the same color.
Clue: Though it sounds “harsh,” it’s just embroidery, often in a floral pattern, done with yarn on cotton cloth.
LAT有：
l it（问物）
l He（问人）
l country（问国家名）
l city（问城市名）
l ……
大约不到50%的问题中可以找到LAT，具体LAT的出现概率见图2：
在LAT标记出来后，问题的焦点也就比较容易找到了。
问题的焦点：如果把答案替换了焦点部分，新句子是个独立完整的陈述句。焦点很多时候包含对答案有用的信息，经常作为线索中的主语或者宾语出现，并且当用一个答案来替换的话，可以组织成一个事实陈述句。
举例：（红色部分为疑问焦点）
l This title character was the crusty and tough city editor of the Los Angeles Tribune.
l When hit by electrons, a phosphor gives off electromagnetic energy in this form.
l Secretary Chase just submitted this to me for the third time; guess what, pal. This time I’m accepting it.
问题中包含的关系：
1， 句法关系（主语，谓语动词，宾语）
由句法分析得出。
2， 语义关系（本体间关系）（语义网络）
watson有一个三元组库（本体关系库）用以处理语义方面的替换，推理，查询等。方法参考SPARQL语言的介绍。SPARQL是目前国际上通用的语义网络查询和推理语言，主要应用在OWL形式的本体库和RDF形式的本体库。在开放域的QA中，语义关系比较分散，对问答的贡献比较低。
watson的本体库主要来源于Dbpedia等开源本体组织。
语义网络
语义网络通过概念和其他概念之间的关系来定义概念的语义。概念间的关系可以组织成图，图中的节点表示概念，连接表示关系，连接上的标注表明了关系类型如图3。IBM构建了一个语义网络的应用。参考：(http://www.ibm.aqui.com)
当用户的问题是复句，包含多个子句的情况下，机器人需要将问题进行分解。目前主要支持两种情况的复句，
1， 多个子句是并列关系
这类问题包含多条线索，如果试图从一句话中匹配到这多条线索很困难。每条线索分别匹配，寻找公共的答案，很大程度上就是问题最终的答案
2， 递进关系
有的问题的两条线索有递进关系，第一条线索的答案替换这个问题和下一条线索组合成新问题，答案比较容易找到。比如：和美国没有建交的国家有4个，其中的一个在远东。新问题：不丹，古巴，伊朗，朝鲜这四个国家哪个在远东。
2.3 假设句子集的总结（Hypothesis Generation）
先从答案库中检索出可能出现答案的文档，再对候选答案进行总结。问题线索分析可以从下面这几种角度考虑：
1. Topic
2. 难度
3. 句法结构
4. 答案类型
5. ……
具体的流程如下：
l 搜索系统资源 + 答案抽取 --> 候选答案集
l 候选答案 填充到 问题中 --> 假设句子集（问题变为陈述句）
l 证明这些 Hypothesis 是不是对的（confidence）（这部分2.4中介绍）
模块采用了多种搜索相结合
1， 文档搜索（lucene...)
2， 知识库三元组搜索（SPARQL)
3， 多个query，通过填充来形成单个问题（递进关系的复句）
4， 其他搜索策略
候选答案的选取需要：
1， 命名实体检测
2， 逻辑成分，语义关系标注
3， 三元组中的关系
问题的答案一般是陈述句，一句中包含一个或多个本体，需要判断陈述句中的哪个部分可能是答案（大部分答案是本体，在句子中作主要成分）
通过前期的这些标注，结合问题的类型，答案的类型，在候选的答案文档中抽取出具体的答案来。
在候选答案集得到后，将这些候选答案填充到原始问题中，得到假设句子集。
2.4 假设和检验
通过搜索实例库（Evidence Sources），看这些假设是不是有evidence支持。搜索策略结合了各种方法，比如：
1， 对比相同关键词个数
2， 计算字符串最大交集
3， 对比逻辑格式是否一致
4， 是否和三元组知识库中的信息一致或矛盾
5， 时间上，时间先后顺序这类逻辑上有没有矛盾
6， 空间关系上是否匹配
7， ……
通过这一系列策略，给出每个假设的置信度。这部分结合了信息检索和自动分类的算法。由信息检索计算字符串方面的值；由自动分类算法，综合这些来源的信息（作为特征），给出置信度的可能区域。
所以这部分算是有一定的自学习能力。
在系统结合了多个子句的答案后，综合考虑得出最终答案以及最终置信度。
3. 知识获取和知识表示
3.1 结构化内容获取
现在互联网中也已经整理好了很多结构化的信息，比如：
l 开放的Ontology库
l Wikipedia中的infobox信息
l Dbpedia提供的各类结构化信息
l ……
这些知识一般可以总结为：【主本体】 <关系> 【辅助本体】 这样的三元组。DeepQA爬取和整理很多这类的三元组用来直接获取候选答案，替换子句的问题，确定答案类别等方面。
3.2 半结构化内容获取
机器人选择一些比较可信的文档作为种子，通过互联网，检验种子文档中的信息，对种子文档进行扩充。
Nugget定义：
1， 通常Nugget是一个事件，或者实体（本体）
2， 每个Nugget包含两部分：锚（Anchor围绕的核心）和内容
锚的定义：
1， 要么是实体的中心名词
2， 要么是实体的中心动词（当句子中有多个实体时，选择主语做锚）
举例：
The girl working in the bookstore in Hollywood talked to the diplomat living in Britain.
可以分解成多个Nuggets，如下：
l [girl] working at the bookstore in Hollywood.
l [girl] working at the bookstore.
l [bookstore] in Hollywood.
l Girl [talked] to the diplomat living in Britain.
l Girl [talked] to the diplomat.
l [diplomat] living in Britain
方括号中的部分为锚
通过上面的介绍，就可以了解。每次机器读取一句话，就把它分解成多个Nuggets，然后在Evidence库中去计算这些Nugget的置信度，如果可信，就增加到现有的知识库中来。
1，找一个种子文档，从web检索相关文档
2，抽取各个nuggets
3，计算哪些nuggets对种子文档有用
4，整合最有用的nuggets到语料库中
通过这种方法，可以让机器人的知识库达到一种全自动扩张的效果，当然，种子文档的选择很重要，这些文档是知识扩展的初始化信息，对后续扩展的方向有直接的作用。
Reference：
1， “Building Watson: An Overview of the DeepQA Project”
2， “Text Comparison Using Machine-Generated Nuggets”
CSDN联合极客时间，共同打造面向开发者的精品内容学习社区，助力成长！
更多推荐
0
0- 0
已为社区贡献3条内容
所有评论(0)