知识图谱学习一:啥是知识图谱,用来干啥,怎么做? | 您所在的位置:网站首页 › 皮尺用来干嘛 › 知识图谱学习一:啥是知识图谱,用来干啥,怎么做? |
一、啥是知识图谱
通俗的讲就是由知识形成的图。知识+图 1.1 知识知识让机器具有认知能力 百度AIG(人工智能技术体系)负责人王海峰曾提出,AI可以分为感知层和认知层,感知是人类和动物都有的能力,机器一定程度也可以比人类更强;但认知是人类的专属能力。机器感知能力目前已趋于成熟,但认知能力还有很大的提升空间。知识类数据可以让机器在感知能力的基础上形成认知能力。 知识可以让机器与人类对话 要机器实现与人类的自然对话,像一个真正的助理那样与用户交互,就需要它储备足够多的知识。有知识储备的机器有了认知,就不只是拥有语音或者图像识别能力,而是具备语义理解能力,从听清进步到听懂,从看出来升级到看得懂。 知识可以让机器智能决策 当机器通过足够多的知识建立认知能力,对世界有自己的理解后,就可以进行智能决策。要机器有“一定的想法”,能够自我决策,变得智能,就必须要有足够多的知识输入,让其形成认知能力。 1.2 知识图谱在AI时代,我们要让机器真正意义上认知这个世界,要让机器与我们更自然地交互,要让机器可以智能做出决策,都必须要输入足够多的知识给机器。如何给机器输入知识?核心技术就是知识图谱,它就像AlphaGo“吃”的棋谱一样,是将人类掌握的不同知识进行关联存储于计算机中,形成网状结构并持续动态完善,让机器不断汲取知识,对世界的认知日益完善。 知识图谱就是通过不同知识的关联性形成成一个网状的知识结构,对机器来说就是图谱,形成知识图谱的过程本质是在建立认知,理解世界。 学术解释: 知识图谱是Google用于增强其搜索引擎功能的知识库。本质上, 知识图谱旨在描述真实世界中存在的各种实体或概念及其关系,其构成一张巨大的语义网络图,节点表示实体或概念,边则由属性或关系构成。现在的知识图谱已被用来泛指各种大规模的知识库。 二、知识图谱能干啥知识图谱于2012年5月17日由[Google]正式提出,其初衷是为了提高搜索引擎的能力,改善用户的搜索质量以及搜索体验。随着人工智能的技术发展和应用,知识图谱作为关键技术之一,已被广泛应用于智能搜索、智能问答、个性化推荐、内容分发等领域。 人工智能与传统产业融合的过程中,要想为这个行业提供更好的服务,就需要对这个行业进行定制化,要有行业知识,这时候就需要在通用知识图谱的基础上,有相应的行业知识图谱,进而帮助这个行业提升生产力,帮助这些行业、产业升级。 三、知识图谱的构建 3.1 概述知识图谱的基础,就是数据和算法,它需要应用自然语言处理和深度学习技术来进行数据挖掘,在海量知识中找出关联性,形成图谱。 基于三元组是知识图谱的一种通用表示方式。三元组的基本形式主要包括(实体1-关系-实体2)和(实体-属性-属性值)等。 其余参考: 专知:最全知识图谱综述#1: 概念以及构建技术 3.2 存储:图数据库形成知识图谱的过程本质是在建立认知、理解世界、理解应用的行业或者说领域。 知识图谱的图存储在图数据库(Graph Database)中,图数据库以图论为理论基础,图论中图的基本元素是节点和边,在图数据库中对应的就是节点和关系。用节点和关系所组成的图,为真实世界直观地建模,支持百亿量级甚至千亿量级规模的巨型图的高效关系运算和复杂关系分析。 目前市面上较为流行的图数据库有:Neo4j、Orient DB、Titan、Flock DB、Allegro Graph等。不同于关系型数据库,一修改便容易“牵一发而动全身”图数据库可实现数据间的“互联互通”,与传统的关系型数据库相比,图数据库更擅长建立复杂的关系网络。 图数据库将原本没有联系的数据连通,将离散的数据整合在一起,从而提供更有价值的决策支持。 3.3 知识图谱点价值知识图谱用节点和关系所组成的图谱,为真实世界的各个场景直观地建模,运用“图”这种基础性、通用性的“语言”,“高保真”地表达这个多姿多彩世界的各种关系,并且非常直观、自然、直接和高效,不需要中间过程的转换和处理——这种中间过程的转换和处理,往往把问题复杂化,或者遗漏掉很多有价值的信息。 凡是有关系的地方都可以用到知识图谱 那相比传统数据存储和计算方式,知识图谱的优势显现在哪里呢? (1)关系的表达能力强 传统数据库通常通过表格、字段等方式进行读取,而关系的层级及表达方式多种多样,且基于图论和概率图模型,可以处理复杂多样的关联分析,满足企业各种角色关系的分析和管理需要。 (2)像人类思考一样去做分析 基于知识图谱的交互探索式分析,可以模拟人的思考过程去发现、求证、推理,业务人员自己就可以完成全部过程,不需要专业人员的协助。 (3)知识学习 利用交互式机器学习技术,支持根据推理、纠错、标注等交互动作的学习功能,不断沉淀知识逻辑和模型,提高系统智能性,将知识沉淀在企业内部,降低对经验的依赖。 (4)高速反馈 图式的数据存储方式,相比传统存储方式,数据调取速度更快,图库可计算超过百万潜在的实体的属性分布,可实现秒级返回结果,真正实现人机互动的实时响应,让用户可以做到即时决策。 四 知识图谱的主要技术 4.1 知识建模知识建模,即为知识和数据进行抽象建模,主要包括以下5个步骤: 以节点为主体目标,实现对不同来源的数据进行映射与合并。(确定节点) 利用属性来表示不同数据源中针对节点的描述,形成对节点的全方位描述。(确定节点属性、标签) 利用关系来描述各类抽象建模成节点的数据之间的关联关系,从而支持关联分析。(图设计) 通过节点链接技术,实现围绕节点的多种类型数据的关联存储。(节点链接) 使用事件机制描述客观世界中动态发展,体现事件与节点间的关联,并利用时序描述事件的发展状况。(动态事件描述) 4.2 知识获取从不同来源、不同结构的数据中进行知识提取,形成知识存入到知识图谱,这一过程我们称为知识获取。针对不同种类的数据,我们会利用不同的技术进行提取。 从结构化数据库中获取知识:D2R。 备注:1.D2R:将关系数据库映射到RDF 2.RDF-语义网体系的基础技术 RDF(Resource Description Framework)资源描述框架,一种用于描述Web资源的标记语言。 难点:复杂表数据的处理。 从链接数据中获取知识:图映射。 难点:数据对齐。 从半结构化(网站)数据中获取知识:使用包装器。 难点:方便的包装器定义方法,包装器自动生成、更新与维护。 从文本中获取知识:信息抽取。 难点:结果的准确率与覆盖率。 4.3 知识融合如果知识图谱的数据源来自不同数据结构的数据源,在系统已经从不同的数据源把不同结构的数据提取知识之后,接下来要做的是把它们融合成一个统一的知识图谱,这时候需要用到知识融合的技术(如果知识图谱的数据结构均为结构化数据,或某种单一模式的数据结构,则无需用到知识融合技术)。 知识融合主要分为数据模式层融合和数据层融合,分别用的技术如下: 数据模式层融合:概念合并、概念上下位关系合并、概念的属性定义合并。数据层融合:节点合并、节点属性融合、冲突检测与解决(如某一节点的数据来源有:豆瓣短文、数据库、网页爬虫等,需要将不同数据来源的同一节点进行数据层的融合)。由于行业知识图谱的数据模式通常采用自顶向下(由专家创建)和自底向上(从现有的行业标准转化,从现有高质量数据源(如百科)转化)结合的方式,在模式层基本都经过人工的校验,保证了可靠性,因此,知识融合的关键任务在数据层的融合。 4.4 知识存储图谱的数据存储既需要完成基本的数据存储,同时也要能支持上层的知识推理、知识快速查询、图实时计算等应用,因此需要存储以下信息:三元组(由开始节点、关系、结束节点三个元素组成)知识的存储、事件信息的存储、时态信息的存储、使用知识图谱组织的数据的存储。 其关键技术和难点就在于: 大规模三元组数据的存储;知识图谱组织的大数据的存储;事件与时态信息的存储;快速推理与图计算的支持。 4.5 知识计算知识计算主要是在知识图谱中知识和数据的基础上,通过各种算法,发现其中显式的或隐含的知识、模式或规则等,知识计算的范畴非常大,这里主要讲三个方面: 图挖掘计算:基于图论的相关算法,实现对图谱的探索和挖掘。本体推理:使用本体推理进行新知识发现或冲突检测。基于规则的推理:使用规则引擎,编写相应的业务规则,通过推理辅助业务决策。 4.6 图挖掘和图计算知识图谱之上的图挖掘和计算主要分以下6类: 第一是图遍历,知识图谱构建完之后可以理解为是一张很大的图,怎么去查询遍历这个图,要根据图的特点和应用的场景进行遍历;第二是图里面经典的算法,如最短路径;第三是路径的探寻,即给定两个实体或多个实体去发现他们之间的关系;第四是权威节点的分析,这在社交网络分析中用的比较多;第五是族群分析;第六是相似节点的发现。 五、知识图谱的应用1. 信用卡申请反欺诈图谱 2. 企业知识图谱 3. 交易知识图谱 4. 反洗钱知识图谱 5. 信贷/消费贷知识图谱 6. 内控知识图谱 具体参考:6个方面分析:知识图谱的价值和应用
参考资料: 1.https://baike.baidu.com/tashuo/browse/content?id=e5a23826846f620f7bac3794&lemmaId=8120012&fromLemmaModule=pcBottom 2.https://baike.baidu.com/tashuo/browse/content?id=edc68a0a68ea1311fa86a1b1&lemmaId=8120012&fromLemmaModule=pcBottom 3. 专知:最全知识图谱综述#1: 概念以及构建技术 4.6个方面分析:知识图谱的价值和应用 |
CopyRight 2018-2019 实验室设备网 版权所有 |