当前位置: 代码网 > it编程>编程语言>其他编程 > 使用Kimi大语言模型实现知识图谱抽取

使用Kimi大语言模型实现知识图谱抽取

2024年08月03日 其他编程 我要评论
由于HuggingFists的当前版本并未支持Kimi的算子,在验证使用前需要将算子导入HuggingFists中才能使用,可以从GitHub或者百度网盘中下载补充算子,在目录中中找到/moonshot/路径中下载。在启动流程的执行,查看下结果,发现其中有两个人的头衔title为空,对照原文,头衔信息没有描述,因此输出结果还比较令人满意。反过来,再看下基于通义大模型的输出结果,一方面有的数据抽取有些不符合,另一方面抽取的信息里面包含了人物关系。运行完成后,在流程中的->中查看,如下。

        上一次我们用huggingfists联合阿里通义大模型实现了知识图谱抽取,本次将利用最近比较热的月之暗面大模型kimi来实现知识图谱抽取。

        kimi是由月之暗面公司开发的一款智能助手产品。2023年10月,kimi智能助手初次亮相,支持约20万汉字的无损上下文能力,是当时全球首个同类产品。之后,kimi的功能不断升级,如增加了联网搜索能力、上下文学习能力等。2024年3月18日,kimi进一步提升其无损上下文长度,从最初的20多万字扩容到200万字,使得kimi的人气急剧上升。因此我们也测试下kimi的知识图谱抽取的能力。

        由于huggingfists的当前版本并未支持kimi的算子,在验证使用前需要将算子导入huggingfists中才能使用,可以从github或者百度网盘中下载补充算子,在目录中中找到/moonshot/路径中下载。

        下面将利用kimi来抽取知识图谱,本次操作将对前期已经搭建的用阿里语言模型抽取知识图谱的例子进行修改。前期的操作可观看【玩转数据之利用llm构建知识图谱】 视频,这里就不再具体操作了。

总体来说主要三个步骤:流程复制、流程修改、查看结果

【流程复制】

在流程页面,点击右侧操作菜单栏,点击复制该流程,如下:

复制完成后,可以修改下流程的名称来区别开原流程。

【流程修改】

点击进程程进行编辑,可以将流程里面阿里语言大模型修改为kimi大模型

        这里需要注意下,算子替换后,需要修改moonshot算子的访问账号。以上配置完成后,我们验证下当前输出的结果与原来预期的输出结果是否一致。

可以用断点运行的方式,执行到该算子,验证输出到该处的数据是否符合要求。

运行完成后,在流程中的<查看数据>-><数据>中查看,如下。

上图是本次修改后运行输出的结果,下图是原来阿里大模型反馈的结果。

经过对比后,我们发现输出结果有差异,主要包括:

  1. kimi的输出结果不仅是人物和头衔,还输出了关系和事件;
  2. 字段的名称全部都有中文描述,与通义大模型的英文输出不同;
  3. 输出的json符合标准格式,不需要做二次处理,如值剪切;
  4. json数组的表达方式有中括号,需要做一些处理。

        因此需要将后续的流程做一个调整,来适配当前的输出结果。我们先删除值剪切算子,然后将json扁平化的格式做一个调整,与kimi的输出结果想匹配,将原来的json结构调整为

【查看结果】

                在启动流程的执行,查看下结果,发现其中有两个人的头衔title为空,对照原文,头衔信息没有描述,因此输出结果还比较令人满意。

        反过来,再看下基于通义大模型的输出结果,一方面有的数据抽取有些不符合,另一方面抽取的信息里面包含了人物关系。

        总体来说,两者抽取的没有太大差距,但是通义千问抽取出来的内容更多,可能提示的描述有关系。

        最后欢迎大家尝试用huggingfists联合kimi做一些数据处理。相关演示过程我们已经录制了操作视频,可访问如下:bilibili:《玩转数据之使用月之暗面kimi抽取知识图谱

huggingfists的下载地址如下:

【linux版】

github:https://github.com/datayoo/huggingfists

百度网盘:https://pan.baidu.com/s/1zv_scctlgfqsyeb0wlmxiq?pwd=2024

【windows版】

github: https://github.com/datayoo/huggingfists4win/tree/main

百度网盘:百度网盘 请输入提取码

【mac版】

百度网盘:https://pan.baidu.com/s/12wxz-2ggmtbqep7acmsyhg?pwd=2024

【补充算子】

github: https://github.com/datayoo/operators

百度网盘:https://pan.baidu.com/s/1iqx0f8xzcxmwvda7eaqh6q?pwd=2024

如果使用过程中遇到问题,可加入我们的交流群:

(0)

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论

验证码:
Copyright © 2017-2025  代码网 保留所有权利. 粤ICP备2024248653号
站长QQ:2386932994 | 联系邮箱:2386932994@qq.com