品牌网
公司信息商标信息专利信息
授权公布号:CN109271631B
分词方法、装置、设备及存储介质
有效
申请
2018-09-12
申请公布
2019-01-25
授权
2023-01-24
预估到期
2038-09-12
申请号 CN201811061555.1
申请日 2018-09-12
申请公布号 CN109271631A
申请公布日 2019-01-25
授权公布号 CN109271631B
授权公告日 2023-01-24
分类号 G06F40/289;G06F40/216;G06F40/253;G06N3/0442;G06N3/084
分类 计算;推算;计数;
申请人名称 广州多益网络股份有限公司
申请人地址 广东省广州市黄埔区伴河路90号

专利法律状态

2023-01-24 授权
状态信息
授权
2019-01-25 公布
状态信息
公布

摘要

本发明公开了一种分词方法,包括获取训练完成后的基于LSTM的实体识别模型,其中,所述基于LSTM的实体识别模型为使用标注后的训练语料训练;将待分词文本输入所述训练完成后的基于LSTM的实体识别模型,获取所述待分词文本中各个字符分属标注标签的概率;将所述概率输入CRF模型,得到各个字符的标记;同时实现了实体识别与初步分词,根据所述标记得到抛去实体词的短句;基于最大概率分词对所述抛去实体词的短句进行切分,得到所述待分词文本的分词结果,进一步分词中根据实体识别技术识别出其中的实体词,将能有效减少句子中的新词数,再使用最大概率分词对剩余句子进行分词,解决了现有技术中新词识别分词出现错误的问题,提高了分词准确率和效率。