授权公布号:CN109271631B
分词方法、装置、设备及存储介质
有效
申请
2018-09-12
申请公布
2019-01-25
授权
2023-01-24
预估到期
2038-09-12
| 申请号 | CN201811061555.1 |
| 申请日 | 2018-09-12 |
| 申请公布号 | CN109271631A |
| 申请公布日 | 2019-01-25 |
| 授权公布号 | CN109271631B |
| 授权公告日 | 2023-01-24 |
| 分类号 | G06F40/289;G06F40/216;G06F40/253;G06N3/0442;G06N3/084 |
| 分类 | 计算;推算;计数; |
| 申请人名称 | 广州多益网络股份有限公司 |
| 申请人地址 | 广东省广州市黄埔区伴河路90号 |
专利法律状态
2023-01-24
授权
状态信息
授权
2019-01-25
公布
状态信息
公布
摘要
本发明公开了一种分词方法,包括获取训练完成后的基于LSTM的实体识别模型,其中,所述基于LSTM的实体识别模型为使用标注后的训练语料训练;将待分词文本输入所述训练完成后的基于LSTM的实体识别模型,获取所述待分词文本中各个字符分属标注标签的概率;将所述概率输入CRF模型,得到各个字符的标记;同时实现了实体识别与初步分词,根据所述标记得到抛去实体词的短句;基于最大概率分词对所述抛去实体词的短句进行切分,得到所述待分词文本的分词结果,进一步分词中根据实体识别技术识别出其中的实体词,将能有效减少句子中的新词数,再使用最大概率分词对剩余句子进行分词,解决了现有技术中新词识别分词出现错误的问题,提高了分词准确率和效率。


