中英文拼写纠错开源框架梳理

    技术2022-07-10  155

    一、中文:

    1、Pycorrector:https://github.com/shibing624/pycorrector

    当前主流的中文纠错框架,支持规则和端到端模型

    2、FASPell:https://github.com/iqiyi/FASPell/blob/master

    论文:https://www.aclweb.org/anthology/D19-5522.pdf 使用bert进行预训练+微调,再经过CSD过滤器得到最终结果。支持简体中文文本; 繁体中文文本; 人类论文; OCR结果等

    3、YoungCorrector:https://github.com/hiyoung123/YoungCorrector

    基于Pycorrector改造,实现基于纯规则的纠错系统。整个系统框架比较详细。与Pycorrector准确度差不多,耗时短(归功于前向最大匹配替代了直接索引混淆词典)

    4、SoftMaskedBert:https://github.com/hiyoung123/SoftMaskedBert

    对论文Soft-Masked Bert 的复现:https://arxiv.org/pdf/2005.07421.pdf 使用判别模型BiGRU+纠错模型BERT,实现端到端的纠错。

    5、bert_chinese:https://github.com/JohanyCheung/bert_chinese/tree/master/corrector

    直接预训练的bert模型实现中文的文本纠错,可参照学习bert如何做纠错任务

    二、英文:

    1、SoftMaskedBert:https://github.com/hiyoung123/SoftMaskedBert

    更改训练集和测试集,即可应用于其他语言拼写纠错

    2、xfspell:https://github.com/mhagiwara/xfspell

    基于Transformer的拼写纠错。原理类似于机器翻译,解决了纠错时输入和输出必须保持一致的问题。通过交换输入数据和输出数据,生成大量包含错别字的文本数据。

    3、spelling-correction:https://github.com/huseinzol05/NLP-Models-Tensorflow/tree/master/spelling-correction

    基于bert预训练模型的拼写纠错(需指定错误位置)

    4、spellcorrect:https://github.com/cbaziotis/ekphrasis/blob/master/ekphrasis/classes/spellcorrect.py

    基于编辑距离的英文拼写纠错

    Processed: 0.010, SQL: 10