Indi
韩小韩博客 vvhan.com

今天爬取舔狗日记的时候,来来回回就那一点数据,发现简单文本去重无法去除相同句子中夹杂着不同标点符号或不同词语的句子,所以有了这篇文本相似度去重脚本。文本相似度去重,是指对一批文本进行去重,只保留相似度较高的文本。相似度的度量方法有很多种,这里以编辑距离(EditDistance)作为衡量标准。编辑距…

讨论

还没有评论,来说第一句吧。

韩小韩博客 的其他文章