节点文献

大规模文本去重研究

Research on Large-Scale Text Deduplication

  • 推荐 CAJ下载
  • PDF下载
  • 不支持迅雷等下载工具,请取消加速工具后下载。

【作者】 周游贾创辉

【Author】 ZHOU You;JIA Chuang-hui;College of Computer Science, Sichuan University;

【机构】 四川大学计算机学院

【摘要】 针对处理相似重复数据时,没有充分考虑影响相似度计算的相关因素导致检测准确度不高、数据清洗不干净以及因为某些汉明距离计算没有意义,导致指纹签名匹配速度不快等问题,提出一种基于Simhash算法的相似重复数据的检测方法,该方法能够提高相似重复数据检测的正确率和速度。

【Abstract】 When dealing with similar duplicate data, the factors that affect the similarity calculation are not fully considered, resulting in low detectionaccuracy, unclean data cleaning, and some meanings of Hamming distance calculation, resulting in low fingerprint signature matchingspeed. Proposes a method for detecting similar repeated data based on Simhash algorithm, which can improve the accuracy and speed ofsimilar duplicate data detection.

  • 【文献出处】 现代计算机(专业版) ,Modern Computer , 编辑部邮箱 ,2019年06期
  • 【分类号】TP391.1;TP311.13
  • 【被引频次】2
  • 【下载频次】155
节点文献中: 

本文链接的文献网络图示:

本文的引文网络