文本数据增强方法

时间:2021-2-27 作者:admin

文章目录

  在人工智能领域中,最核心的莫过于算法、数据和算力。随着科技的发展,算力日益增长、算法日益智能,高质量的数据成为了阻碍AI发展的一大瓶颈。
  在计算机视觉领域中,数据增强的方法较为常用,例如通过图像缩放、图像裁剪、mixup等数据增强的方法可以有效的提高任务的准确率。随着技术的发展,在自然语言处理领域中也产生了一些有效的数据增强算法,例如EDA(Easy Data Augmentation)、回译、文本生成等。在NLP比赛中,比较简单但却有效的方法主要是EDA和回译。

1. EDA

  EDA指的是简单数据增强,包括了同义词替换、随机插入、随机删除、随机交换。其中同义词替换指的是从句子中随机选取一定比例的词(不属于停用词的,下同),使用同义词来替换它们;随机插入指的是从句子中随机选取词,然后得到该词的同义词,并将同义词插入句子的一个随机位置,将上述操作重复进行若干次;随机删除指的是在随机选择句子中一定比例的单词进行删除;随机交换指的是在句中随机选择两个不同位置的单词,并将其进行交换,将上述操作重复进行若干次。为了更好的进行理解,通过实例来进行说明,原始句子为:带着无限同情偷转导师日志:学

声明:本文内容由互联网用户自发贡献自行上传,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任。如果您发现有涉嫌版权的内容,欢迎进行举报,并提供相关证据,工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。