- 预训练预训练能带来以下一些优势：通过利用大量无标注文本，预训练有助于模型学习通用语言表征。只需增加一两个特定的层，预训练模型可以适应下游任务。因此这能提供很好的初始化，从而避免从头开始训练下游模型（只需训练特定于任务的层）。让模型只需小型数据集就能获得更好的表现，因此可以降低对大量有标注实例的需求。深度学习模型由于参数数量大，因此在使用小型数据集训练时，容易过拟合。而预训练可以提供很好的初始... 预训练预训练能带来以下一些优势：通过利用大量无标注文本，预训练有助于模型学习通用语言表征。只需增加一两个特定的层，预训练模型可以适应下游任务。因此这能提供很好的初始化，从而避免从头开始训练下游模型（只需训练特定于任务的层）。让模型只需小型数据集就能获得更好的表现，因此可以降低对大量有标注实例的需求。深度学习模型由于参数数量大，因此在使用小型数据集训练时，容易过拟合。而预训练可以提供很好的初始...
- 本论文笔记介绍了一种自然语言处理领域的对抗样本生成方法，用于攻击已经训练好的模型。基于该方法生成的对抗样本，可以显著降低模型（如BERT，LSTM等）的效果。同时，加入生成的对抗样本重新训练模型，可以显著提高模型的鲁棒性和泛化能力。该方法可以作为一种数据增强的方法，比较实用。 本论文笔记介绍了一种自然语言处理领域的对抗样本生成方法，用于攻击已经训练好的模型。基于该方法生成的对抗样本，可以显著降低模型（如BERT，LSTM等）的效果。同时，加入生成的对抗样本重新训练模型，可以显著提高模型的鲁棒性和泛化能力。该方法可以作为一种数据增强的方法，比较实用。
- 华为云自然语言处理服务-语言生成于2019年6月29日00:00（北京时间）转商通知 华为云自然语言处理服务-语言生成于2019年6月29日00:00（北京时间）转商通知
- 华为云自然语言处理服务-语言理解于2019年6月29日00:00（北京时间）转商通知 华为云自然语言处理服务-语言理解于2019年6月29日00:00（北京时间）转商通知
- 华为云自然语言处理服务-自然语言处理基础于2019年6月29日00:00（北京时间）转商通知 华为云自然语言处理服务-自然语言处理基础于2019年6月29日00:00（北京时间）转商通知
- 扩增方法：回译 将文本数据翻译成某种语言，然后再将其翻译回原始语言。回译可以生成带有不同单词的文本数据，同时保留文本数据的上下文。 一般情况下回译需要借助翻译API来完成，需要耗费一定的时间。 扩增方法：同义词替换 从句子中随机选择N个非停止词，随机选择的同义词替换这些单词。 替换前：This article&nbs... 扩增方法：回译 将文本数据翻译成某种语言，然后再将其翻译回原始语言。回译可以生成带有不同单词的文本数据，同时保留文本数据的上下文。 一般情况下回译需要借助翻译API来完成，需要耗费一定的时间。 扩增方法：同义词替换 从句子中随机选择N个非停止词，随机选择的同义词替换这些单词。 替换前：This article&nbs...
- 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第3章，第3.4.1节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第3章，第3.4.1节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。
- 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第3章，第3.2.2节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第3章，第3.2.2节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。
- 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第2章，第2.5节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第2章，第2.5节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。
- 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第2章，第2.4.3节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第2章，第2.4.3节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。
- 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第2章，第2.4.1节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第2章，第2.4.1节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。
- 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第2章，第2.1.2节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第2章，第2.1.2节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。
- 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第1章，第1.6.3节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第1章，第1.6.3节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。
- 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第1章，第1.6.2节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第1章，第1.6.2节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。
- 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第1章，第1.6.1节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。 本节书摘来自华章计算机《TensorFlow自然语言处理》一书中的第1章，第1.6.1节，［澳］ 图珊·加内格达拉（Thushan Ganegedara） 著 马恩驰 陆 健 译。
上滑加载中
推荐直播
-
仓颉编程语言开源创新人才培养经验分享2025/08/06 周三 19:00-20:00
张引 -华为开发者布道师-高校教师
热情而富有活力的仓颉社区为学生的学习提供了一个充满机遇和挑战的平台。本次直播探讨如何运用社区的力量帮助同学们变身为开源开发者，从而完成从学生到工程师身份的转变。
回顾中 -
“全域洞察·智控未来” ——云资源监控实战2025/08/08 周五 15:00-16:00
星璇 华为云监控产品经理，霄图 华为云监控体验设计师，云枢 华为云可观测产品经理
本期直播深度解析全栈监控技术实践，揭秘华为云、头部企业如何通过智能监控实现业务零中断，分享高可用系统背后的“鹰眼系统”。即刻预约，解锁数字化转型的运维密码！
回顾中
热门标签