当前位置:网站首页>《论文阅读》PLATO: Pre-trained Dialogue Generation Model with Discrete Latent Variable
《论文阅读》PLATO: Pre-trained Dialogue Generation Model with Discrete Latent Variable
2022-08-10 14:07:00 【365JHWZGo】
《论文阅读》PLATO: Pre-trained Dialogue Generation Model with Discrete Latent Variable
数据集:多轮对话数据集
外加标签:无
模型:预训练模型(在对话语料上)
时间:2019年
本文带来Siqi Bao, Huang He, Fan Wang, Hua Wu and Haifeng Wang共同创作的文章
简介
预训练模型已被证明对广泛的自然语言处理任务有效。受此启发,我们提出了一种新颖的对话生成预训练框架来支持各种对话,包括闲聊、基于知识的对话和对话式问答。在这个框架中,我们采用灵活的注意力机制来充分利用双向上下文和语言生成的单向特性。我们还引入了离散潜在变量来解决响应生成中固有的一对多映射问题。响应生成和潜在行为识别这两个交互任务在共享网络中同时设计和执行。对三个公开可用的数据集的综合实验验证了所提出框架的有效性和优越性。
边栏推荐
- 池化技术有多牛?来,告诉你阿里的Druid为啥如此牛逼!
- [219] The training course notes of the go engineer with more than 3,000 MOOCs 02 Programming ideas in the go language
- Lack of comparators, op amps come to the rescue!(Op amp is recorded as a comparator circuit)
- laravel throws the error to Dingding
- 高数_证明_曲率公式
- Existing in the rain of PFAS chemical poses a threat to the safety of drinking water
- Do not access Object.prototype method ‘hasOwnProperty‘ from target object....
- Data product manager thing 2
- Second half of 2011 System Architect Afternoon Paper II
- [Study Notes] Persistence of Redis
猜你喜欢
关于已拦截跨源请求CORS 头缺少 ‘Access-Control-Allow-Origin‘问题解决
Error: Rule can only have one resource source (provided resource and test + include + exclude)
Alibaba的秒杀系统—千亿级并发设计手册上线了
AWS 安全基础知识
How to describe multiple paragraphs with different font settings in Open Office XML format
AWS Security Fundamentals
统信 UOS V20 专业版(1050update2)发布:文件共享、全局搜索等优化
什么?你还不会JVM调优?
【JS高级】ES5标准规范之创建子对象以及替换this_10
日志@Slf4j介绍使用及配置等级
随机推荐
借数据智能,亚马逊云科技助力企业打造品牌内生增长力
X5WebView使用
1W word detailed thread local storage ThreadLocal
串口服务器调试助手使用教程,串口调试助手使用教程【操作方式】
ICML 2022 | 基于随机注意力机制的可解释可泛化图学习
实现一个深克隆
YTU 2295: KMP pattern match one (string)
Lithium battery technology
Calculate the number of combinations recursively
正则表达式(包含各种括号,echo,正则三剑客以及各种正则工具)
CodeForces - 811A
汉字检测和关键词检测
ES5和SE6来实现一个Promise效果
tampercfg内核模块导致机器频繁crash
使用决策树对鸢尾花进行分类
Cloud Migration Practice of Redis
简单的写一个防抖跟节流
【目标检测】小脚本:提取训练集图片与标签并更新索引
文件系统设计
Makefile missing separator. Stop.怎么解决「建议收藏」