当前位置：网站首页>《论文阅读》PLATO: Pre-trained Dialogue Generation Model with Discrete Latent Variable
《论文阅读》PLATO: Pre-trained Dialogue Generation Model with Discrete Latent Variable
2022-08-10 14:07:00 【365JHWZGo】
《论文阅读》PLATO: Pre-trained Dialogue Generation Model with Discrete Latent Variable
数据集：多轮对话数据集
外加标签：无
模型：预训练模型（在对话语料上）
时间：2019年
本文带来Siqi Bao, Huang He, Fan Wang, Hua Wu and Haifeng Wang共同创作的文章
简介
预训练模型已被证明对广泛的自然语言处理任务有效。受此启发，我们提出了一种新颖的对话生成预训练框架来支持各种对话，包括闲聊、基于知识的对话和对话式问答。在这个框架中，我们采用灵活的注意力机制来充分利用双向上下文和语言生成的单向特性。我们还引入了离散潜在变量来解决响应生成中固有的一对多映射问题。响应生成和潜在行为识别这两个交互任务在共享网络中同时设计和执行。对三个公开可用的数据集的综合实验验证了所提出框架的有效性和优越性。
边栏推荐
猜你喜欢
图式图例规范尺寸
记录几道整型提升的题目
借数据智能，亚马逊云科技助力企业打造品牌内生增长力
1W word detailed thread local storage ThreadLocal
2022-08-09: What does the following go code output?A: No, it will panic; B: Yes, it can run correctly; C: Not sure, see the voting result.package main import (“fmt“ “syn
缺少比较器，运放来救场！（运放当做比较器电路记录）
【ECCV 2022｜Millions of Prizes】PSG Competition: Pursuing the "Most Comprehensive" Scene Understanding
Matrix Keyboard & Calculator Small Project Based on 51 (UcosII)
Error: Rule can only have one resource source (provided resource and test + include + exclude)
Alibaba的秒杀系统—千亿级并发设计手册上线了
随机推荐
网络安全——XSS之被我们忽视的Cookie
Existing in the rain of PFAS chemical poses a threat to the safety of drinking water
【ECCV 2022｜Millions of Prizes】PSG Competition: Pursuing the "Most Comprehensive" Scene Understanding
【目标检测】小脚本：提取训练集图片与标签并更新索引
开源SPL消灭数以万计的数据库中间表
递归递推之计算组合数
使用决策树对鸢尾花进行分类
【Gazebo入门教程】第三讲 SDF文件的静/动态编程建模
Data product manager thing 2
高数_证明_曲率公式
一种能让大型数据聚类快2000倍的方法，真不戳
List集合
高数_证明_弧微分公式
SecureCRTPortable – 破解
作业
关于已拦截跨源请求CORS 头缺少 ‘Access-Control-Allow-Origin‘问题解决
基于ArcGIS水文分析、HEC-RAS模拟技术在洪水危险性及风险评估
NAACL 2022 | 简单且高效！随机中间层映射指导的知识蒸馏方法
学习日记9
注意力模型---Attention Model