autotransformer:用于语义连续句子表示和生成的转换器变体

自耦变压器 用于语义连续句子表示和生成的转换器变体 我们修改转换器以给出固定长度的分布式句子表示形式。 这允许从潜在空间采样以生成句子，语义插值，句子类比等。该代码基于Tensorflow Tensor2Tensor库，开箱即用地在TPU上进行训练。 基于： Vaswani等人，“注意就是您所需要的”，arxiv.org / abs / 1706.03762 Cer等人，Universal Sentence Encoder，arxiv.org / abs / 1803.11175 Cifka等人，《全力以赴》，请信任几个，对任何人都不做：比较句子生成模型，arxiv.org / abs / 1804.07972 Cifka和Bojar，BLEU和意义代表对立吗？ arxiv.org/abs/1805.06536 动机： Bowman等人，《从连续空间生成句子》，arxiv.o