nv-wavenet:实时自回归波网推理的参考实现

介绍 nv- 是自回归推理的CUDA参考实现。 特别是，它实现了描述的WaveNet变体。 nv-wavenet仅实现网络的自回归部分； 条件向量必须在外部提供。 有关实现和性能的更多详细信息，请参见。 通道数作为模板参数提供。 以下通道计数组合已经过测试，有望正常运行： 32个残留通道，128个跳过通道，256个音频通道 64个残留通道，128个跳过通道，256个音频通道 64个残留通道，256个跳过通道，256个音频通道 128个残留通道，256个跳过通道，256个音频通道 该实现提供了四个不同的变体，具有不同的复杂性，采样率，吞吐量和资源特征： 单块：在单个线程块中实现整个网络。 每个线程块必须读取每个样本的所有模型权重，因此样本速率受到单个Streaming Multiprocessor读取权重的速率的限制。 双块：跨两个协作线程块实现网络。 由于这些模块现在可能跨越多个流