TurboTransformers：一种快速且用户友好的运行时，用于在CPU和GPU上进行变压器推断（Bert，Albert，GPT2，Decoders等） （274个子文件） 
.clang-format 21B FindMKL.cmake 4KB FindGperftools.cmake 2KB openblas.cmake 1KB eigen.cmake 1KB cuda.cmake 880B transpose.cpp 26KB multi_headed_attention_smart_batch.cpp 19KB transpose_test.cpp 18KB multi_headed_attention.cpp 17KB pybind.cpp 14KB bert_model.cpp 10KB mat_mul.cpp 8KB bert_model_example.cpp 8KB layer_norm.cpp 8KB matmul_benchmark.cpp 7KB bert_model_test.cpp 7KB utils.cpp 6KB seq_pool.cpp 6KB positionwise_ffn.cpp 5KB utils_test.cpp 5KB profiler.cpp 5KB activation.cpp 5KB bert_allocator_test.cpp 5KB bert_config.cpp 4KB allocator_api.cpp 4KB softmax.cpp 4KB mat_mul_test.cpp 4KB model_aware_memory_scheduler.cpp 4KB layernorm_benchmark.cpp 4KB embedding.cpp 4KB tensor.cpp 4KB bert_embedding.cpp 4KB transpose_benchmark.cpp 3KB softmax_test.cpp 3KB albert_layer.cpp 3KB softmax_benchmark.cpp 3KB common.cpp 3KB layer_norm_test.cpp 3KB bert_output.cpp 3KB prepare_bert_masks.cpp 3KB activation_benchmark.cpp 3KB memory.cpp 3KB bert_intermediate.cpp 3KB activation_test.cpp 3KB prepare_bert_masks_test.cpp 3KB embedding_test.cpp 3KB allocator_api_test.cpp 2KB bert_pooler.cpp 2KB gpu_utils_test.cpp 2KB model_aware_memory_scheduler_test.cpp 2KB tensor_test.cpp 2KB blas_openblas.cpp 2KB blas_blis.cpp 2KB bert_attention.cpp 2KB cuda_device_context.cpp 2KB allocator_impl.cpp 2KB config.cpp 1KB enforce.cpp 1KB addbias_layernorm.cpp 1KB enforce_test.cpp 1KB addbias_act.cpp 1KB sequence_pool.cpp 1KB device_context_test.cpp 1KB model_aware_allocator.cpp 967B naive_allocator.cpp 951B base_allocator.cpp 948B fp16_test.cpp 946B ordered_list.cpp 748B benchmark_helper.cpp 702B npz_load.cpp 696B blas_mkl.cpp 692B catch2_test_main.cpp 54B Dockerfile_dev.cpu 1KB Dockerfile_release.cpu 816B gpu_transpose_kernel.cu 16KB gpu_utils.cu 8KB gpu_softmax_kernel.cu 8KB gpu_layer_norm_kernel.cu 5KB gpu_activation_kernel.cu 3KB gpu_embedding_kernel.cu 3KB gpu_block_reduce.cuh 6KB cuda_enforce.cuh 3KB Dockerfile_ci 171B .dockerignore 117B .gitattributes 0B .gitignore 168B .gitmodules 621B Dockerfile_dev.gpu 1KB Dockerfile_release.gpu 1KB tensor.h 10KB multi_headed_attention_smart_batch.h 5KB common.h 5KB model_aware_memory_scheduler.h 5KB multi_headed_attention.h 5KB model_aware_allocator.h 5KB enforce.h 3KB transpose.h 3KB ordered_list.h 3KB gpu_transpose_kernel.h 3KB共 274 条
- 1
- 2
- 3
国服第一奶妈
- 粉丝: 33
- 资源: 4505
最新资源
- 前端技术打造的多种浪漫恋爱告白天花板级视觉特效与代码
- 开发板STM32电机库5.4开源无感注释 KEIL工程文件 辅助理解ST库 寄存器设置AD TIM1 龙贝格+PLL 前馈控制 弱磁控制 foc的基本流 svpwm占空比计算方法 斜坡启动 死区补偿
- python进阶篇13-模块第一节.avi
- RRT算法路径规划及避障程序2D RRT算法二维路径规划与避障的MATLAB程序，基于随机采样的路径规划，快速探索随机树路径规划，程序包可运行，有简单英文注释
- python进阶篇14-模块第二节-常用模块讲解.avi
- python进阶篇15-异常处理1.1.avi
- 基于超螺旋滑模观测器的永磁无刷直流电机的无传感器矢量控制，角度与转速估算精度非常高
- python进阶篇16-异常处理1.2.avi
- python进阶篇17-异常处理1.3.avi
- python进阶篇18-周末异常习题探讨.avi
- 光伏并网逆变器资料,包含原理图，pcb，源码以及元器件明细表 如下： 1) 功率接口板原理图和pcb，元器件明细表 2) 主控DSP板原理图（pdf);如果有需要，可发mentor版本的原
- 多路远程温度检测系统的设计（数据采集与智能仪器大作业+子作业）
- python进阶篇19-多线程1.1.avi
- 幼儿园管理系统 基于三层架构框架开发，采用 B S 架构，使用IntelliJ IDEA开发软件，采用 MySQL 8.0 数据库 采用CSS、HTML、JavaScript(JS) 、jQuery
- Django 5.0 开发的在线笔记系统
- 交流微电网仿真模型(包含PCS) 储能变流器PCS光伏交流微网三相并网 三相光伏微电网交流微电网储能PCS 个人学习笔记和建模笔记 仿真主要包含光伏＋boost、蓄电池储能系统、储能变流器PCS、三
资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！
点击此处反馈
评论0