特斯拉Dojo FP8、FP16数据规格

A Guide to Tesla’s Configurable Floating Point Formats & Arithmetic 本标准规定了用于深度学习神经网络训练的计算机编程环境中新的 8 位和 16 位二进制浮点算法的特斯拉算法格式和方法。 本标准还规定了异常条件及其状态标志。 符合该标准的浮点系统的实现可以完全用软件、完全用硬件或软件和硬件的任意组合来实现。