???????????????????????

???׼վ___ - 2018-01-04 12:41

?????????????????????????????????????????????????????????????????API???ResNet-50?????????????TensorBoard????????????????????????????????6?28??(????????)?????????????(?????????)28??????????????????????????????????????1092??????????????????????????????????????TensorFlow??????????????????????????TensorRT???????????????????????????????????????????????????????????????????????????????????????????????????????????????2016?????????????????????????????

??????????????????????????????????????????????????????5?????????????????3????3??4?????????????????????????????????????????????????????????????????????????????????TensorRT???ResNet-50?????????????????????????????????????2017??8?????????????????????????????????????????????????????3?????????????????TensorRT?????????????????FP32?????8-bit???????????????TensorFlow??FP16????INT8????????????????????????????????????GPU????????

??????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????2016??10????????????????????????????????????????????????AI???????????????????????????????????????????????????????????TensorFlow1.7??TensorRT??????????TensorFlow???????????????????

?????????????????????????????????????????????????????????????????????????????????????????????????????????????????????TensorFlow???????

??????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????

???????????????????????????????????????????????????????????TensorFlow???TensorRT????????TensorFlow????????????????????????????????????????????????????????????????????2018??????????????????????????????????????????????????????????????????????????????????????????

???????????????????????????????2020???????????????????8?????2?????????????11?????3??????????????????????1???????????????????TensorFlow???TensorRT????????TensorFlow???????????????????????????????????????????????3?????????????????????????????3???????????????????????????????????????????????????????????????????????????????????????????

??????????????????TensorRT???TensorFlow??????????????????????????????????????????????????????6.4???????1092???????8???????????100???????????????250???????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????

????????????????????????????????????????????2017??8?????????????????????????????????????????????????????????????INT8??????????????????????????????????????????????????????????????

????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????

?????????????????????????????????????AI??????????TensorRT??????????????????????????????GPU??????????????????????????????????????????????????????????????????????????????????????????????????????????????????????TensorFlow1.7??TensorRT??????????TensorFlow??????????????????????????????????????????????????????????????????????????????????????????????????????????

????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????TensorFlow???TensorRT????????TensorFlow????????????????????TensorFlow?????????????????TensorRT???????TensorRT????????????????TensorRT?????????????????FP32?????8-bit????????????????????????????????????????????????????6.4???????1092???????8???????????100???????????????250?????????????????????

???????????????????????????????????????????????19?25?????????????????????????????????????????????????????????????????????????????????????????????????????????????

????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????Google???????TensorFlow1.7??????NVIDIA??????????TensorRT??TensorFlow??????????????????TensorRT??????????????????????????????????????????????5?15????????????????????????????????????????????

??????????????????TensorFlow1.7??TensorRT??????????TensorFlow????????????TensorFlow1.7??TensorRT??????????TensorFlow?????????????5?15???????????????????????????????????????????????6?28??(????????)?????????????(?????????)28??????????????????????????????????????1092????????????????????????

???????????????????2018??????????????????????????????????????????????????????????6?28??(????????)?????????????(?????????)28??????????????????????????????????????1092?????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????API???ResNet-50?????????????TensorBoard??????????

?????????????????????FP32??FP64???????FP16?????????????????????????????????????????FP16??FP32?FP64??????????????????????????????????????????????????????????????????2016????????2017?????????2018?????????????????????????!?????????????????????????????????????????????????????INT8????TensorRT??????FP32??????FP16????????????????INT8???????????????????????????5?15?????????????????????????????????????????????????????????????AI?????????????????TensorFlow????A?????TensorRT??B???TensorFlow??C?

??????????????????????????????????????????????AI?????????????????2017??8????????????????????????????????????????????2016??8????????????????????????????????????????????????????????????????????2016????????2017?????????2018?????????????????????????!??????????????????????????????????????????????????????????????????????????4?5?24???18?56??????????????????????????????????????????3????