Python API

create_paddle_predictor

创建预测执行器CxxPredictor或者LightPredictor

Opt

  1. class Opt;

Opt模型离线优化接口,Paddle原生模型需经opt优化图结构后才能在Paddle-Lite上运行。

CxxConfig

  1. class CxxConfig;

CxxConfig用来配置构建CxxPredictor的配置信息,如protobuf格式的模型地址、能耗模式、工作线程数、place信息等等。

MobileConfig

  1. class MobileConfig;

MobileConfig用来配置构建LightPredictor的配置信息,如NaiveBuffer格式的模型地址、能耗模式、工作线程数等等。

CxxPredictor

  1. class CxxPredictor

CxxPredictor是Paddle-Lite的预测器,由create_paddle_predictor根据CxxConfig进行创建。用户可以根据CxxPredictor提供的接口设置输入数据、执行模型预测、获取输出以及获得当前使用lib的版本信息等。

LightPredictor

  1. class LightPredictor

LightPredictor是Paddle-Lite的预测器,由create_paddle_predictor根据MobileConfig进行创建。用户可以根据LightPredictor提供的接口设置输入数据、执行模型预测、获取输出以及获得当前使用lib的版本信息等。

TargetType 、PrecisionType、DataLayoutType、Place

TargetType为目标设备硬件类型,用户可以根据应用场景选择硬件平台类型。

PrecisionType为模型中Tensor的数据精度,默认值为FP32(float32)。

DataLayoutType为Tensor的数据格式,默认值为NCHW(number, channel, height, weigth)。

PlaceTargetTypePrecisionTypeDataLayoutType的集合,说明运行时的设备类型、数据精度和数据格式。

PowerMode

  1. class PowerMode;

PowerMode为ARM CPU能耗模式,用户可以根据应用场景设置能耗模式获得最优的能效比。

Tensor

  1. class Tensor

Tensor是Paddle-Lite的数据组织形式,用于对底层数据进行封装并提供接口对数据进行操作,包括设置Shape、数据、LoD信息等。

注意:用户应使用CxxPredictorLightPredictorget_inputget_output接口获取输入/输出的Tensor