CPU でリアルタイム ML 推論に対応

このセッションについて

BNNSGraph を使い、CPU 上で機械学習モデルの実行を高速化する方法を紹介します。BNNSGraph で機械学習モデルをコンパイルして CPU 上で実行する方法を説明し、音声処理モデルや信号処理モデル向けに、実行時のメモリ割り当てなし、シングルスレッド実行といったリアルタイム保証を提供する仕組みを紹介します。