学習済みのAIモデルに入力を与え、結果(予測や生成物)を計算させる処理そのもののこと。速度と省メモリが強く求められる。学習(トレーニング)とは別の工程であり、実際にAIを「使う」段階にあたる。
学習済みのAIモデルを使って実際に予測や生成を行うソフトウェアの中核部分のこと。速度が重要なため、多くがC/C++で実装されている。スマートフォンの中でAI処理を行う場合も、この仕組みが動いている。
メモリを直接操作でき、余計な処理を挟まないCの特性によって得られる、実行速度と省メモリの強みのこと。AI基盤に選ばれる理由のひとつ。自動的なメモリ管理を挟まない分、動作の予測がしやすいという面もある。
もっと先へ：ポインタ・メモリ・ファイル入出力・セキュアコーディングを含む全26トラックと、段位検定・模試のフルセットは完全版に収録しています。