学習済みのAIモデルを使って実際に予測や生成を行うソフトウェアの中核部分のこと。速度が重要なため、多くがC/C++で実装されている。スマートフォンの中でAI処理を行う場合も、この仕組みが動いている。
学習済みのAIモデルに入力を与え、結果(予測や生成物)を計算させる処理そのもののこと。速度と省メモリが強く求められる。学習(トレーニング)とは別の工程であり、実際にAIを「使う」段階にあたる。
大量の文章を学習し、人間のような文章の生成や理解を行うAIモデルのこと。その実行基盤には今もC/C++が使われ続けている。巨大な計算を高速にこなすため、内部の計算処理はCやC++で最適化されている。
もっと先へ：ポインタ・メモリ・ファイル入出力・セキュアコーディングを含む全26トラックと、段位検定・模試のフルセットは完全版に収録しています。