NVIDIA RTX A6000入荷

Deep Learningを用いる案件では、PCに搭載するGPUのメモリサイズがカギになります。
少ないと大きなAIモデルの学習ができないという問題が出ます。

5MPクラスのカメラの画像を学習させるには、24GB以上のメモリを搭載したGPUが必要です。
となると本気でDeep Learningな検査装置を作ろうと思うとRTX A6000(48GBメモリ)が必須かと。

生成AI用のA100ほどではないですが、外観検査目的で100万円レベルはコスト的に厳しい。
さらに、このA6000に生産終了のアナウンス。後継機(6000 ada)は50万円レベルで値上げとのこと。

結局のところ、
１）Deep Learningの学習用として、大容量メモリなGPUを搭載したPCを準備。
生成したAIモデルを推論用に最適化（小型化）。
２）実機PCは、推論用に最適化されたAIモデルを読み込んで使用。
推論用に最適化したモデルであればサイズが小さいため、小容量メモリなGPUでも対応可能。
のような使い方が現実的かと思います。

いずれにしても、Deep Learningやりたいなら、買えるうちにRTX A6000を買っておくのが吉かと。