継続学習型AIが依然としてストレージ半導体市場を拡大し続けている

AIの成長が減速するという議論がある中で、継続的に学習するAIはストレージ半導体市場を拡大し続けている1/ 近年、AIの成長速度は減速すべきだという声があるものの、AIが新しい情報を絶えず学習する「継続学習」技術が、ストレージ半導体市場に新たな成長の原動力をもたらしている。2/ グローバル投資銀行のCitigroupは、来年の世界全体のHBMビット需要が今年より62%増加し、752億Gbになると予想している。3/ Citigroupは、継続学習をHBM需要急増の主な要因の1つと位置付けており、訓練と推論の繰り返しによって、HBMだけでなくサーバー用DRAMやエンタープライズSSDの需要も同時に高まると分析している。4/ 現在、大半の生成AIは、事前学習後に回答する方式を採用しており、新しい情報は自動的に長期的な知識には含まれず、効率面で課題が生じている。5/ 継続学習では、トレーニングと推論の境界が曖昧になり、AIがサービスを提供する過程でも新たなデータや経験を学び、既存の知識と融合させることが目指されている。6/ 新しい情報を継続して学習し続けるには、既存の大量データへのアクセスも同時に必要となるため、より大容量なストレージが求められる。HBMに加え、サーバー用DRAMやNAND型eSSDの併用も重要となっている。7/ 推論中にも学習が進むため、バンド幅だけではボトルネックを解消することが難しく、PIM（Processing In Memory）などメモリ近傍で計算を行う技術への需要も高まる可能性がある。8/ Samsung Electronicsは、AIアクセラレータ上にHBMを直接積層する「zHBM」を提案しており、SK hynixはPIM、SALT-KV、HBF構造などを紹介し、既存のGPU-HBM構造の限界突破を試みている。