スマホで爆速動作:超軽量1Bモデル「MiniCPM5-1B」が切り拓くオンデバイスAIの未来
スマホで爆速動作:超軽量1Bモデル「MiniCPM5-1B」が切り拓くオンデバイスAIの未来 巨大化を続けるLLM(大規模言語モデル)のトレンドに対し、開発現場からはいくつかの課題が提起されています。「クラウドのAPIコストが事業を圧迫する」「リアルタイムな応答には通信遅延(レイテンシ)が許容できない」――こうした課題に対する決定打として、今「エッジ(オンデバイス)AI」が急速に注目を集めています。 ...