Thinking small: How small language models could lessen the AI energy burden

大規模言語モデル（LLM）が注目される一方で、小規模言語モデル（SLM）は低消費電力の代替手段として期待されている。SLMはオープンソースで、クラウド不要・低遅延・ローカル運用可能という利点を持つ。特定分野向けに最適化することで、効率性や安全性、信頼性で、LLMを上回る場合もある。医療分野では、救急トリアージでSLMが大規模GPTモデルより高性能を示した事例も報告されている。
SLMを専門化・連携化することで、多くの産業でより持続可能かつ低コストのAI導入が可能になると見込まれている。