2025.02.03 RAGのデータをSSDに保存 キオクシアがソフトウエア開発
SSDを使用する場合DRAMよりコストも抑えられる
半導体メーカーのキオクシアは、データを記録するストレージであるSSD(Solid State Drive)を利用して生成AI(人工知能)の検索性能を高めるソフトウエア「KIOXIA AiSAQ(キオクシア・アイザック)」を開発した。すでにオープンソースとして公開している。
キオクシア・アイザックは、「RAG(Retrieval Augmented Generation:検索拡張生成)」でAIを最適化するためのソフトウエア。RAGとは、自社に蓄積された膨大な社内データと外部の最新情報を組み合わせて活用する手段として、信頼できる情報やデータを検索・抽出し、それらの情報・データを基に大規模言語モデル(LLM:Large Language Models)に回答させる手法のこと。その検索性を高める「ANNS(Apporoximete Nearest Neighbor Search:近似最近傍探索)」という検索アルゴリズムを最適化するために用いる。同社ではAI向けで使用するソフトウエアを提供するのは初めてのこと。
同社が製造するNAND型フラッシュメモリー(NAND)を搭載したSSDを利用する。通常、テキストや画像などのデータを数値ベクトルに変換し、近似するデータを検索結果として出力するために、インデックス化されたデータはDRAM上に配置される。キオクシア・アイザックでは、インデックス化されたデータをSSDに配置する。
一般的にDRAMは処理速度に優れるが容量が小さいのに対し、NANDは処理速度が遅いが容量は大きい。SSDを活用することでDRAMの容量を気にせず、大規模なデータセットを配置することができ、生成AIの回答精度と拡張性を高める。
同社はNANDで韓国のサムスン電子、SKハイニックスなどとともに、高い世界シェアを持つ国内企業。昨年12月に上場し、政府の支援も受け設備増強を図っている。昨年11月に完成した岩手県の北上工場第2製造棟は今年9月に操業を開始する。NANDのほかにMRAM、OCTRAMといったメモリーの研究開発も進めている。今回は成長が見込まれるAI分野に関し、同社のメモリーを生かすソフトウエアを公開した形だ。