次世代の大規模言語モデル (LLM)を開発するAI企業の Inception が、 拡散モデル に基づく世界最速の推論LLMである「 Mercury 2 」を発表しました。 Introducing Mercury 2 – Inception ...

AIスタートアップのInception Labsが、拡散モデルを採用した世界初の推論LLMであるMercury 2を発表した。従来の自己回帰型モデルが抱える処理速度の限界を打ち破り、複数のテキストブロックを並列処理することで推論を大幅に加速させている ...

従来の生成は遅いという思い込みを覆す動きが加速します。インセプションが「メルクリーツー」を公開し、並列リファインで高速化を実現しました。NVIDIA環境で毎秒1,009トークン、128KコンテキストやJSON整形対応など、運用要件を満たす設 ...