中国のDeepSeekがDeepSeek-V3を公開した。総パラメータ6,710億の疎なMixture-of-Expertsで、1トークンあたりに使うのは370億。14.8兆トークンで学習させ、要した計算はH800で278.8万時間、費用にしておよそ560万ドルとされた。GPT-4の訓練費用が5,000万〜1億ドルと見積もられていたのに対し、一桁少ない金額で最上位に迫る性能が出たことになる。重みは公開された。輸出規制で最上位のGPUを買えない側が、その制約の下で効率を詰めて成果を出したという読み方をされ、規制の効き方そのものへの問いにもなった。もっとも、この560万ドルは最終的な学習実行にかかった分であって、研究・試行・設備の費用を含まない点は当時から指摘されている。