MetaがLlama 3.1を公開した。80億・700億・4,050億の3つの規模で、最大の4,050億は密なTransformerである。文脈は12万8,000トークンで前世代の16倍、15兆トークン超を1万6,000基のH100で学習させた。道具の利用と8言語に対応し、商用利用も認められている。閉じたモデルと張り合える性能のモデルが、重みごと誰でも使える形で出たのはこれが初めてだった。4月に公開したLlama 3の80億・700億に、最大の規模を足した形になる。マーク・ザッカーバーグは同日の公開書簡で、閉じたUnixに対してオープンソースのLinuxが標準になっていった経過をなぞらえ、AIでも同じことが起きると論じた。3月にGPT-4級の性能を「借りる」のではなく「持てる」ようになったことは、各社の価格と公開方針に跳ね返っていく。