GoogleがGemini 1.5 Proを発表し、100万トークンの実験的なコンテキストウィンドウをGoogle AI Studioのプライベートプレビューで提供した。標準は12万8,000トークン。それまで公開されているモデルの最大は20万トークン(AnthropicのClaude 2.1)であり、一桁の飛躍だった。書籍まるごと、コードベース全体、数時間の動画を一度に読ませられるようになり、長文脈の扱いはGoogleの明確な差別化点となった。アーキテクチャにはMixture-of-Experts(MoE、混合エキスパート)を採用。入力に応じて内部の一部の「エキスパート」だけを動かす構成で、学習と提供の効率が上がったと説明した。Googleが自社の主力モデルでMoEの採用を公表したのはこれが最初である。Gemini 1.0の発表からわずか2か月半での世代交代で、この時期のGoogleがどれだけ急いで追い上げていたかを示す。のちにコンテキスト長は各社の競争軸として定着し、2026年にはAnthropic側も100万トークンに対応する。