OpenAIが15億パラメータの言語モデルGPT-2を発表した。800万のWebページ(40GB)で次の単語予測のみを学習し、タスク特化の訓練なしで文章生成・質問応答・要約などに幅広い能力を示した。悪用への懸念から完全版の公開を見送り、小型版のみを公開する「段階的公開」を実験として採用し、公開方針をめぐる業界の議論を呼んだ。