4件
MicrosoftがGitHubを買い、GoogleはAI原則を掲げる
4日、MicrosoftがGitHubを75億ドルで買収すると発表。開発者が集まる場所を手に入れる。オープンソースの側には警戒も強かった。
7日、GoogleがAI原則を公表。兵器や、国際的な規範に反する監視には使わないと明記した。4月のProject Mavenへの反対を受けた対応である。
11日、OpenAIが初代GPTを発表。大量の文章で先に学習させ、あとから課題ごとに合わせる二段構えを示した。未ラベルのテキストだけで下地を作れることが要点である。
25日にはOpenAI Fiveを発表。Dota 2の5対5に挑む。
このブロックは編集部が書いた総括です。出典付きの記録とは分けて表示しています。
Microsoftが、世界最大のソフトウェア開発プラットフォームGitHubを株式交換により75億ドルで買収することで合意したと発表した。当時GitHubには2,800万人を超える開発者が集まっていた。CEOのサティア・ナデラは「Microsoftは開発者第一の企業であり、GitHubと力を合わせることで開発者の自由・開放性・革新へのコミットメントを強める」と述べた。Microsoftのナット・フリードマンがGitHubのCEOに就き、創業者で前CEOのクリス・ワンストラスはMicrosoftのテクニカルフェローとなった。かねてオープンソースと敵対的だったMicrosoftの転換として、当時大きく注目された買収である。あわせてMicrosoftは世界最大の公開コードの集積を手にしており、2021年のGitHub Copilotはこの上に載る製品になる。
サンダー・ピチャイがブログ「AI at Google: our principles」を公開し、GoogleのAI開発の指針を7項目の原則と、追求しない4分野として示した。追求しない分野には「人に危害を加えること、またはそれを直接助けることを主目的とする兵器その他の技術」「国際的に受け入れられた規範に反する監視のために情報を集めたり使う技術」「広く受け入れられた国際法と人権の原則に反する目的の技術」が挙げられた。Project Mavenをめぐる社内の抗議を受けた対応であり、同時にピチャイはサイバーセキュリティ、訓練、捜索救助など他の分野では政府・軍との協業を続けるとも明言した。大手AI企業が自ら開発の禁止領域を宣言した最初期の文書として、その後の各社の同種の方針の下敷きになった。
OpenAIのアレック・ラドフォードらが、論文「Improving Language Understanding by Generative Pre-Training」で後にGPT-1と呼ばれる初代GPTを発表した。Transformerを大量のテキストで教師なし事前学習（次の単語予測）し、少量の教師ありデータでファインチューニングする2段階の手法により、含意関係認識・常識推論・読解など多様な言語理解タスクで最高水準の結果を達成した。モデルとコードも公開された。GPTという名前が付いた最初のモデルである。
OpenAIが、Dota 2の5対5チーム戦をプレイする5つのニューラルネットワークからなるシステムOpenAI Fiveを発表した。人間のデータを使わないセルフプレイで毎日180年分に相当する対戦を重ね、256GPUと12万8000CPUコア上でPPO（Proximal Policy Optimization）をスケールアップして訓練。制限付きルールながらアマチュアの人間チームに勝ち始めており、8月のThe Internationalでのトッププロとの対戦を目標に掲げた。