Superalignmentチーム発足
OpenAIが、人間より賢いAIシステムを制御するためのアラインメント研究チーム「Superalignment」の発足を発表した。チーフサイエンティストのイリヤ・サツケバーとヤン・ライケが共同で率い、確保済み計算資源の20%を投じて4年以内に超知能のアラインメント問題の解決を目指すとした。安全性研究への大規模なコミットメントとして注目を集めた。
7月
6件
AI大手が自主規制で先手、競争はさらに加速
7月18日、MetaがLlama 2を商用利用可能な条件で無料公開。Microsoftが優先パートナーとして名を連ねた。
21日にはホワイトハウスで生成AI主要7社が安全性に関する自主コミットメントに署名。26日にはOpenAI・Google・Microsoft・AnthropicがFrontier Model Forumを設立。5日にはOpenAIがSuperalignment（超知能の制御研究）チームを立ち上げ、計算資源の20%を投じると宣言した。
11日にAnthropicがClaude 2を出し、claude.aiを一般公開。イーロン・マスクがxAIの設立を発表。
このブロックは編集部が書いた総括です。出典付きの記録とは分けて表示しています。
記録6件
- 5
- 11
Claude 2公開、claude.aiを一般開放
AnthropicがClaude 2を公開し、あわせて対話型サービスclaude.aiを米国・英国でパブリックベータとして一般開放した。それまでAPI経由か提携先サービス経由でしか使えなかったClaudeに、誰でも直接触れられる窓口ができた。コーディング・数学・推論の性能が向上し、司法試験の多肢選択問題で76.5%（従来73.0%）、Codex HumanEval（Python）で71.2%（従来56.0%）を記録。入出力あわせて最大10万トークンを扱え、無害な応答の割合が従来の2倍に改善したとした。API価格はClaude 1.3と同水準に据え置かれた。
- 12
マスクがxAIを立ち上げ、主要研究所から人を集める
イーロン・マスクがxAIの設立を公表した。ネバダ州での登記は3月9日で、この日は対外的な公表にあたる。掲げた目的は「宇宙の真の性質を理解すること」で、Twitterには「現実を理解するため」と書いた。集めた11人の研究者はDeepMind・OpenAI・Google Research・Microsoft Research・Teslaの出身者である。マスクはOpenAIの共同創業者の一人で、2018年に取締役会を退いていた。3ヶ月前には巨大AI実験の6ヶ月停止を求める公開書簡に署名しており、その本人が自ら開発する側に回ったことは驚きをもって受け止められた。マスクは、人間を理解しようとするAIのほうが人間を滅ぼしにくい、という考え方を示している。
- 18
Llama 2を商用利用可で公開、Microsoftと共同発表
MetaがLlama 2を公開した。研究用途に限られていた前作と違い、研究にも商用にも無償で使える形で、事前学習済みモデルと対話向けに調整した版の両方について重みと実装が配られた。Microsoftを優先パートナーとする共同発表で、AzureのAIカタログから使えるほか、Windowsのローカルでも動く。Amazon Web ServicesやHugging Face経由でも配布された。公開前にレッドチームによる試験を行い、透明性のための資料、責任ある利用の手引き、利用規約を添えている。重みを配ることと商用利用を認めることが同時に成立した回で、以後「オープンウェイト」と呼ばれる配布形態の基準になった。OpenAIが2025年8月にgpt-ossで重みを配ったときも、比較の対象はここに置かれた。
- 21
ホワイトハウス、主要AI企業7社から自主的な安全対策の約束を取り付ける
ホワイトハウスは、生成AIを開発する主要7社から安全性に関する自主的な取り組みの表明を取り付けたと発表した。参加したのはAmazon、Anthropic、Google、Inflection、Meta、Microsoft、OpenAIの7社。公開前に社内外の専門家によるテストを行うこと、モデルの重みを保護するサイバーセキュリティに投資すること、AIが生成した内容だと利用者が分かるようにする電子透かしなどの仕組みを開発することを、安全・セキュリティ・信頼の3分野に分けて約束した。法的拘束力はなく、政権はこれを規制づくりの先行措置と位置づけた。バイデン大統領は同日、ホワイトハウスで各社の幹部と会っている。
- 26
4社がFrontier Model Forumを設立
Anthropic、Google、Microsoft、OpenAIの4社が、フロンティアモデルの安全な開発を目的とする業界団体Frontier Model Forumの設立を発表した。安全性研究の推進、責任ある開発・展開のベストプラクティスの特定、政策担当者や学術界との知見の共有、社会課題への応用支援の4つを活動の柱に掲げた。フロンティアモデルは「既存の最先端モデルの能力を超える大規模な機械学習モデルで、多様なタスクをこなせるもの」と定義された。ホワイトハウスでの自主的な取り組みの表明から5日後の発表で、フロンティアモデルを開発する他社の参加も呼びかけている。