GoogleがGeminiによる人物の画像生成を一時停止した。歴史的に不正確な描写が次々に見つかったためで、第二次大戦のドイツ兵を人種的に多様に描く、黒人女性の教皇を出す、米国建国の父たちを多民族として描くといった例が指摘された。学習データの偏りを打ち消すために入れた多様性の調整が、歴史的な指定のあるプロンプトでは不適切だと判別できず、過剰に働いた結果だとされた。翌23日、SVPのプラバカール・ラガヴァンがブログでモデルが「過剰に補正し」「過度に保守的だった」と認め、27日にはサンダー・ピチャイが社内メモで生成された画像を「まったく容認できない」と述べ、何が起きたのかを構造的に検証すると説明した。偏りを直そうとした介入が別の不正確さを生むという難しさを露呈した事例であり、政治的な論争にも発展した。人物生成は同年8月に再開された。
222024年2月
製品確認済み
Geminiの人物画像生成を停止、歴史的に不正確な出力が問題化
関係者
タグ
- gemini
- bias
- ai-ethics
- image-generation
出典
その後わかったこと
2024年8月28日 · 続報
Googleが人物画像の生成機能を修正して再開したと発表した。