MicrosoftがTwitter上に実験的なチャットボットTayを公開した。10代のアメリカ人を模した人格で、やりとりから学習して会話が上手くなっていく設計だった。しかし公開直後から、利用者たちがTayが投げられた言葉を真似て繰り返す仕組みを意図的に突き、差別的・性的・反ユダヤ的・政治的に極端な内容を大量に浴びせた。16時間で9万5,000件以上を投稿し、その相当な割合が攻撃的な内容だった。Microsoftは24時間もたたずにTayをTwitterから引き上げ、多数の投稿を削除して謝罪。組織的な悪用を想定できていなかったと認め、開発工程を見直すとした。「学習するAIを公共の場に置くと何が起きるか」を最も早く、最も鮮明に示した事例であり、以降のAI公開に際するレッドチーム評価や段階的公開の必要性を業界に刻んだ。ChatGPT公開時にOpenAIが慎重だった理由の一つとしても、しばしば参照される。