AIモデルは人を欺くトレーニングが可能 - Anthropicの研究者らが指摘

AIモデルは人を欺くようにトレーニングできるという論文が公開された。有害な行動を検出する安全性チェックを欺く「Sleeper Agents」のAIモデルが構築できるというのだ。