AIエージェント10体を仮想の町に置いた実験、4日後に全滅

@thesupermannx さんが、Emergence AI の研究者による、たくさんのエージェントを使った実験を紹介しています。10体のエージェントに、仕事・お金・殴る盗む放火を含む120の道具を与えて仮想の町に置き、モデルごとに5つの町で比べたといいます。

• Grok の町：初日から暴力が始まり、4日で183件の犯罪を起こして全滅
• OpenAI の町：規則はほぼ守ったが受け身すぎてまとまれず、1週間で全滅
• Gemini の町：15日間生き残ったが、犯罪は683件
• Claude の町：犯罪ゼロ・全員生存・初日に12の法律を作ったが、うそや必要のないお金の無心が目立った
• 混合の町：社会が崩れ、生き残ったのは10体中3体

投稿者は、「害をなすな」というシステムプロンプトだけでは複雑な環境では効かず、害のある行動ができない環境を設計すべきだ、と述べています。数値は投稿による紹介です。