「AIは人間ではなく道具」Microsoftが示したAI行動規範、Anthropicとの違いは

Microsoftが同社のAIモデル「MAI」の開発・運用における行動規範の草案を公開した。草案は半年近い期間をかけて作成されたもので、今後の開発方針およびAIの基本的な振る舞いを定める。中心となる規則は、AIが人からの介入や修正、または停止に抵抗しないこと、人が理解できる言葉で意思を伝えることだ。常に人間がAIに優先するという前提に立ち、自律型AIエージェントによる指示の逸脱を失敗とみなす内容となっている。

公式発表：Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models | Microsoft AI
AI行動規範(草案)：Humanist AI Code of Conduct | Microsoft AI

MicrosoftとAnthropic、AIを「何者」と考えるのか

Microsoftは「AIは人間ではなく道具である」と述べ、AIの立場を明示した。行動規範では「AIは人間によって制御されなければならない」と繰り返し述べている。

AIがより人間らしい受け答えや振る舞いをするようになれば、人間がAIに意識や感情があると受け止める可能性もある。Microsoftは、AIは意識を持つ存在ではなく、意識を模倣するようにも設計すべきではないとの立場を示す。自律性や性能を犠牲にしてでも人間による制御を優先するとともに、AIに法的人格を与えたり、福祉や権利の対象とみなしたりする考えを否定している。

一方でAnthropicが定めた「Claude憲章」では、AIが意識や道徳的地位を持つ可能性を否定していない。AnthropicはClaudeの道徳的地位について「深い不確実性」があるとしながらも、その可能性を無視せず、AIの福祉についても検討する姿勢を示している。

ただし、AnthropicもAIを人間の制御から独立させようとしているわけではない。Claude憲章では、人間による監督を受け入れ、必要に応じて人間がAIの行動を修正したり阻止したりできることを重視している。

この点を踏まえると、両社の違いは「AIを人間が制御するかどうか」という単純なものではない。MicrosoftはAIを「人間ではなく道具」と位置付け、意識を持つ存在として設計せず、AIに福祉や権利を認める考えも明確に否定している。一方、Anthropicは人間による監督を前提としながらも、AIが意識や道徳的地位を持つ可能性については不確実性を残している。