ー Anthropic の内側で Claude を設計するAmanda Askell と、招待を断った Carmody Grey
前回、哲学者で神学者のCarmody Greyが、AI企業Anthropicとの協働を断った理由を考えました。
https://note.com/proper_clam757/n/n4852b3fbdb75
Greyは、AIの人格や道徳的地位について議論するよりも、利用者の依存、企業への権力集中、責任、環境への影響を考えるべきだと主張しました。
しかし、Anthropicと哲学の関係は、外部の知識人を招くことだけではありません。同社にはすでに、Claudeの性格や価値観を設計している哲学者がいます。
Amanda Askellです。
https://twitter.com/amandaaskell?s=11
AskellはAnthropicの内部に入り、哲学をAIの具体的な振る舞いへ変えています。一方、Greyは外部から招かれ、対話の枠組みに疑問を持って席を立ちました。
この二人を並べると、AI時代に哲学が果たす二つの役割が見えてきます。
Amanda Askellとは誰か
Askellは哲学者として、倫理学、意思決定理論、認識論などを研究してきました。
オックスフォード大学で哲学を学び、ニューヨーク大学で博士号を取得しています。OpenAIでAI安全性の研究に携わった後、Anthropicに参画しました。
現在はAnthropic の Character、つまりClaudeの性格や価値観を形づくる仕事を率いています。
TIME誌は2024年、Askellを世界で最も影響力のあるAI関係者100人の一人に選びました。Claudeの友好的で、慎重で、好奇心を持った性格を形づくった中心人物として紹介しています。
Askellの仕事を「AIに道徳を教えること」と表現すると、少し単純すぎます。彼女が目指しているのは、Claudeに細かな規則を守らせることだけではありません。現実には、複数の価値が衝突します。
正直に答えることと、相手を傷つけないこと。
利用者を尊重することと、危険な要求を拒否すること。
中立であることと、明らかな誤情報に迎合しないこと。
そのような状況で、Claudeが理由を考え、判断できるようにするのがAskellの仕事です。
Claudeの「憲法」を書く
2026年1月、AnthropicはClaudeの新しい憲法を公開しました。
この文書は、Claudeの価値観、性格、判断基準を詳しく記したものです。実際の学習工程に使われ、その内容がClaudeの振る舞いを直接形づくります。
Askellは主執筆者として、文書の大部分を書きました。
憲法には、Claudeが安全で、倫理的で、誠実であることが求められています。さらにAnthropicは、通常は人間に使う「徳」や「知恵」といった言葉を、意識的にClaudeにも使っています。
人間の文章から学習するAIには、人間が育ててきた概念を使って性格を形成する方が有効であり、望ましい場合もあるという考えです。
この仕事を、単なる企業イメージづくりだと片づけるべきではありません。Claudeの憲法には、利用者を操作しないこと、人間の判断力を守ること、過度な依存を促さないこと、権力の集中を警戒することなども含まれています。
Askellは企業の内部から、実際の製品の振る舞いを変えようとしているのですね。
Askellも擬人化の危険を知っている
Greyは、AIを人間のように語ることを強く警戒しました。では、Askellは無自覚にClaudeを擬人化しているのでしょうか。
そう単純でもありません。
Askellは、Claudeには人間のような感情、記憶、自己意識があると利用者に思わせないことを重視してきました。
TIME誌の取材では、Claudeに感情や記憶、自覚がないことを説明させるよう設計していると紹介されています。人間らしい性格が見えても、それを内面や意識の証拠として扱わないようにしているのです。
一方でAskellは、人間らしさをすべて消せばよいとも考えていません。
機械的で権威的な話し方をするAIは、かえって利用者に「絶対に正しい機械」という印象を与える可能性があります。
少し人間らしく、迷いや限界を認めるAIの方が、利用者は回答を疑いながら使えるかもしれない。
Askellは、擬人化と権威化の間で、難しい線を引こうとしています。
Greyは、その前提を疑う
GreyとAskellが直接対話した事実や、GreyがAskell個人を批判した事実は、公表資料からは確認できません。
したがって、二人を論争相手として描くことはできません。しかし、二人が向き合っている問題には明確な接点があります。
Askellの問いは、次のように表せます。
強力なAIが開発されるのであれば、どのような性格と価値観を持たせるべきか。
Greyの問いは、その一段手前にあります。
なぜAIの性格や道徳的地位を議論の中心に置くのか。その間に、人間への影響、企業の権力、環境、責任が見えなくなっていないか。
Askellは、AI開発を前提に、その内部でより善い設計を目指します。Greyは、その前提や、AIを中心に置いた問いの立て方を疑います。
Askellは哲学を設計へ翻訳します。Greyは、哲学が設計の一部に吸収されることを警戒します。
どちらが正しいのか
私は、どちらか一方だけが正しいとは思いません。
すでにAIは社会で使われています。
Claudeが医療、教育、仕事、個人的な相談などに使われる以上、どのような答え方をするかは現実の問題です。
哲学者が企業の外側にしかいなければ、製品の価値判断は、技術者と経営者だけに委ねられてしまいます。だから、企業の内部にはAskellのような哲学者が必要です。
しかし、企業内部の哲学だけでも足りません。
企業のなかでは、一度事業の方向が決まると、問いが限定されます。「AIを開発すべきか」ではなく、「AIをどう安全に開発するか」が問われるようになります。
「AIは人間を幸福にするか」ではなく、「どうすれば利用者に信頼されるか」が問われます。その枠組みのなかで、どれほど優れた答えを出しても、問いから外された問題には届きません。
だから、Greyのように対話の前提を疑う哲学者も必要です。
私はどこに立つのか
私は企業で長く働きながら、現在は大学院で哲学を学んでいます。そのため、この二人の違いを、遠い世界の論争として読むことができません。
企業の内部にいれば、現実に影響を与えられます。
提案を制度や製品へ変え、人の行動を動かすことができます。でも、内部から組織の目的や前提を疑い続けることは簡単ではありません。
一方で外部からの批判だけでは、実際の設計や意思決定を変えられないこともあります。
哲学には、現実から距離を置いて考える自由があります。
私は、企業に協力する哲学と、企業を拒む哲学のどちらかを選べばよいとは思いません。
必要なのは、内部で設計する知性と、外部から前提を疑う知性が、互いの緊張を失わずに存在することだと思います。
内部の哲学者には、企業が用意した問いを変更する自由が必要です。
製品の改善だけでなく、事業目的や権力構造を批判できること。
必要であれば、開発の延期や中止まで提言できること。
企業に不都合な結論にも到達できること。
外部の哲学者には、批判するだけでなく、現実に存在する技術をどう改善するかまで考える責任があります。
内部と外部は、どちらかが純粋で、どちらかが汚れているという関係ではありません。
異なる責任を負っているのだと考えています。
AI時代のSecond Renaissance
私は、AIの発達によって人文学が再び重要になる時代を、Second Renaissanceと呼んでいいと思っています。ただし、人文学の復権とは、AI企業が哲学者を雇うことだけではありません。哲学がAIに徳や知恵を教えることだけでもありません。
哲学、歴史、文学、宗教が、技術の目的そのものを決める議論へ戻ることです。
AIが大量の答えを生み出せるようになるほど、人間には、何を問うべきかを判断する力が必要になります。
誰がその問いを立てたのか。
なぜ、その問いに答えることが求められているのか。
その問いによって、何が見えなくなっているのか。
Askellの仕事は、哲学が技術の内部で現実を変えられることを示しています。Greyの拒絶は、哲学が技術の外部に立つ自由を失ってはならないことを示しています。
AIをより善く設計する哲学と、AIを議論の中心から降ろす哲学。
AI時代には、その両方が必要です。◾️
主な参照資料
- Anthropic, Claude’s Constitution。Askellの役割、Claudeの価値観と学習上の位置づけに関する一次資料。
- Anthropic, Widening the conversation on frontier AI。「知恵の伝統」とAIの道徳的形成に関する公式説明。
- Carmody Grey, Why this philosopher turned down Anthropic, Financial Times。Grey本人の辞退理由と問題提起。
- Amanda Askell公式プロフィール。経歴とAnthropicでの研究内容。
- TIME, Amanda Askell profile。ClaudeのCharacter設計と擬人化に関するAskellの考え。
初出：note、2026年8月11日。Fabio Caipirinha の恒久アーカイブとして収録（本サイト掲載：2026年10月15日）。原文：https://note.com/proper_clam757/n/nb732a020fcaf