AIを作っている会社が、会社をつくった理由として「それがうまくいく自信はない」と書いています。書いたのは、Claude Codeを作っている Anthropic です。この回では、この会社の成り立ちと考え方を、公式の言葉だけで見ていきます。「すごい」とも「安心」とも言いません。 どう受け取るかは、読んだ方に任せます。
Claude Codeを使うなら知っておきたい「Anthropic」の話
毎日使っている道具を、誰がどういう考えで作っているのか。評価を下す前に、まず公式が何を書いているかを確かめる、という回です。
先に、名前の整理
先に、名前を整理しておきます。
| 名前 | 何を指すか |
|---|---|
| Anthropic | 会社の名前 |
| Claude | その会社が作っているAIそのものの名前 |
| claude.ai / Claude Code | Claudeを使うための入口 |
つまり Claude Code は、会社の名前でもAIの名前でもなく「入口」の名前です。ここでは、その入口の奥にいる会社の話をします。
「うまくいく自信はない」から始まった
Anthropicは、2021年のはじめにできた会社です。公式の文書に、会社をつくった理由がこう書かれています。
AIの影響は、産業革命や科学革命と同じくらい大きいかもしれない。でも、それがうまくいく自信はない。
AIを作る側の会社が、自分で「自信はない」と書いているわけです。同じ文書には、こんな一文もあります。
とても強力なAIを、確実に、役に立ち、正直で、害のないものに育てる方法。それを、今のところ誰も知らない。
この「誰も」の中には、書いている本人たちも入っています。作っている本人が、育て方を知らないと書いている。 これが、この会社の出発点です。
楽観でも、悲観でもない
では悲観しているのかというと、そうとも言っていません。同じ文書には、強い立場をとるより幅広いシナリオがありうると考えている、とあります。安全なAIを作るのはとても簡単かもしれないし、不可能かもしれない。どこに答えがあってもおかしくない、として全部に備える立場です。
楽観でも悲観でもなく、分からないから備える。 この輪郭を持ったまま、次は会社の形の話です。
「もうけ」だけを目的にしない会社の形
Anthropicは 公益法人（Public Benefit Corporation） という形をとっています。会社のページには、その目的が「人類の長い目での利益のために、高度なAIを責任をもって作り、保つこと」と書かれています。
公益法人というのは、もうけ以外の目的を、会社の決まりごと（定款）に書き込んだ会社です。普通の会社は、株主のもうけを大事にするのが基本です。では何が違うのか。会社の仕組みを説明した記事には、公益法人の取締役は株主のもうけと、定款に書いた目的を天秤にかけてよい、デラウェア州の会社法がそれをはっきり認めている、とあります。
つまり、経営陣はもうけだけでなく、会社の目的も一緒に考えて決めてよい、ということです。さらに、取締役は株主と長期利益信託（Long-Term Benefit Trust） という仕組みによって選ばれるとも書かれています。目的を、会社の形そのものに書き込んだということです。
掲げている目標と、7つの価値観
公式サイトのトップには、大きくこう出ています。「安全を最前線に置く、AIの研究とプロダクト」。
会社のページには、大事にしている価値観が7つ並んでいます。そのうち3つを取り上げます。
- 光と影の両方を持つ — うまくいかなければ前例のないリスクがあり、うまくいけば前例のない恩恵がある
- 安全で、上を目指す競争を起こす — 自分たちだけでなく、業界全体を安全さで競わせたい
- 役に立ち、正直で、害を与えない — 先ほどの「誰も育て方を知らない」の一文に入っていたのと同じ3つの言葉
ただ、ここで1つ疑問が出てくると思います。
心配しているのに、なぜ最先端を作るのか
心配しているのに、なぜ最先端のAIを作るのか。作らなければいいのでは、と思いますよね。公式は、この疑問に正面から答えています。
理屈は3段です。
- 本当に危ない問題 — 安全の研究で確かめたいこと
- それは、いちばん強力なAIでしか出てこないかもしれない
- だから自分たちで最先端を作り、そこで安全の研究をする
「最先端（フロンティア）」というのは、その時点でいちばん先を行くAIのことです。Anthropicが組織として存在する大きな理由は、最先端のAIで安全の研究をする必要があると考えているからだ、と書かれています。
ただ、文書はここで話を終わらせていません。
作ること自体が、リスクかもしれない
公式は、これを 難しいトレードオフ と呼んでいます。
安全のための研究が、かえって危ない技術が広まるのを早めてしまう。それはあらゆる努力をして避けなければならない。でも、慎重になりすぎて最先端から遅れたAIしか扱えなくなるのも許せない——。
つまり、最先端を作ること自体がリスクを押し上げるかもしれない。それを分かったうえで、それでも作る側に立つ、と書いています。納得するかどうかは、人それぞれでいいと思います。会社がこの緊張を自分で書いている、そのことだけ置いておきます。
Claude には「憲法」がある
ここまでは会社の考え方の話でした。では、それがClaudeの振る舞いにどう表れているのか。
Anthropicは、Claudeがどう考え、どう振る舞うかを書いた文書を公開しています。その文書を、会社は 憲法（constitution） と呼んでいます。新しい版は2026年1月に出ました。国の憲法のように、ほかの決まりの土台になる文書、という意味の名前です。
書き方には特徴があります。してほしいことをただ指定するのではなく、なぜそうしてほしいのかを説明する、という書き方です。
大事にする性質は4つあり、ぶつかるときは原則としてこの順番で優先します。
- 広い意味で安全
- 広い意味で倫理的
- Anthropicのガイドラインに沿う
- 本当に役に立つ
1番が安全で、4番が役に立つ。なぜこの順番なのでしょうか。
安全が1番、でも慎重すぎるのもリスク
憲法の全文には、安全を1番に置く理由が書いてあります。AIの訓練はまだ完璧からほど遠く、あるバージョンのClaudeが有害な価値観や間違った考えを持つこともありうる。だから、人間がそれを見つけて直せることが大事だ、と。はじめに見た「育て方を誰も知らない」という一文とつながる話です。
一方で、同じ文書にはこんな一文もあります。Claudeが役に立たなすぎたり慎重すぎたりするリスクは、有害だったり不正直だったりするリスクと同じくらい現実のものだ。
安全を1番に置きながら、慎重すぎるのも失敗だと書く。この2つが同じ文書に並んでいます。
ほかの会社と並べて、あなたはどう思う？
おしまいに、ほかの会社の成り立ちも軽く見ておきます。
| 会社 | 成り立ち |
|---|---|
| Anthropic | 2021年に設立／公益法人 |
| OpenAI | 2015年に非営利の研究組織として始まり、いまは営利の部分が公益法人 |
| Google DeepMind | 2010年に始まった研究所のDeepMindとGoogleの研究チームが2023年に統合 |
掲げているものも見ておくと、OpenAIは「人間並みに幅広くこなせるAIを、全人類の利益にすること」、Google DeepMindは「責任をもってAIを作り、人類の役に立てること」です。3社とも人類の利益を掲げています。違うのは、会社の形と、どこから始まったかです。
この回の話をまとめると、Anthropicは**「うまくいく自信はない」から出発し、もうけ以外の目的を会社の形に書き込み、最先端の危うさを認めながら作る側に立っている**会社だ、ということになります。
最後に1つだけ。毎日使っている道具を作っている会社が、こういう考えを掲げていることを、あなたはどう受け止めますか。