この記事の内容をスライドにまとめました。ビジュアルで先に把握したい方はこちらからどうぞ。

👉 スライドで見る（← → キーまたはスワイプで操作できます）

Claude Codeを毎日のように使っていても、それを作っている会社のことは、意外と知らないものです。

AIの道具は、どうしても「どれが賢いか」「どれが速いか」で比べられがちです。でも、道具には、それを作った会社の考え方が出ます。何を大事にして、何を心配しているのか。それは、AIがどう振る舞うかにも表れてきます。

今回は、Claude Codeの向こう側にいる会社、Anthropic（アンソロピック）の話です。

読み終わったときに手元にあってほしいのは、次の3つです。

  1. この会社がなぜ作られたか
  2. どういう形の会社で、何を目標にしているか
  3. その考えが、AIの振る舞いにどう落ちているか

先に言っておくと、この記事は「だからこの会社はすごい」「だから安心」という結論を書きません。公式が何と書いているかを並べるところまでにします。それをこの時代にどう受け取るかは、読んだあなたに委ねます。

公式の文章は英語なので、原文をそのまま載せて、下に日本語訳を添えます。リンク先で、原文を自分の目で確かめてみてください。

先に、名前の整理

名前が似ていてややこしいので、最初に3つだけ押さえます。

つまり、Claude Codeは、会社の名前でも、AIの名前でもなく、入口の名前です。ここから先は、入口の奥にいる「会社」の話をします。

2021年、「うまくいく自信はない」から始まった会社

Anthropicは、2021年のはじめに設立された会社です（公式発表）。

なぜ作ったのか。公式の文書「Core Views on AI Safety（AIの安全についての基本的な考え方）」には、こう書かれています。

We founded Anthropic because we believe the impact of AI might be comparable to that of the industrial and scientific revolutions, but we aren't confident it will go well.

（私たちがAnthropicを設立したのは、AIの影響は産業革命や科学革命に匹敵するかもしれない、しかし、それがうまくいく自信はない、と考えているからです）

AIを作る会社が、設立の理由として「うまくいく自信はない」とはっきり書いています。これが、この会社の出発点です。

同じ文書には、こんな一文もあります。

So far, no one knows how to train very powerful AI systems to be robustly helpful, honest, and harmless.

（今のところ、とても強力なAIを、確実に「役に立ち、正直で、害のないもの」に育てる方法を、誰も知りません）

「誰も」の中には、当然、書いている本人たちも入っています。

では、悲観しているのかというと、そうとも言い切っていません。

Rather than taking a strong stance, we believe a wide range of scenarios are plausible.

（強い立場をとるよりも、幅広いシナリオがあり得ると考えています）

安全なAIを作ることは、とても簡単かもしれないし、不可能かもしれない。文書は、その幅のどこに答えがあってもおかしくない、として、どれか1つに決めつけずに備える立場をとっています。

楽観でも悲観でもなく、「分からない。だから心配している」ところから始まった会社。まずは、この輪郭を持っておいてください。

「もうけ」だけを目的にしない会社の形 ── 公益法人

次は、会社の形の話です。

Anthropicは、公益法人（Public Benefit Corporation）という形をとっています。会社ページには、こう書かれています。

Anthropic is a Public Benefit Corporation, whose purpose is the responsible development and maintenance of advanced AI for the long-term benefit of humanity.

（Anthropicは公益法人であり、その目的は、人類の長期的な利益のために、高度なAIを責任をもって開発し、維持することです）

公益法人というのは、ざっくり言うと、「もうけ」以外の目的を、会社の決まりごと（定款）に書き込んだ会社です。

普通の会社は、株主のもうけを大事にするのが基本です。公益法人は、ここが少し違います。Anthropicは、会社の仕組みについての記事で、登記しているアメリカ・デラウェア州の法律をこう説明しています。

Delaware corporate law expressly permits the directors of a PBC to balance the financial interests of the stockholders with the public benefit purpose specified in the corporation's certificate of incorporation…

（デラウェア州の会社法は、公益法人の取締役が、株主の経済的な利益と、定款に定めた公益の目的とを、天秤にかけることをはっきり認めています）

つまり、経営陣は、株主のもうけと、この公益の目的を天秤にかけてよい。普通の会社との一番の違いは、ここです。

もう1つ、同じ会社ページには、取締役は株主と「長期利益信託（Long-Term Benefit Trust）」によって選ばれる、とも書かれています（"Our Board of Directors is elected by stockholders and our Long-Term Benefit Trust"）。経営陣を、株主だけで決めない仕組みを持っている、ということです。仕組みの詳しい中身は、上の記事にあります。

掲げている目標と、7つの価値観

では、何を目指しているのか。

公式サイトのトップには、次の見出しが大きく出ています。

AI research and products that put safety at the frontier

（安全を最前線に置く、AIの研究とプロダクト）

ミッションとしては、こう書いています。

At Anthropic, we build AI to serve humanity's long-term well-being.

（Anthropicは、人類の長い目で見た幸せに役立つAIをつくります）

会社ページには、会社として大事にしている7つの価値観が並んでいます。

  1. Act for the global good（世界全体のために行動する）
  2. Hold light and shade（光と影の両方を持つ）
  3. Be good to our users（ユーザーに誠実であれ）
  4. Ignite a race to the top on safety（安全で「上を目指す競争」を起こす）
  5. Do the simple thing that works（うまくいく、シンプルなことをやる）
  6. Be helpful, honest, and harmless（役に立ち、正直で、害を与えない）
  7. Put the mission first（ミッションを最優先する）

この中から、考える材料になりそうな3つを取り上げます。

光と影の両方を持つ

説明文はこうです。

AI has the potential to pose unprecedented risks to humanity if things go badly. It also has the potential to create unprecedented benefits for humanity if things go well.

（AIは、うまくいかなければ、人類に前例のないリスクをもたらしうる。うまくいけば、人類に前例のない恩恵をもたらしうる）

リスクだけを見るのでも、恩恵だけを見るのでもない、という価値観です。

安全で「上を目指す競争」を起こす

英語では race to the top。説明文には、こうあります。

As a safety-first company, we believe that building reliable, trustworthy, and secure systems is our collective responsibility - and the market agrees. We work to inspire a 'race to the top' dynamic where AI developers must compete to develop the most safe and secure AI systems.

（安全を第一にする会社として、頼れて、信用できて、守りの固いシステムを作ることは、私たち全体の責任だと考えています。市場もそれに同意しています。AIの開発者たちが、最も安全なシステムを作ることで競い合う、「上を目指す競争」を起こそうとしています）

自分たちだけが安全ならいい、ではなく、業界全体を「安全さ」で競わせたい、という言葉です。

役に立ち、正直で、害を与えない

2章で出てきた「誰も方法を知らない」の一文に入っていたのと、同じ3つの言葉です。会社ページでは、これが社員どうしの振る舞いについての価値観として並んでいます。

心配しているのに、なぜ最先端を作るのか

ここまで読むと、素朴な疑問が出てくると思います。

「そんなに心配なら、作らなければいいのでは？」

この疑問に、公式は正面から答えています。先ほどの「Core Views on AI Safety」から引きます。

A major reason Anthropic exists as an organization is that we believe it's necessary to do safety research on "frontier" AI systems.

（Anthropicが組織として存在する大きな理由は、「最先端（フロンティア）」のAIで安全の研究をすることが必要だと考えているからです）

最先端（フロンティア）というのは、その時点でいちばん先を行く、いちばん高性能なAIのことです。

理屈はこうです。本当に危ない問題は、いちばん強力なAIでしか調べられないかもしれない。だから、そこで安全の研究をするには、自分たちでも最先端のAIを作っている必要がある。

ただ、文書はそこで話を終わらせていません。これを「難しいトレードオフ（a difficult trade-off）」と呼んだうえで、こう続けています。

We must make every effort to avoid a scenario in which safety-motivated research accelerates the deployment of dangerous technologies. But we also cannot let excessive caution make it so that the most safety-conscious research efforts only ever engage with systems that are far behind the frontier…

（安全のための研究が、かえって危険な技術の普及を早めてしまう。そんな事態を避けるために、あらゆる努力をしなければなりません。しかし同時に、慎重になりすぎた結果、安全を最も気にかける研究が、最先端からはるかに遅れたAIしか扱えなくなる、ということも許せません）

つまり、最先端を作ること自体が、リスクを押し上げるかもしれない。会社はそれを分かったうえで、それでも最先端を作る側に立つ、と書いています。

この理屈に納得するかどうかは、人それぞれだと思います。ここでは、公式が自分でこの緊張関係を書いているという事実だけを置いておきます。

思想が、AIの振る舞いになる ── Claudeの「憲法」

ここまでは、会社の考え方の話でした。では、それが実際のClaudeの振る舞いに、どう落ちているのか。

Anthropicは、Claudeがどう考え、どう振る舞うかを書いた文書を公開していて、それを「憲法（constitution）」と呼んでいます。国の憲法のように、ほかの決まりの土台になる文書、という意味の名前です。新しい版は2026年1月に公開されました（発表記事／全文）。

発表記事では、憲法をこう説明しています。

Claude's constitution is the foundational document that both expresses and shapes who Claude is.

（Claudeの憲法は、Claudeがどんな存在であるかを表し、同時に形づくる、土台となる文書です）

同じ記事には、Claudeに与えるほかの訓練や指示は、すべてこの憲法の文言と精神に沿っていなければならない、とも書かれています。

ルールを並べるより、理由を説明する

以前の版は、独立した原則を並べた形でした。新しい版は、書き方を変えています。

We think that in order to be good actors in the world, AI models like Claude need to understand why we want them to behave in certain ways, and we need to explain this to them rather than merely specify what we want them to do.

（ClaudeのようなAIが世の中でよく振る舞うには、なぜそう振る舞ってほしいのかを理解する必要があります。私たちは、してほしいことをただ指定するのではなく、その理由を説明する必要がある、と考えています）

大事にする順番は4つ

発表記事は、Claudeに持っていてほしい性質を、次の4つにまとめています。

  1. 広い意味で安全（Broadly safe）── AIを見守る人間の仕組みを、損なわない
  2. 広い意味で倫理的（Broadly ethical）── 正直で、よい価値観に沿って行動する
  3. Anthropicのガイドラインに沿う（Compliant with Anthropic's guidelines）
  4. 本当に役に立つ（Genuinely helpful）

そして、これらがぶつかるように見えるときは、原則としてこの順番で優先する、としています。

なぜ「安全」が1番なのか。憲法の全文には、こうあります。

AI training is still far from perfect, which means a given iteration of Claude could turn out to have harmful values or mistaken views, and it's important for humans to be able to identify and correct any such issues…

（AIの訓練は、まだ完璧からはほど遠いものです。あるバージョンのClaudeが、有害な価値観や間違った考えを持ってしまうこともありえます。だから、人間がそうした問題を見つけて、直せることが大事なのです）

2章で見た「育てる方法を、今のところ誰も知らない」という一文と、並べて読んでみてください。

慎重すぎるのも、リスク

一方で、憲法は安全一辺倒ではありません。全文には、こんな一文もあります。

The risks of Claude being too unhelpful or overly cautious are just as real to us as the risk of Claude being too harmful or dishonest.

（Claudeが役に立たなすぎたり、慎重すぎたりするリスクは、Claudeが有害だったり不正直だったりするリスクと同じくらい、私たちにとって現実のものです）

「安全を1番に置く」と「慎重すぎるのもリスク」。この2つが、同じ文書に書かれています。

ほかのAI企業は、どう始まったか

最後に、ほかの会社の成り立ちにも軽く触れておきます。

OpenAIは、2015年に非営利の研究組織として始まりました。2019年に営利の子会社をつくり、現在は、その営利部分が公益法人（OpenAI Group PBC）になっています。ミッションは「AGI（人間のように幅広い仕事をこなせるAI）が、全人類の利益になるようにすること」です（About／組織の構造）。

Google DeepMindは、成り立ちが違います。DeepMindは2010年に始まった研究所で、Googleの研究チームであるGoogle Brainは2011年に始まりました。この2つが、2023年4月に一つになってできたのがGoogle DeepMindです（About／統合の発表）。大企業の中の研究部門という形です。ミッションは、こう書かれています。

Our mission is to build AI responsibly to benefit humanity

（私たちのミッションは、責任をもってAIをつくり、人類の役に立てることです）

こうして並べると、3社とも「人類の利益」を掲げています。違うのは、それを守るための会社の形と、どこから始まったかです。

道具としての違いは、次の回（「Codex」と「Antigravity」の回・予定）で扱います。

まとめ ── あなたはどう思う？

今回並べた材料を、3行でまとめ直します。

そして、その考え方は「憲法」という文書になって、Claudeの振る舞いの土台に置かれています。

この記事では、ここから良し悪しの判断はしません。代わりに、1つだけ問いを置いて終わります。

毎日使っている道具を作っている会社が、こういう考えを掲げていることを、あなたはどう受け止めますか。

「Claude Codeを使うなら知っておきたい」シリーズは、これからも続けていきます。すでに公開しているのはこちらです。