ライバルが口をそろえるとき

Reel 0101 / 10

ライバルが口をそろえるとき

◆

AI業界のトップで、奇妙なことが起きている。

最前線の研究所が、減速について語り始めた。リリースの間隔を長くする。モデルを出す前に、より多くテストする。競争は減らし、立ち止まる時間は増やす。そして同時に、政府にも足並みをそろえてほしいと求めている。

彼らは、互いの研究者を引き抜き、互いを訴え、報道機関に互いの情報を漏らす企業だ。ほとんど何にも同意しない。それが今、数か月のうちに、全員が同じ考えにたどり着いた。

私が面白いと思うのはそこだ。減速ではない。一致のほうだ。

Reel 0202 / 10

ライバルは偶然には一致しない

◆

互いを嫌っている人たちが、突然同じことを言い出すとき、説明はたいてい2つしかない。

1つ目は、私たちの知らない何かを、彼らが知っているということ。

2つ目は、彼らの利害が一致したということ。誰も調整していない。全員の足元で、同時に地面が動いた。すると、同じ一手が、それぞれにとって最善の一手になった。敵同士でも、盤面は読める。ある方向が明らかに勝ち続けられる道なら、全員がその道を歩く。そうするために、互いを好きになる必要はない。

たいていは、その両方が少しずつ当てはまる。だから、語れる2つの話と、両方が正しいと私が考える理由を書く。

Reel 0303 / 10

話その一：頭打ち

◆

フロンティアは、収穫逓減にぶつかっている。

研究所は今もモデルを改良している。ただ、市場が織り込んだ速さではない。学習には数十億ドルかかる。投資家は、世代ごとに前の世代を大きく超えることを期待している。しかし、その大きな飛躍は示しにくくなっている。ベンチマークで数ポイント高いだけのモデルでは、2倍になった企業評価額は正当化できない。

その世界では、「安全のために減速している」は非常に便利な一文だ。技術的な天井を、道徳的な選択に変えてくれる。評価額を守り、現金を温存し、曲線がまだ曲線なのかが分かるまで、会社を株式市場から遠ざけてくれる。

もしこれが起きているのなら、減速は決定ではない。決定の体裁をとった、現状の説明にすぎない。

Reel 0404 / 10

話その二：引き出し

◆

その逆もある。研究所は、社内にはるかに優れたものを持っていて、それを公開したくない。

自律的な推論が得意。コーディングが得意。自分自身を改良すること、または自分のコピーと連携することが得意。それを公開すれば、オープンウェイトの生態系や中国の研究所がそれを研究し、再現し、1年以内に10分の1の価格で出荷する。このサイクルが今どれほど速く回っているかは、数週間前に書いた。クローズドな最前線と、オープンな最前線との差は、数か月単位で測られる。

だから、動機は、最良のものを引き出しにしまっておくことに向く。社内で使う。次のモデルを書かせる。その下の層へのアクセスを売る。そして公の場では、世界はまだ準備ができていないと言う。

ダリオ・アモデイの最近のエッセイは、この方向に傾いている。彼は、再帰的な自己改善と、自律エージェントの群れを、自分が注視しているリスクとして挙げている。だからといって、誰かが地下室で超知能を持っているわけではない。テストで十分に奇妙な振る舞いを見て、安全性の研究が能力の研究に追いついていないと気づいた、というだけかもしれない。しかし、それは彼らの関心がどこにあるかを示している。頭打ちのほうではない。

Reel 0505 / 10

両方とも正しい

◆

この2つの話は、競合していない。

公開されている最前線は頭打ちになっても、非公開の最前線は動き続けることができる。今日買えるモデルは、ゆっくり改良される。それを訓練する社内のシステムは、速く改良される。研究所が減速していると言うとき、嘘はついていない。ただ、どちらの最前線のことかを言っていないだけだ。

Story one: the plateauStory two: the drawerBoth are true

この2つをまとめると、足並みをそろえるのに陰謀は必要ない。どの研究所も、同じコスト曲線、同じコピーのリスク、同じ投資家に直面している。同じ一手が、全員にとって最善の一手になった。同じ舞台に立つことなど決してない者たちが、結局は同じ台本を読むことになる。その台本こそが、取締役会が報いるものだからだ。

Reel 0606 / 10

方向転換

◆

減速が隠しているものが、もう一つある。そして私は、それが最も大きいと考えている。

モデルを売るのは、もううまくいかない。中国の研究所は、近いものを10分の1の価格で売り、重みを配っている。数か月遅れでオープンウェイトの双子が存在する製品に、最前線の価格は付けられない。研究所はそれを知っている。投資家もそれを知っている。だから、お金は別の場所から来なければならない。

そして、その場所がどこかも、彼らは正確に知っている。この3年間、地球上のあらゆる企業が、自分たちの仕事を彼らに食べさせてきた。創薬のパイプライン。工場のスケジュール。法律文書。サプライチェーン。ロボットのテレメトリ。営業の通話。コード。生のデータではないかもしれない。規約がそう言っている。しかし、仕事の形は渡している。どんな問いが立てられ、どんな答えが受け入れられ、ボトルネックはどこにあり、良い結果とはどんなものか。それは史上最も価値のある学習データセットであり、顧客が無料で組み立てたものだ。

だから、次の一手は明らかだ。知能をトークン単位で売るのをやめ、トークンが使われた先のものを売り始める。1万のバイオテック・チームが働くのを見てきた研究所は、バイオテックに売る必要がない。バイオテックそのものになれる。製造、ロボティクス、法律、金融、物流も同じだ。どれも、API事業よりも大きな市場であり、どれも、研究所がすでに持っている知識によって守られている。

「社内で成長する」は、外から見るとこういう姿になる。公開リリースが減る。垂直型の製品が増える。提携が買収になり、買収が競合になる。2024年の顧客が、2027年の標的になる。

Voice-over

理由もなく減速する人はいない。減速するのは、カーブの手前だ。

そして、ライバルの集団が全員、同時に同じカーブを曲がり、さらに政府にも一緒にハンドルを切ってほしいと頼む。歴史には、これを呼ぶ言葉がある。「安全」ではない。

Reel 0707 / 10

歴史には、これを呼ぶ言葉がある

◆

誰かが何かに署名したと言っているのではない。この形には見覚えがあり、現れるたびに、同じ3つの言葉で売られてきたと言っている。品質。安全。秩序。

どの事例も、同じ5つの要素からなる。ライバルが合意する。国家にも同意するよう求める。理由は、安全、品質、秩序だと語られる。請求書は公衆に回る。そして異を唱える人々は、問題そのものとして扱われる。

Rivals agreeThey ask the state to agreeReason: safety, quality, orderThe bill goes to the publicDissenters are the problem1557✕✕✕✕✕1815✕✕✕✕✕1892✕✕✕✕✕1924✕✕✕✕✕1954✕✕✕✕✕1969✕✕✕✕✕Now✕✕✕??

それは必ず終わる。必ず遅れて終わり、そのずれの代金は必ず公衆が払う。

1990年代、リジンの価格操作の録音で捕まった、アーチャー・ダニエルズ・ミッドランドの幹部は、言ってはいけないことを口にした。競合は友、顧客は敵だ、と。フロンティアの研究所の誰かが、そう言うとは思わない。そして、彼らが何と言うかは重要ではないとも思う。カルテルは悪人で構成されているのではない。インセンティブで構成されている。そして、ここでのインセンティブは、すべて同じ方向を指している。

Reel 0808 / 10

信頼は減らし、所有は増やす

◆

では、ふつうの人、あるいはふつうの会社は、ここから何を得るべきか。

研究所が悪だ、ということではない。研究所は研究所だ、ということだ。彼らは、これまでのあらゆる集中した産業と同じように振る舞う。正しい対応は、いつの時代も同じだ。彼らへの依存を減らすこと。

良いニュースは、これが歴史上初めて、製品がすでに横から漏れ出しているカルテルだということだ。オープンウェイトが存在する。中国の研究所は、最前線に近いモデルを10分の1の価格で出し、その重みをインターネット上に置く。去年、最前線が売っていたものに匹敵するモデルが、今年はノートパソコンで動く。カルテルは、自分が売るものの速度を落とせる。自分が所有していないものの速度は落とせない。

これには前例もある。1990年代、政府と少数の企業が、強力な暗号を管理したがった。輸出禁止、鍵の預託、国家用の予備の鍵を持つチップを、すべての電話に入れる。その後、あるプログラマーが自分の暗号ツールをオープンソースとして公開し、コードは本に印刷され、議論は終わった。今では誰もが強力な暗号を使い、誰も許可を求めない。オープンウェイトは、同じ一手を、技術を一世代後にずらして行ったものだ。

ここでの独立は、具体的なものだ。ダウンロードできるモデルを動かす。データは、手の届く場所に置く。差し替え可能な層の上に作る。閉じたAPIは、どれも自分の家ではなく、借りた部屋として扱う。

Reel 0909 / 10

それでも作り手にとってはよいニュースである理由

◆

私はこれらのモデルの上に作っているので、中立の観察者ではない。それでも、これは作るすべての人にとってよいニュースだと思う。たとえそうでなくても、同じことを言うだろう。

進歩が減速するなら、今日のモデルの上に作られた道具は、成熟する時間を得る。アプリケーション、エージェント、ハーネスは、よくなり、利用者を見つけ、地面がまた動く前に習慣になる時間を持てる。この3年間、モデルの上に作られたどの製品も、6か月ごとに書き直されてきた。ゆっくりしたペースは、作り手が初めて何かを完成させられる機会になる。

進歩が減速しておらず、ただ隠されているだけなら、希少なのは知能ではない。信頼だ。評価、来歴、確信度、制御。システムがなぜその答えに至ったのか、そして信じてよいかどうかを知る方法。引き出しの中のモデルが有能であるほど、その層の価値は上がる。検証できないシステムを、誰も動かさないからだ。

そして、フロンティアがカルテルのように振る舞うなら、独立は人々が代金を払う機能になる。イデオロギーとしてではない。保険としてだ。

Reel 1010 / 10

今、製品はどうあるべきか

◆

自分の読みを真剣に受け取るなら、作るものが変わる。

モデルを製品ではなく、部品として扱う。 モデルは差し替えられる。2回は差し替えられる。差し替えが書き直しではなく、設定の変更で済むように作る。そして、ユーザーが代金を払っているものが、差し替えを生き延びるように作る。

オープンウェイトの出口を残しておく。 すべての機能に、多少劣っていてもよいので、ダウンロードできるモデルで動くバージョンを用意する。閉じたプロバイダーが条件、価格、ルールを変える日に、何を失い、何が残るかを、すでに分かっているべきだ。

サプライヤーに自分のビジネスを教えない。 閉じたAPIに送ったものは、そのまま相手が学ぶものになる。自分を自分たらしめる部分、つまりデータ、ワークフロー、評価は、自分が管理するインフラに置く。汎用の作業だけを外に出す。サプライヤーは、あなたが費用を払って先行させた、将来の競合だ。

答えだけでなく、検証を売る。 どんなモデルでも答えは出せる。その答えがどこから来たのか、システムがどれほど確信しているのか、何を見たのかを示す。答えはコモディティだ。レシートこそが製品だ。

次の波が来る前に、道具を習慣にする。 最前線が止まっている間は、窓が開いている。その窓を使って、地味になる。信頼でき、速く、人々がすでに働いている場所に組み込まれている状態にする。地味なものが、長く残る。

最良のモデルは、買えるものではないと想定する。 ほとんど予告なしに、はるかに強力なシステムが現れる日に備えて設計する。その日を生き延びる製品は、その下にあるものが何であれ、検証し、制限し、説明する方法をすでに知っているものだ。

研究所は、これからも減速していると言い続けるだろう。AIは止まらない。オープンウェイトは追いつき続ける。最前線は、光の中でも闇の中でも、動き続ける。ライバルが口をそろえるとき、正しい対応は、彼らをもっと信頼することではない。彼らをもっと必要としないことだ。