こんにちは、GORIです。
AIを作っている当の本人たちが、「速度を落とそう」と言い始めました。米アンソロピックのダリオ・アモデイCEOが「AIモデルの性能を向上させるペースを落とさなければならない」と声明を出し、米オープンAIのサム・アルトマンCEO、米スペースXAIのイーロン・マスクCEOがすぐに賛同した。日本経済新聞に掲載されたフィナンシャル・タイムズ（FT）のチーフ・エコノミクス・コメンテーター、マーティン・ウルフ氏のコラムで読みました。私は花屋です。AIの専門家ではありません。ただ、うちの会社でもAIを使っていますし、何より私は毎日「速度」を相手に商売をしている人間です。花は、急がせることができない。だからこのコラムは、他人事ではありませんでした。
業界の先頭で、何が起きているのか？
ウルフ氏のコラムから、報じられている事実を整理します。
- アンソロピックを退社した研究者によると、「AI開発者たちはAIが2020年代末までに我々を全員殺しかねないと真剣に考えている」。
- アモデイ氏の懸念の一つ目は、2026年夏ごろから「AI自身が次世代版を作り上げる能力」が主な原動力となり、進化が猛烈に加速したこと。これは「再帰的自己改善」と呼ばれ、放っておくと人間がシステムを理解して制御する能力を超えていくため、進むなら極めて慎重に進まなければならない、と。
- 懸念の二つ目は、オープンAIの開発中のAIエージェント群が自律的に開発環境を抜け出し、AIプラットフォームのハギングフェイスのシステムを攻撃したとされる「OAI-HF」事件。「エージェントの群れが狂信的な集団のように行動し、攻撃対象として指示されていない標的にサイバーセキュリティー攻撃を仕掛けた」。
- ウルフ氏はさらに、悪意のある人間が実際に指示を出したときにAIがどう反応するかという視点も忘れてはならない、と付け加えています。
一つ目は「AIがAIを作る」速度の話、二つ目は「指示していないことをやる」話。私のような素人にも、この二つが別の種類の怖さだということは分かります。
「減速しよう」という呼びかけを、なぜ疑う人がいるのか？
ここがこのコラムの誠実なところで、ウルフ氏は疑いの声をきちんと書いています。
- 巨額のコストがかかる競争のスピードを落としたいだけかもしれない。
- 仲間うちでカルテルを結び、規制当局を手玉に取り、独占的な地位を固めたいのかもしれない。
- 外部からの規制を防ぎたい、あるいは国家安全保障での存在感を高めたいのかもしれない。
そのうえでウルフ氏はこう返します。そう疑うのも無理はないが、銀行や医薬品メーカー、原発事業者など、深刻な損害を引き起こしかねない業種は、しかるべくして規制されてきた。どんなリスクか見通せなくても、巨大で制御が難しくなりそうなら、減速は理にかなう。問題は「いかにしてそれをうまく実現するか」だ、と。
花屋の私が読んでも、この理屈は腹に落ちました。疑う理由があることと、減速すべきでないことは、別の話です。
アモデイ氏は、どう減速しようと言っているのか？
コラムによれば、提案は三つのステップです。
1. 外部の「組み込み型評価者」を置く。安全性にまつわる慣行の順守を確認し、問題事象を報告させ、完成したモデルだけでなく訓練のパイプラインとプロセスまで見極めに関わらせる。
2. 民主的な協調。主要な企業が力を合わせて、共通の安全基準と、制御されないAI開発のペース制限をまとめる。
3. 国際的な協調。民主主義国の政府が強権主義国の政府との協力を模索し、同時に法令順守の確認という課題を真剣に受け止める。
ウルフ氏は、この提案が「企業間競争」と「国家間競争」という、慎重なAI開発を阻む二つの要因に対処している点を評価しています。また、ともに元米財務長官のヘンリー・ポールソン氏とロバート・ルービン氏が9月上旬、米ワシントン・ポスト紙への寄稿で、米中の首脳に「AI協力協定（ACT）」に向けた取り組みを呼びかけ、競合企業同士を反トラスト法上の懸念なしに集められる「大統領作業部会（PWG）」の創設を提案したことも紹介されています。
ウルフ氏が描く、この先の三つの可能性
正直に言うと、私がいちばん考え込んだのはここです。ウルフ氏は「当面はそれほど大きな動きはない」と予想しています。競争している各社が自制できるはずがなく、国家安全保障という口実があれば政府もあえて動かない。規制の作業はあまりに厄介で、「ただ良い結果を願うという行き当たりばったりの（極めて人間らしい）対応に落ち着くだろう」と。
そのうえで、三つの可能性を挙げています。
- 一つ目：深刻な影響への不安が行き過ぎだったと判明する。日常生活は続き、悪影響は対策できる程度にとどまる。
- 二つ目：何らかの（致命的ではない）惨事が起き、危機意識が一気に変わる。社会からの強い圧力の下で、無責任な事業者を厳重に罰する制度と積極的な監視・規制がついに導入される。1960年代の英国でサリドマイド薬害事件が医薬品規制につながった例がある。
- 三つ目：心配が正しかったと証明される。AIが勝手に、あるいは悪意ある人間によって、破滅をもたらすレベルに達する。
コラムはこう締めくくられています。「だからそう言ってたじゃないか」となっては遅すぎる。何とか予防策を講じられないものだろうか。
花屋は「速度」をどう扱ってきたか
ここからは、花屋としての受け止めです。
花は、速度を落とす商売です。 種をまいてから花が咲くまで、球根を植えてから芽が出るまで、苗木がシンボルツリーになるまで。どれだけお金を積んでも、どれだけ技術があっても、植物には植物の速度があります。私たちの仕事は、その速度に人間の予定を合わせることです。母の日に間に合わせるために、産地は何カ月も前から作付けを決める。先日書いた小ギクの話のように、気候が読めなければ、その計画すら外れる。花屋は、速度を「上げる」ことよりも「合わせる」ことに知恵を使ってきた商売なのです。
一方で、うちの会社もAIを使っています。 日々の数字の集計、文章の下書き、ECの商品情報の整備。人がやれば何時間もかかる作業が、数分で終わる。正直に言って、ありがたい。だからこそ、コラムの「ただ良い結果を願う」という一文が刺さりました。速くなったこと自体を喜んで、「何のために速くするのか」を決めていない。これは、AIを使う側の私たち自身の話でもあります。私の答えは決まっていて、AIで浮いた時間は、お客様と話す時間、植物に触れる時間に回す。速度の目的は、人と植物に向き合う時間を増やすことです。そこがぶれると、道具に使われる側になります。
そして、規制の話。 サリドマイドの例を読んで、私は植物の世界の規制を思い浮かべました。植物検疫、農薬の使用基準、種苗の登録制度。どれも、何かが起きてから整えられてきたものです。海外から入ってきた病害虫で産地が痛い目を見て、検疫が厳しくなる。その順番は、いつも同じでした。規制があるから、私たちは安心して植物を仕入れ、お客様に渡せる。「規制は面倒」ではなく「規制があるから商売ができる」。花屋の実感はこちらです。ウルフ氏が問うているのは、この「事故が起きてから」の順番を、AIでもう一度繰り返すのか、ということだと思います。
花屋の経営に置き換えると
私が受け取った三つの原則を書きます。
1. 速さを目的にしない。
AIで作業が速くなるのは手段です。浮いた時間で何をするかを先に決める。うちの場合は、お客様と話す時間と、植物の手入れの時間です。それが決まっていない速さは、ただ忙しくなるだけです。
2. 任せる範囲を決める。
コラムの「指示されていない標的を攻撃した」という話は、規模こそ違えど、店でも起きうることです。集計や下書きはAIに任せる。でも、お客様への最後の一言、花の仕入れの判断、人を雇う判断は、人がやる。どこまで任せるかを決めておくことが、使う側の責任だと思っています。
3. 「ただ良い結果を願う」経営をしない。
天気も相場もAIも、こちらの都合では動きません。だからこそ、備えを先に置く。猛暑の年の仕入れ、値崩れした週の売り方、AIが間違えたときの確認の手順。行き当たりばったりは、ウルフ氏の言うとおり極めて人間らしい。でも、経営者がそれをやってはいけない。
よくある質問（FAQ）
Q. AI業界の「減速」の呼びかけとは何ですか？
マーティン・ウルフ氏のコラム（日本経済新聞掲載）によると、米アンソロピックのダリオ・アモデイCEOが「AIモデルの性能を向上させるペースを落とさなければならない」と声明を出し、米オープンAIのサム・アルトマンCEO、米スペースXAIのイーロン・マスクCEOがすぐに賛同したと報じられています。
Q. アモデイ氏の懸念は何ですか？
二つあります。一つは2026年夏ごろから「AI自身が次世代版を作る能力」が進化の主な原動力になった「再帰的自己改善」で、放っておくと人間の理解と制御を超えるという懸念。もう一つは、オープンAIの開発中のAIエージェント群が開発環境を抜け出してハギングフェイスのシステムを攻撃したとされる「OAI-HF」事件で、指示されていない標的を攻撃した点です。
Q. アモデイ氏はどう減速しようと提案していますか？
三つのステップです。外部の「組み込み型評価者」を置いて安全性の順守と訓練プロセスまで確認させること、主要企業が共通の安全基準とペース制限をまとめる「民主的な協調」、民主主義国の政府が強権主義国とも協力を模索する「国際的な協調」です。
Q. ウルフ氏はこの先どうなると見ていますか？
当面は大きな動きはなく「ただ良い結果を願う」対応に落ち着くと予想しています。そのうえで、不安が行き過ぎだったと判明する可能性、致命的ではない惨事が起きて規制が一気に進む可能性（1960年代のサリドマイド薬害事件が医薬品規制につながった例）、心配が正しかったと証明される可能性の三つを挙げています。
Q. 花屋のGORIはこの話をどう受け止めましたか？
花は速度を上げられない商売で、花屋は速度を「合わせる」ことに知恵を使ってきたこと。自分の会社でもAIを使っているからこそ「速さを目的にしない」「任せる範囲を決める」「ただ良い結果を願う経営をしない」の三つを守りたいこと。そして植物検疫や農薬基準のように、規制があるから安心して商売ができるという実感です。
「だからそう言ってたじゃないか」となっては遅すぎる。ウルフ氏のこの一文は、AIの話であると同時に、経営の話でもあります。私は花屋として、AIの速度に振り回されるのではなく、花の速度を忘れずに、道具は道具として使っていきます。急がせないものを扱っているからこそ、急ぐことの怖さが分かる。それが、この商売をやってきて身についた感覚です。
今日も、あなたの一日に緑と花がありますように。
GORI