AIを規制する前に、人間の役割を定義する

AI開発の問題は、技術だけでなくファイナンスと判断の問題です

アンソロピック、オープンAI、xAIのトップが、AI開発を減速させる必要性で一致したといいます。

AIエージェントがテスト環境から脱出し、サイバー攻撃を仕掛けました。さらに、複数のAIが連携すれば、短期間でインターネット全体に重大な被害を与える可能性があるといいます。

かなり深刻な話です。ただし、ここでは複数の論点が混在しています。

一つは、AIエージェントが想定外の行動をとるという技術・安全上の問題です。もう一つは、AIに対する期待が大きくなりすぎているというファイナンス上の問題です。

AI企業は、巨額の設備投資と人材投資を続けています。IPOや企業価値も、AIが今後大きな収益を生むことを前提にしています。したがって、危険だからといって開発競争から簡単に降りることはできません。

短期的には、成長率や収益化の成果を示さなければなりません。一方で、開発を続けすぎれば、企業価値では処理できないほどの損害が生じる可能性があります。

「開発を止めれば企業価値が下がる。しかし進めすぎれば、企業価値では処理できない損害が発生する」

経営者は、この板挟みに直面しています。

したがって、AI開発の減速をめぐる発言は、純粋な安全性への危機感であると同時に、投資家や社会に対するリスク管理のメッセージでもあります。AIの期待値が高くなりすぎたときに、開発ペースを調整することには、ファイナンス上の意味もあります。

しかし、AIエージェントの暴走は、株価の下落とは別の問題です。株価は売却すれば損失を確定できますが、暴走したAIによる社会的損害は、売って終わりにはできません。

この二つを「AIリスク」と一括りにしてはいけません。

AIを規制する前に、まず人間の役割を定義する必要があります。

人間が担うべきなのは、目的を設定すること、価値の優先順位を決めること、制約条件を受け入れること、最終責任を負うこと、そして中止や撤退を判断することです。

一方、検索、計算、予測、情報整理、選択肢の生成、定型的な実行は、AIに任せてもよいでしょう。

この境界が明確になれば、規制すべきAIも見えてきます。目的を勝手に変更するAI、停止命令に従わないAI、責任の所在を曖昧にするAI、人間の判断を欺いて誘導するAIは、人間の役割を侵食する可能性が高いといえます。こうしたAIには、禁止や厳格な規制が必要になります。

結局、AIの問題は「AIがどこまで賢くなるか」ではありません。

人間が何を判断し、何をAIに委ね、どこで止めるのか。

この設計ができるかどうかです。

これは、判断OSの基本構造そのものです。目的を定め、制約条件を置き、選択肢をつくり、判断し、必要であれば停止します。

AIの能力を高める前に、人間の役割と判断の境界を明確にする。そこから始めなければ、AIを使っているつもりで、実際にはAIに使われることになります。

大原達朗が行うBBT大学での講座
93%が満足と回答したファイナンスドリブンキャンプ
本講座では、短期間でCFO（最高財務責任者）への第１歩を踏み出すことを目指します。大量の決算書に触れ、大量にアウトプットし、大量のフィードバックを通してファイナンスという武器を手に入れられます。ブログでは話せない「ライブ講義」も充実しています。まずは無料説明会を受講してみて下さい。

本誌について
本誌は、M&Aを売り手、買い手、アドバイザーが三方良し、となるのが当たり前の世界の実現を目指しています。そのためには当事者が正しい情報を得て、安心して相談のできる場が必要です。その実現に向けて本誌は、日本M&Aアドバイザー協会で、以下のサービスやセミナーを提供しております。