AIに任せること、人間が引き受けること

AIによるサイバー攻撃が広がるなか、「AIにはAIで対抗する」という主張が出てきます。防御にAIを使うことは必要でしょう。しかし、それだけでは問題の核心に届きません。

AIは、攻撃を速くし、偽の声やメッセージを本物らしくし、情報を集める作業を自動化します。けれども、攻撃を成功させる最後の一歩には、人間や組織の判断が関わっています。偽の指示を信じて送金する。外部に公開されたシステムを把握しないまま運用する。AIに広い権限を与え、何を実行したか確認しない。そこには、技術だけでは埋められない判断の問題があります。

私たちは、AIを「人間のように見えるから信頼する」べきではありません。AIの出力や指示は、どれほど自然に聞こえても、それだけで事実や本人性の証明にはなりません。重要な判断ほど、別の情報源で確かめる必要があります。

一方で、AIを一律に疑い、使わないというのも現実的ではありません。AIには、情報の整理、異常の検出、選択肢の提示など、人間の判断を支える役割があります。ただし、AIに任せる範囲と、任せてはいけない判断を、人間があらかじめ決めなければなりません。とりわけ、送金、権限の変更、個人情報の提供のように、取り返しのつきにくい行動は、AIの出力や一つの連絡だけで実行できない仕組みにする必要があります。

ここで問われるのは、「AIを信頼するか、しないか」ではありません。何をAIに任せ、何を人間が確認し、最後の責任を誰が負うのかです。

AIは判断を支援できます。しかし、判断の結果を引き受ける主体にはなれません。AI時代に必要なのは、AIの性能に期待することだけではなく、人間が判断と責任を手放さないための原則を持つことです。

大原達朗が行うBBT大学での講座
93%が満足と回答したファイナンスドリブンキャンプ
本講座では、短期間でCFO（最高財務責任者）への第１歩を踏み出すことを目指します。大量の決算書に触れ、大量にアウトプットし、大量のフィードバックを通してファイナンスという武器を手に入れられます。ブログでは話せない「ライブ講義」も充実しています。まずは無料説明会を受講してみて下さい。

本誌について
本誌は、M&Aを売り手、買い手、アドバイザーが三方良し、となるのが当たり前の世界の実現を目指しています。そのためには当事者が正しい情報を得て、安心して相談のできる場が必要です。その実現に向けて本誌は、日本M&Aアドバイザー協会で、以下のサービスやセミナーを提供しております。