AI社長の時代、私たちは「責任」をどう引き受けるか？

近年、「AI社長」が少しつづ広がり始めています。
目下の使いどころとしては、「人間の経営者」との壁打ちがメインですが、今後は、データに基づいた高速かつ客観的な意思決定、24時間365日の稼働、そして人件費の削減──。AIが経営の舵取りを担うことで、これまでの常識を覆すような効率と合理性がもたらされるかもしれません。

こうした革新的な潮流に対して、同時に私たちの心に浮かぶのは、もしAIが過ちを犯したとき、「誰が、いかにして責任を負うのか？」という根源的な問いではないでしょうか。

この問いを深く考えるために、哲学者の國分功一郎氏が提示する「中動態」という概念、そしてそこから導かれる「責任」への新たな視点が、私たちに大きな示唆を与えてくれます。

能動でも受動でもない「中動態」の世界

國分功一郎氏の主著の一つである『中動態の世界』は、私たちが当たり前のように使っている「能動」と「受動」という二項対立的な思考に一石を投じます。例えば、「ドアを開ける」は能動、「ドアが開けられる」は受動。しかし、國分氏は古代ギリシャ語の動詞のあり方などを分析し、その間に存在する「中動態」という第三の態があったことを指摘します。

國分氏は、中動態を次のように説明します。

「能動態では、動詞が表現する動作が主語の外で終わり、受動態では動詞が表現する動作が主語に帰ってくるのに対し、中動態では、主語が動詞が表現する動作の場である。」 （『中動態の世界』ちくま学芸文庫、21頁）

これはどういうことでしょうか？ 簡単に言えば、能動態は主語が「自分からする」、受動態は主語が「他者からされる」。これに対し、中動態は主語が「自分自身において、ある事態が生成する」ような状態を指します。行為が主体から完全に独立して発するわけでもなく、かといって外部からの強制でもない、ある種の「出来事」として立ち現れるあり方です。國分氏はこれを、「自分自身において、ある事態が生成する」と表現します。

AI社長の「意思決定」は中動態的である

この中動態の概念を、AI社長の「意思決定」に当てはめてみましょう。

AIは、私たち人間のように「意図」や「感情」を持って判断を下すわけではありません。膨大なデータと複雑なアルゴリズムに基づき、学習したパターンの中から「最も適切」と判断される解を導き出します。それは、AI自身が「よし、こうしよう！」と能動的に決めるというよりは、与えられた情報とロジックに従って「そうならざるを得ない」結果として、ある判断が「生成する」というプロセスに近いのではないでしょうか。

國分氏が指摘する動詞「作る」の例が示唆的です。

「『作る』という動詞を例にとってみよう。（中略）人間の場合、何かを作る場合、そこには「意図」がある。しかしいったんものができてしまえば、そのものは独立し、人間はその「意図」から解放される。」 （『中動態の世界』ちくま学芸文庫、139頁を参考に再構成）

AIが「意思決定」という結果を「作る」際、そこには人間が組み込んだアルゴリズムという「意図」はありますが、一度システムが稼働し始めれば、その判断プロセスはAI内部で完結し、ある種の自律性を持って結果が「生成」されます。この生成のプロセスは、完全に能動的とは言えず、かといって受動的に「何かをさせられている」わけでもない、まさに中動態的な性質を帯びていると言えるでしょう。

AIが下す判断は、人間がプログラムした「枠組み」の中で「自ずと生じる」出来事なのです。ここに、「責任の所在」を考える上での難しさがあります。

従来の「責任」論の限界：誰が「引き受ける」のか？

従来の「責任」の概念は、能動的な主体が明確に存在し、その主体が意図的に行った行為に対して責任を負う、というモデルに基づいていました。例えば、社長が意図的に不正を働けば、社長が責任を負う、という構図です。しかし、AI社長の場合、AI自体が倫理的な反省や結果を「引き受ける」能力を持たないため、このモデルは機能しません。

國分氏は、「責任」という言葉を考察する中で、ある事態が「起きてしまった」時に、その事態に「引き受けざるを得ない」形で責任が事後的に立ち現れる側面があることを示唆しています。責任は、ある行為や結果に対して、主体が「引き受ける」という行為を通じて初めて成立する側面がある、と捉えることができるのです。

AI社長の時代に、もしAIの判断が原因で企業に損害が出たり、社会的な問題が生じたりした場合、その「出来事」に対して誰が、どのように「引き受ける」のでしょうか？

AI社長における「責任の引き受け手」の多層性

1. AIの開発者：システムの「制作者」としての責任
   AIシステムの基盤を設計し、アルゴリズムを構築した開発者は、AIの判断ロジックに潜在的な欠陥や偏り（バイアス）があった場合に、その結果を「引き受ける」立場に立たされます。國分氏の言葉を借りれば、彼らはAIという「ものができる」過程に関与した者として、その生成物が引き起こした事態に対して、何らかの形で責任を負わざるを得ないでしょう。

2. AIの運用者（企業経営者・取締役会）最終的な「意思決定者」としての責任
   AI社長を企業に導入し、その判断を実際の経営に適用することを決定したのは、あくまで人間である企業経営者や取締役会です。彼らはAIの判断を最終的に承認し、その結果を社会に対して「引き受ける」主体となります。

   國分氏は、現代社会において、多くの「主体」が「意志」を持たずして活動するようになってきている状況を指摘します。そして、このような状況で責任を考えることの難しさを示唆しています。

   AI社長は、ある種の「制度」として機能します。AIの判断を「鵜呑み」にするのではなく、その判断の妥当性を検証し、必要に応じて人間の介入や修正を行うことが、運用者としての責任の「引き受け」につながります。運用者は、AIというツールを「用いる」ことで発生した事態に対し、社会的な責任を負わざるを得ないのです。

3. 社会と法：新たな枠組みによる「責任の再構築」
   最終的に、AIという新たな存在が引き起こす事態に対する「責任の引き受け手」を、社会全体で合意し、法的な枠組みとして明確化していく必要があります。自動運転車における事故の責任論と同様に、AI社長の決定による企業の損害や社会的な影響に対して、どのような形で責任を分配し、「引き受ける」べきかを定める法律やガイドラインが求められます。

   國分氏の「中動態」の視点は、責任が単一の能動的主体から発するものではなく、ある「出来事」の生成に複数の要素が関与し、その結果を事後的に多様なアクターが「引き受ける」ことで責任が立ち現れる可能性を示唆します。

AI社長との共存へ：問われる人間の「引き受ける力」

AI社長の登場は、私たちに「責任とは何か」という根源的な問いを突きつけます。AIの意思決定は、ある意味で中動態的な「出来事」として生じ、その結果に対する「責任」は、関与する複数のアクターがそれぞれの立場から、発生した事態を「引き受けざるを得ない」形で成立すると考えられます。

これは、責任が単一の主体に集約されるのではなく、開発者、運用者、そして社会全体に分散し、再構築されていくことを意味します。

AIが高度化すればするほど、その判断プロセスは複雑になり、「なぜその結論に至ったのか」がブラックボックス化する可能性もあります。その結果、私たちはAIの判断に全幅の信頼を置くだけでなく、社会に与える影響を予測し、問題が発生した際には、人間として「引き受ける」覚悟と能力が問われることになります。

AI社長との共存は、単に技術の進歩を受け入れること以上の意味を持ちます。それは、人間が自らの「責任」のあり方を再定義し、新たな時代における倫理的、法的、そして社会的な枠組みを構築していくプロセスなのです。

AIはあくまでツールであり、その結果に対する最終的な「引き受け手」は私たち人間でなければなりません。AI社長がもたらす恩恵を享受しつつ、同時にその潜在的なリスクに対する「責任を負う」覚悟を持つことこそが、AI時代を賢く生き抜くための鍵となるでしょう。