水谷一志のエッセイ「クラインの壷」

閑話 チューリング完全、停止性問題を中心としたコンピューターと強いAIに関して

1.　「数学的完全」に関して

チューリングによるチューリング完全、停止性問題に関する証明より、チューリング完全であっても解けない数学的問題が存在する。

またゲーデルの不完全性定理より、数学体系は「完全」であるとは言い難い。

また、拙著より、数学と論理学は「家族的類似」（ヴィトゲンシュタインによる）の関係である。

その際、数学における公理→推論→定理（証明の形式）において、「数学の公理」を用いれば数学に、「論理学の公理」を用いれば論理学の議論になる。

（参照）

閑話　数学における形式主義、また論理学と数学との関係性について - 水谷一志のエッセイ「クラインの壷」（水谷一志） - カクヨム (kakuyomu.jp)

上記より、「数学的に完全なコンピューター」でも解けない問題は存在する。

2.　強いAIに関して

ジョン・サールの提唱する「強いAI/弱いAI」の内の「強いAI」に関して、それを作成できる可能性は極めて低い。

なぜなら、「数学的に完全なコンピューター」でも解けない問題が存在し、その内、数学でない論理学の問題に関して、人間は解くことができるからである。

また、人間の持つ「感情」に関して、コンピューターで再現できる可能性は極めて低い。

なぜなら（少なくとも論理学において）「公理→推論→定理」と「証明の形式」を導く場合、「感情」を公理化して推論し、定理として「全ての感情」を導くのは極めて困難だからである。

さらに「数学的に完全なコンピューター」の場合は「感情」を「数学の公理」（数式等）として置かなければならず、このことはさらに困難である。

以上より、強いAIの実現は不可能である可能性が極めて高い。