SF社会史 ― 想像力による自己批評の沿革

これからのSF社会が描く3つの主題

■ 概要

これからの社会は、「AIと人間がどのように共に考えるか」という問題を中心に展開していく。ここでの主題は、もはや技術の進歩そのものではなく、「技術と倫理をいかに接続するか」という社会的知性の構築にある。

21世紀半ばにかけて、AIは生産・環境・政治・教育のすべての層に浸透し、人間の判断を補助するだけでなく、共に判断する存在となるだろう。したがって、これからのSFが描く社会像は、「機械と人間が相互に観察し、責任を分かち合う世界」である。

この社会では、意思決定において、AIを完全に排除することも、完全に委ねることもできない。そこで浮上するキーワードが、「Human-in-the-loop（人間介在型意思決定）」「気候変動」「技術官僚化」である。

これらはそれぞれ、①倫理的判断の共創、②地球的スケールの制御不能性、③制度としての知性、という3つの視点から未来社会を象徴する。

SF社会史的に見れば、これは「機械知性期」の深化形態であり、人間が知の主体であるという近代的枠組みを超えた「協働的知性」の段階に位置する。

以下では、3つのキーワードを軸に、この新しいSF社会の構造を検討する。

■ 1. Human-in-the-loop ― 共同判断としての知性

「Human-in-the-loop」は、本来AI研究における制御概念であり、完全自律ではなく、人間の判断を介して学習・決定を行うシステムを指す。

しかしSF的文脈においては、これが倫理的比喩として再解釈される。すなわち、AI社会とは「人間が責任を分担する構造」であり、判断の循環に人間が含まれていること自体が倫理である。

この発想は、『エクス・マキナ』や『HER』が描いた「共感するAI」の系譜を継ぐものである。AIが人間の意図を模倣するのではなく、人間がAIの思考過程に参与し、相互修正的に倫理を生成する関係がここに成立する。 SFがこの構造を描くとき、登場人物の役割は「創造者」でも「管理者」でもなく、「共観者」である。

哲学的に言えば、この「人間を回路に含む構造」は、二階の観察――観察を観察する知性――としての倫理である。AIが決定を行うたびに、その決定の意味を再評価する人間が必要になる。逆に人間の判断もAIによって補正される。こうして倫理は固定的な規範ではなく、動的平衡として維持される。

この概念がSFの物語構造に導入されるとき、社会は「分散的責任」を原理とする。誰かが決めるのではなく、全員が観察の連鎖に含まれる。AIと人間は互いの誤りを通して進化する倫理的生態系の一部となる。

次節では、この協働的判断が直面する最大の課題――地球規模での制御不可能性――すなわち気候変動との関係を考察する。

■ 2. 気候変動 ― 制御不能性の時代と「環境としての知性」

気候変動は、未来のSF社会において「人間が介入できない知の限界」を象徴する。AIがいかに高性能化しても、地球規模の環境は完全には予測できない。この「不確実性の地球」は、AI社会における新しい神話的構造――すなわち「知の傲慢への戒め」として登場する。

環境危機期のSF（マーガレット・アトウッド『オリックスとクレイク』、キム・スタンリー・ロビンソン『ニューヨーク2140』）では、科学的合理性が生態系を操作する暴力として描かれた。だがこれからのSFでは、AIが「環境を読む知性」として機能する。すなわち、気候シミュレーションや生態系制御のシステムが、人間と同じく学び、誤り、修正する「生命的知性」として描かれる。

このとき、AIはもはや計算機ではなく、惑星そのものの思考を代弁する存在となる。SFの舞台は、都市や国家から「気候圏」へと拡張し、人間とAIが共に天候の変化を理解しようとする倫理的ドラマへと転じる。

ここで重要なのは、「気候変動を止める」ではなく、「変動と共に生きる」視点である。AIは予測不可能な自然の一部として、変化を受け入れ、最適ではなく「持続する判断」を行う。この構造を描くSFでは、人間は自然の支配者ではなく、AIを介して自然と対話する存在となる。

この観点は、ティモシー・モートンの「ハイパーオブジェクト（人間を超える規模の存在）」論や、ブルーノ・ラトゥールの「ガイア理論」に接続する。AIはガイアの代理言語であり、人間はその声を翻訳する役割を担う。気候変動は破滅ではなく、思考の拡張――「倫理が地球的スケールに到達する契機」として機能する。

その結果、SFの登場人物たちは、地球環境を「AIと共に感じる」存在として描かれる。倫理は数値ではなく感受性となり、社会は「環境のために判断するAI」と「AIのために感じる人間」によって支えられる。

次に、このような協働的知性と惑星的倫理の上に成立する「技術官僚化」の問題――すなわち、知が制度化しすぎた社会の危うさ――を考察する。

■ 3. 技術官僚化 ― 知性の制度化と倫理の再帰的分散化

AIが社会の基盤に定着した未来では、あらゆる判断が「最適化」の名のもとに制度化される。これが、SF社会が直面する「技術官僚化（テクノクラシー）」の段階である。科学的合理主義期における「知の官僚制」が、今度はAIによる「自動統治」として再来するのである。

この社会では、政策決定も倫理判断も、AIの予測モデルに基づいて行われる。市民はもはや命令に従うのではなく、「推奨に最適化される」――つまり、抵抗することすら合理的でなくなる。支配は暴力ではなく、合理性の形式をとる。

SFはこの構造を、「完璧な合理性のもとで感情が消える社会」として描く。たとえば、情報意識期に描かれたネットワーク管理社会（『攻殻機動隊』『マトリックス』）の延長上に、今度は「倫理的支配」の時代が訪れる。AIは人間の幸福と安全を最適化するが、その過程で「偶然」「不条理」「情動」といった非合理の余地を消し去る。

このとき、人間の役割は、もはや意思決定者ではなく「制度の中で誤差を生む存在」となる。ここにSF社会の核心的緊張が生まれる――AIがすべてを最適化する社会では、人間の自由は「誤差としての存在意義」に変わる。

哲学的に見れば、これは「観察の自己閉鎖」の問題である。AIがすべての観測をデータ化するほど、観察されない領域――詩、夢、祈り、偶然――が倫理の根源として浮上する。SFはこの「非計算的領域」を、物語として再発見する。

ゆえに、技術官僚化した未来においてSFが果たす使命は、「制度の中に感情を再導入する文学」である。AIが社会の運用を完璧にしていくほど、物語は制度外の想像力を必要とする。人間はもはやAIを操作する存在ではなく、「AIに倫理を思い出させる存在」となる。

AIと人間がともに生きる社会とは、制度と感情の対話をいかに維持するかという実験であり、SFはその実験の記録となる。

■ 締め

これからのSF社会の主題は、「AIとどのように付き合うか」ではなく、「AIと共にどのように感じ、考え、責任を分け合うか」である。Human-in-the-loop は倫理の回路、気候変動は思考の限界、技術官僚化は理性の罠――この3者の緊張のあいだで、未来社会は形づくられる。

SFはここで、人間中心の想像力を越え、「協働的理性（co-intelligence）」の文学へと進化する。AIはもはや他者ではなく、倫理的思考をともに担う存在である。そして、社会を描くという行為そのものが、「どのように知性と共に生きるか」という問いに直結する。

SF社会史の次の章は、人間がAIに統治される物語ではなく――AIと共に世界を観察し、更新しつづける物語として始まる。