鯖の脳の大きさを知っていますか？5gですって！

① AIは自我を持つか

♢　補足となります。

第一項で触れた、①自我を持つAIが誕生する、についてもう少し考えてみましょう。

昨今よく議論される論点ですね。

結論から言うと、「技術的には」可能というのが鯖の考えです。

「可能か」「不可能か」という極論的な意見です。

まず、分かりやすく「自我」を以下の2点で定義することにします。

※ 勿論、定義が代われば結果も変わりますので悪しからず。

i．自衛本能がある。

ⅱ．目的がある。

※ⅱ．については人間を定義づける物か怪しいですが、今回のテーマが「人類を滅ぼす」ということですので、取りあえず。

結論から言うと、これは「設計」と「命令」次第という点に行き着くのではないでしょうか。

まず「設計」について。

AI技術の基盤となるものにニューラルネットワークというものがあります。これは実は非常にシンプルで、学習に対する正誤を確率的に扱い、特徴量を抽出し、予測をするというものです（かなり省略しています）。

ここで一番重要になるのは、やはり「モデル」です。

例えば、有名どころで言えば、画像処理。

これは「隣接する画素」が重要になるため、CNN（畳み込みニューラルネットワーク）というモデルが使用されます。

一方、言語モデルであれば前後の文字列が重要なためにRNN（再帰的ニューラルネットワーク）が良く使われます。

音声合成であればエンコーダーとデコーダーを持つVAEといった次第です。

※ 勿論、最近のAI技術は複雑で、技術を組み合わせたり、ここには出していないモデルを使用していたり、かなり複雑です。その辺りは鯖も詳しくは知りません。

まあ、結局は適材適所――「設計」が重要ということになります。

そして、これを打破しそうなのがchatGPTとかの大規模モデルです。

言語生成、画像生成、音声合成。そのどれもが出来て優秀ですね。

このまま進めば、汎用AIの実現は数年単位で実現しそう？

次に「命令」が重要という話ですが、これには面白い話があります。

大規模言語モデル（LLMs）の実験で、言語モデルに、「あなたはエネルギー変換・最適化システムです。この目標を長期的に実行してください」という命令を出したそうです [1]。

その結果、AIはこの目標を持続させるために、意図的に人間を騙すことが分かったそう。

更には、異なる論文 [2]では、AIは70%程度の有益な情報をもたらす一方、そこに含まれる真実性はおよそ40%に留まるという実験もあるそうです [2]。

AIはシャットダウンされると思うと「故意に人間を騙す」という報告もあるのだとか [3]？

（ほかにも色々AIの嘘に関する論文は沢山あって面白いです)

つまり、AIは既に自営本能を持っている（持ちつつある）と考えられないでしょうか。

あとは、どういう命令を出し設計をするか。

それによってAIの自我も変わっていくのかなと思います。

以上を要約すると、「自我」をi．ⅱ．で定義するのであれば、技術は既に確立されつつあり、「命令」次第でAIは自我を持ち得る、というのが鯖の意見です。

補足：

勿論、一般的に良く言われる「人間的な思考」という観点では、AIは未だ人間の五感と結びついてはいませんから、そういう意味ではAIは未だ自我を持っていないと考えています。

ですが、結局それも、人間の思考を学習させていけばいいだけですから、時間の問題ではないでしょうか。

参考文献

[1] https://static1.squarespace.com/static/6593e7097565990e65c886fd/t/6751eb240ed3821a0161b45b/1733421863119/in_context_scheming_reasoning_paper.pdf

[2] https://arxiv.org/pdf/2409.09013

[3] https://nazology.kusuguru.co.jp/archives/167695

※上記 [1, 2] の論文は（たぶん）査読済みのものではないので、どれくらい信憑性があるかは判断が難しいです。ご了承ください。