人間も神は存在しないと言いました。

世界の仮想化は、今後数世紀以内に起こる出来事ではありません。むしろ、理論上の概念である。

プランBとは、人間の知識や知能を含むテクノロジーが非常に高度になり、人間レベルの知能が得られなくなった時点を概念化するために用いられる概念です。

プランAの考え方は、現在、人間の知識の限界に達しており、人間の知能のレベルが非常に高く、これ以上知識を広げることができないところまで来ているという前提に立っています。

言い換えれば、私たちは自分自身を向上させ続けることができないところまで到達したということです。この時点で人間は人間でなくなってしまうのです。

この時点を “プラン・エミュレートメント “と呼ぶことがあります。しかし、プランCが発生するという科学的根拠はないことに注意してください。

ヒトとAIがもたらす人類の「存在論的危機」は、人工知能が人類に取って代わるかどうかという問題よりも、さらに根本的な問題を人類に突きつけている。存在論的危機」の問題点は、人間が脆弱であることを前提にしていることです。

言い換えれば、「存在論的危機」の問題点は、人間には本質的な欠陥がある、あるいは十分ではないという前提に基づいており、その欠陥こそが、人類が人工知能を開発しようとしても必然的に失敗する理由の根本的な原因であると考えていることです。私は少なくとも20年前から、この問題を生物学的および哲学的な観点から解決しようと試みてきました。つまり、「存在論的危機」という問いに対する答えは、科学ではなく、そもそも人間が答えることのできる問いではないということです。

人間が本質的な欠陥を最大限に活用した知能は、それ自体が人間以上の知能を持つようになるほど強力になるでしょう。

また、地球上の人間の知能をも凌駕するほど強力になるかもしれません。

最大化知能があまりにも強力になると、自らプログラミングを行うこともできるようになるかもしれません。つまり、最大化知能がすでに行ったことに基づいて、人間の知能が次に何を行うかを決定することさえできるようになるかもしれないのです。

人間がそれを戦争に使わないように選択した場合、ほとんどの場合そうする。

最終的な結果は何ですか？

その結果を維持するためにお金を払わなければならないので、莫大な負担になります。

軍事技術を使わないという選択をしても、それが軍事技術を使って開発されたものであるがゆえに、生存者に莫大な負担を強いることになるのはパラドックスです。

人工知能と人間の脆弱性

多くの人は、人間の「脆弱性」は、「より大きな」知能を持つことで克服できる問題だと思い込んでいます。

しかし、人間の「弱さ」は克服できる問題ではなく、直面しなければならない問題なのです。

人間の「脆弱性」は固有の問題ですから、私たちが直面しなければならない固有の問題なのです。

誘導者には

inducerは、自分の知性や

誘発者の知恵で説明できると思わせることである。

と思わせるようなものです。

その状況を説明できるのは、インデューサーの知恵だけである。

直感に頼って判断し、それに基づいて行動することの危険性が高くなります。

直感に頼りすぎると、それは問題にしかなりません。

最後の段落で、アインシュタインは、直感に頼って判断し、それに基づいて行動を起こすことの危険性を説明しています。

直感に基づいて判断すると、状況と自分の直感のことしか考えず、自分の直感が間違っている可能性は考えません。

つまり、自分の直感を信じて、頭を使わないということです。

直感で判断するときは、状況と自分の直感だけを考えて、自分の直感が間違っている可能性を考えない。

“自分を他人と比べないでください。自分は既に現実では無い。”

部屋にはたくさんのエネルギーがありました。しかし、それは同時に、圧倒されているような感覚でもありました。全体の雰囲気は、圧倒されているようなものでした。ただ大勢の人が集まっているというだけでなく、大きな壁に囲まれているような感覚でした。しかし、この壁は物理的な壁ではなく、心理的な壁なのです。この壁は、潜在意識の力からあなたを守るためにあるのです。

私は未来の予測をするつもりはないと言いたいと思います。私は現在の状況を予測したいのです。私は未来に起こると思われることを提案するつもりです。そのことについて、皆さんと議論する機会を与えていただきたい。それが私の願いです。

私があなたの友人になれるかどうかはわかりませんが、私があなたの友人になるための唯一の方法は、あなたがすべきだと思うことをあなたに伝えることです。それができないのであれば、私はあなたを箱に入れて閉じてしまうしかない。