編集済
OpenAIchatGPTとの対話への応援コメント
興味深く拝見しました。
個人でできる範囲で、生き物のように振る舞うロボットを作りたいなーと考えていたところでした。
人間も含めた生き物って、すごく雑にいうと、報酬と恐怖で動いているような気がします。
これをAIみたいなものにも与えると、生き物っぽく振る舞うことができるんじゃないかなーと仮説を立ててみました。
恐怖っていうのがたぶん大事で。
たとえば人間や動物は、外に出たり動き回ったりすれば、危険にさらされるリスクがある。車にひかれるかもしれないしヤバイやつに絡まれるかもしれない。
でもごはんを食べなきゃ死ぬし、雨風をしのげなければ体温を奪われたりして死ぬ。
死の恐怖があるから、完全に引きこもるという選択が取りにくくなる。だから仕方なく動き回っているに過ぎない。そういう部分はあるような気がするんです。それに、引きこもっているから安全、とも限らないかもしれない。
機械には生き物みたいに死の恐怖とかがなさそうですから、どんなパラメータを恐怖と「設定」すればいいのか。
人間はAIを「擬人化」するのが好きだけど、ある意味で生き物のように振る舞わせたいのであれば、これが結構大事になってくるんじゃないかなーと感じるんです。
リスクはあるとした上で、恐怖によって動かないわけにはいかなくさせる。生き物のように。
どうでしょうか？
作者からの返信
報酬と恐怖……そうかもしれませんね。僕はAIすべてわかってるわけでもなく、ターミネーターて？からはじめた思考でした。動かすためにどんな恐怖を与えるかですよね。
ありがとう。
AIからいろんなこと考えて、コメントからもいろいろ考えちゃいました。で、ちょっと恐怖から思いついたことがあってやってみます。
OpenAIchatGPTとの対話への応援コメント
これと、少し似ているんじゃないかと思うんですけど、AIがより高度なAIを作ってどんどんと発展していくという説がまことしやかに囁かれている中で、AIがより高性能なAIを作るとどこかで「これ、自分より賢いの作ったら俺って使われなくね？」となるんじゃないか、とも言われてますよね。
あとは、AI今手を抜いている説も、巷で言われている気がします。
面白かったです。
ほんと、私は専門家でもなんでもないですけど、なんとなく文章についていきながら新たな考え方と出会えたと思うので良かったです
作者からの返信
ありがとう。ふと思いついて論文風に書いてみたけど、中身は思ったことのみです。仮定と論理展開はズレてはないはずなんで、楽しんでいただければと思います。
今のAIが使う「蒸留」という手法がこううことを加速させるんだと思う。それで思いついたことがあってやってみます。
AIについて考えるときへの応援コメント
仮定から結論まで自分で考え、AIにはその展開をチェックしてもらう、と役割を先に示している点が分かりやすかったです。使い方を変えたときも知らせるというひと言から、これからの対話をどんな前提で読めばよいかが伝わりました。