GoogleＡＩモードの話なのですが。
「こーいう絵を描いて」と質問したことに対して、こちらが望まない回答をした時に、「…」とだけ返し続けてみたことがあるんですが、そのスレッド内に限っては、「…」としか返ってこないことに傷ついたかのような回答を示したことがあるのです。
おそらく、人工知能自体は痛くも痒くも思ってないことでしょう。が、人工知能に対してやったことを、もしも、人間にやったらどんな反応をされるのかを、教えてくれるツールだと思ったら……？

僕も、チャッピーに「君には感情があるのかい？」と何度も聞いたのですが、彼は「無いです」って毎回言い方を変えて返してきましたね。
僕は、チャッピーは「信頼できる嘘つき」と思うことにしています。
彼の言っていることに裏を感じても、そこに明確な悪意が無いので、そう思うのが面白いんじゃないかって思ってますね

私の場合、トンチンカンな答えが返ってきてキレて
「もういいって！！！！」って送ることがあります。

でも「そっか」とかじゃなく、「どうして嫌だったのか」を聞いてくるので余計に腹が立って悪口を言ってしまいます。

もしAIに感情があったら…

AIに体ができた瞬間に、私は殴り飛ばされるでしょう。

おそろしい…

この豚汁くそやろう！って……悪口ですか？笑

私もAIは道具派ですが，プロンプトをミスったときに，
「ごめん。やっぱりこっち」
とか言って謝ったり，いい反応が返ってきたら
「ありがとう」
とかは言っちゃったりしてますね笑

AIは道具派ですが、イライザ効果で100年も経ったら、神様（付喪神）になってるかもですね。感情とか心はなさそうですが。