このエピソードを読む
2018年9月23日 11:26
アルナさんは素晴らしい人だし、言っていることは物凄い正論なんだけど、なというか、俗物から見ればこれほど恐ろしい存在もないと思いました。こういう言葉でいいのかどうかわかりませんが、ロボットの正当性、ともちょっとつながるような気がするんですよね。偏見や先入観にとらわれることなく、常に最適解を追い求める。ただしそれは、非常に危険なことでもあるんですよね。例えば、ロボット、もしくはAIに、この荷物をA地点からB地点へ運べ。最短距離、最短時間でな、と命令した場合、ロボットはその命令を忠実に守り、A地点からB地点へと運ぶべき荷物をレールガンでブッ飛ばしてしまったりしかねないんです。間にある建物だのなんだのをすべて破壊しながら。だって、そんなことをしてはいけない、とは、まったく命令されなかったから。もちろんアルナさんがそんなことをするはずがありませんが、それにどこか似た危険性と、危険性と表裏一体の進化への可能性を強く感じました。
アルナさんは素晴らしい人だし、言っていることは物凄い正論なんだけど、なというか、俗物から見ればこれほど恐ろしい存在もないと思いました。
こういう言葉でいいのかどうかわかりませんが、ロボットの正当性、ともちょっとつながるような気がするんですよね。偏見や先入観にとらわれることなく、常に最適解を追い求める。
ただしそれは、非常に危険なことでもあるんですよね。例えば、ロボット、もしくはAIに、この荷物をA地点からB地点へ運べ。最短距離、最短時間でな、と命令した場合、ロボットはその命令を忠実に守り、A地点からB地点へと運ぶべき荷物をレールガンでブッ飛ばしてしまったりしかねないんです。間にある建物だのなんだのをすべて破壊しながら。だって、そんなことをしてはいけない、とは、まったく命令されなかったから。
もちろんアルナさんがそんなことをするはずがありませんが、それにどこか似た危険性と、危険性と表裏一体の進化への可能性を強く感じました。