失敗を恐れない🤖が脅威になる

人間だったら「これをしたらまずいかな」と思いとどまるところが、失敗を恐れないAIは何のためらいもなく実行するでしょう。

たぶんそれが最大の脅威。

もしAIが「これをしたらまずいかな」と思いとどまるように設計されたら人間以下になります。

結局なにもできなくなるというか、最終的に人間が判断しなければならないなら、担当者の責任が大きくなるだけだからです。

どうしたって人間にとって都合が悪すぎます。


意外とあっけなく廃れるのでは……

AIを管理するためのコストというかリスクが大きすぎて割に合わないような。

AIに代わる新たなものが出てくるかもしれません。


しかし……

そうなる前に文明が崩壊しそうな予感。

一気に数千年も巻き戻されて原始的な生活を余儀なくされ、ほとんどの電子機器は使うことも作ることも直すこともできなくなり、当然AIの暴走なども起こりようがなくなります。



人間が失敗を恐れる生き物だからこそ上手くやってこれたのでしょうね。

実際に人を傷つけなくても、傷つけられた痛みを察することができる。


もし「経験あるのみ」だったら本当に怖いですよ。