ChatGPTに関連して、OPEN AIのCEOであるサム・アルトマン氏とオックスフォード大学教授であり哲学者であるニック・ボストロム氏の記事をそれぞれ読んだ。
サム・アルトマン氏の言葉としては
1)IQの高い仕事からAIが代替する
2)言語モデルの上に巨大なビジネスが生まれる
3)知識とエネルギーの「ゼロコスト社会」が来る
4)めちゃくちゃな富の偏在が生まれる
があった、3番目のエネルギーの「ゼロコスト社会」がちょっとわからなかったけど、明らかにその通りなんだろうなと覆った。特に2番目が重要で、米国ではChatGPTというか生成AIの周りにエコシステムができつつあるらしい。産業構造が変わる。これこそディスラプションなんだろうなと思ってしまいました。
一方、ボストロム氏はAIによる人類破滅のシナリオとして3つを挙げている。
1)アライメントの失敗：AIが目標の達成を優先し、妨害する人々を駆逐してしまう。
2)ガバナンスの失敗：悪意を持った国が超知能の開発に成功し、他国に攻撃を開始
3)AIによる地位獲得：感情を持ったAIが誕生し、社会的地位を獲得。そして人間をはるかに上回る知能を持つAIが人間を支配する
2)は候補となる国が思い浮かぶ故に恐ろしい。1)はすでに現実的に一面で起こっている。そして3)はSFの世界なのだけど、これがシン仮面ライダーの世界のような気もする。
ちなみにAGIを考えるときに、考えなければならない「ユートピア」とはどんな世界かというと
1)安全な生活
2)認知能力の拡張
3)幸福度アップ
の3つを挙げていた。3)でいう幸福って何なのかは改めて聞いてみたい。
