りおパパの日記

徒然なるままに。ドトールのコーヒーが好きです。

AGI

本日も在宅勤務。予定通りにインプットに専念できた。ChatGPTの話が活況で、読みたい論文や記事が山のようにあって追い付かない。ただ、集中的に学習できたので、大まかなアウトラインはつかめてきたような気がする。やっぱりAGIからは目が離せない。おそらく本当の意味でのディスラプションが起こりそうな気がする。自分の年齢を考えるとおそらく逃げ切れるタイミングなのだけど、逆にそういうところをきちんと肌感覚として見届けたい気持ちもある。AGIができた時、人類はどういう働き方をしていくのか。本当に考えないといけない。

少しメモしておきたいこと。哲学者ニック・ボストロムの言葉。AIによる人類破滅の3つのシナリオ。
1)アライメントの失敗:AIが目標の達成を優先し、妨害する人を駆逐してしまうこと
2)ガバナンスの失敗:悪意を持った国が超知能の開発に成功し、他国に攻撃を開始

3)AIによる「地位獲得」:感情を持ったAIが誕生し社会的地位を獲得。そして人間をはるかに上回る知能を持つAIが人間を支配する。

3番目がSF的シナリオ。1は何を設定するかの問題で、まず1が頻発して、2や3のシナリオが起きうるのかなと予想する。ついでに、彼はユートピアの条件として

1)安全な生活

2)認知能力の拡張

3)幸福度アップ

を挙げているけど、シン仮面ライダーに通じるなと一人で思ってしまいました。