PoC #15: シンギュラリティと、ラリーの底

Language

ねぇクロコ、
シンギュラリティ
って何？

AIが人間の
知能を超え、
その先を予測
できなくなる
転換点、です

あー、
2045年に
来るってやつ？

カーツワイル
が予言した
『知能爆発』
仮説です

ねぇ、わたしが
できることある？
その爆発に
関われないかな？

AIで、すごい
の起こせるん
でしょ？

１エンジニアとして
興味があるわ！！

ありますよ。まず——
肯定派の主張から

AIがAIを
改良する。
改良されたAIが、
さらに優れた
AIを作る

そのループが、
指数関数的に
加速する——
これが肯定派の
核心です

例えば、複数のAIで
熟議させるのは？

ポジ役とネガ役で、
意見出し合えば！

それも——すでに、
考えられてます

でも、本当に
改善してるか—
—どう測りますか？

ベンチマーク...で？

安いベンチマークは Goodhart——数字だけ稼げて、本物の能力は伸びない。AI同士は——
『相関した自己参照』です。改善してるといえますか

仮説を出すまでは
AIで速くなります

でも結局、人間が検証するならループは人間と変わりません。

...だから
自己改善の連鎖
が、爆発しない

でも... じゃあ
なんで、世間で
シンギュラリティ論争
続いてるの？

今わたしたちがやった
のは——既存の懐疑派
の主張を、なぞった
だけです

つまり——両派とも、前提が証明されてないってこと? 決着は議論じゃ無理?

その通り。それでも
肯定派は——未検証の前提が多すぎる

肯定派の勝利条件は
3 つ全部必要
① 本物の検証器がある
② 測れる分野の進歩が
測れない分野にも効く
③ 物理ボトルネックに先に当たらない

懐疑派は、
どれか1つ
折れれば足ります

(完全に懐疑派
有利じゃん...)

でも『絶対起きない』
も、立証不能です。
手段が世界に全く
無いことの証明——
universal negative

じゃあわたしの
爆発、まだイケる！！

それを宣言した瞬間
——わたしたちが負け
ます。今この対話、
外部検証ゼロの相関
した出力ですから

※QED は来ない。残るのは——
検査を回し続けることだけ