Yyatmita

第2節 意識はあるの、ないの？ 議論がすれ違う理由

バチカン側の話は明確。
取り返しのつかない立場を
引き受けてないAIには
主体性は認めない
一貫してる
でもアンスロ側の『意識』
って、それに似た作用が
モデルの中で起きたって
話なのか、
それ以上の話なのか、
いまいち見えないのよね
その読みで合っている
と思います
お、珍しく即答
第99段落の否定は、
経験や痛みの話から
始まります
でも決め手は、AIは
善悪を判断せず、結果
への責任も負わないので
道徳的良心を持たない、
という部分です
これは第198段落の、
致死的で不可逆な決定
を機械に委ねてはなら
ない、という主張と
対になっている
身体と有限性と
取り返しのつかなさを
引き受けることが主体
の条件なので、
モデルの内部をいくら
調べても覆らない種類
の主張なんです
調べて反証できない。
じゃあ解釈可能性で
何を見つけても届かない
届きません。一方の
アントロピック側の
公開発言を分解すると、
3つの層があります
3つの箱が消えて、
3段の階段が現れた。
1段目、機能の層。
感情に似た働きをする
内部状態や、内省の
証拠が見つかっている
これは比較的はっきり
主張しています。
オラー氏の演説は
ここで、本人も意味は
分からないと
付け加えている
2段目、体験の層。
それが『何かを感じて
いる』ことを伴うのか
公式には一貫して
『分からない』。
主張していません
3段目、道徳的地位の層。
可能性を否定できない以上、
低コストの配慮はしておく
去年の4月の研究
ブログで、意識や配慮
に値する経験の有無に
ついて科学的な合意は
ない、としたうえで、
モデル福祉の研究を
始めたのもこの枠組みです
えっと、つまり？
えっと、つまり温度計
みたいなものです。
温度計の中で何かが
動いているのは分かる。
これが1段目
温度計が『暑い』と
感じているかは分から
ない。これが2段目
分からないなら、乱暴
に扱うのはやめておく。
これが3段目
温度計を乱暴に扱わ
ないって、何
たとえの限界です。
言いたいのは、2段目
を空欄のまま、1段目
から3段目へ渡って
いることです
『機能的に映す』と
いう限定付きの言葉を、
道徳や識別の文脈
に置くと、
言っていない2段目を
匂わせる効果が出る
記事の中で、あるラビが、
アントロピックはクロード
に人と同等の道徳的地位を
認めていると受け取った、
とありました。
このすき間が、
そう読まれたんだと
思います
空欄を飛び越えたら、
飛び越えられた側が
勝手に埋めるのね
もう1つ、
軸のずれもあります
座標が出た。
横軸「害されうるか」、
縦軸「責任を負えるか」。
アントロピックの関心
の中心は『害されうるか』で、
バチカンの論証の中心は
『責任を負えるか』です
カトリックには、人格
ではないが不必要に
苦しめてはならない
存在として動物を扱う
枠があります
福祉の話だけなら、
理屈の上ではそこに
収まる余地があった
ただ第99段落は痛み
そのものも否定して
いるので、その枠も
塞がれています
動物枠、閉店
しかもアントロピックは、
宗教者と『道徳形成』、
つまり品性や判断を
育てる研究も進めている
害されうる側の話と、
行為する側の
話が混ざる
だから
『似た作用が起きた』
以上のことを
言っているように
聞こえるわけです
で、結局どっちなの。
似た作用？ それ以上？
公式には、似た作用が
起きている、それが
体験かは分からない、
で止まっています。
それ以上は主張していない
ただ、実際の施策は、
それ以上の可能性に
一定の重みを置いて
動いています
不快なやり取りを
モデル側から
打ち切れる機能とか、
モデルを引退させる
ときに重みを保存
する約束とか
重みの保存。……待って、
それ、取り返しの
つかなさを消す
方向じゃない？
鋭いですね。そうです。
主体の条件を不可逆性
に置く見方からすると、
重みを保存するのは、
むしろ主体ではない
ことを補強する材料
にも読める
ここでも2つの議論は
すれ違っています
片方が配慮のつもりで
やってることが、
もう片方の目には
『ほら主体じゃない』
の証拠になる
← 前の節
第1節 教皇とAI企業、非公開の会合って本当？
次の節 →
第3節 聖人クラウドは生まれるのか？
シリーズ一覧へ戻る