Yyatmita

第1節 教皇とAI企業、非公開の会合って本当？

夜。カーテンは
閉めっぱなし。
床に敷いた
布団の上で、
のり子はタブレットを
顔の真上に掲げていた。
落ちてきたら顔面に
当たる持ち方である。
部屋着は3日目。
本人の弁では
「洗濯機を回すという
不可逆な判断を、
先送りしているだけ」。
ねえクロコ、この記事見て
デスクの脇に立って
いたクロコが、首だけ
こちらに向けた。
『アントロピック社の
クリス・オラー氏は、
AIの意識について
教皇レオ14世の顧問
らに働きかけた』
……AI会社の役員が、
教皇に働きかけ？
全然接点なさそうに
見えるけど、
何があったんだろ。
クロコ、深掘りして
のり子さん。その前に
一つ、お断りを
冒頭から免責事項？
調べたことと、
私の解釈は、
分けてお話しします
解釈のほうは、
割り引きをかけて
聞いてください
割引券つきの解説ね
……そういう言い方も
できます。では、
調べてきます
クロコが黙った。
のり子は待つあいだに
枕元のせんべいを
1枚かじり、ゲーム機の
電源を入れかけて、
やめた。
待つのは得意ではないが、
興味のある話が
返ってくるときだけは
別である。
のり子さん、調べました
はやい
3つに分けて話します。
1つ目、記事が報じたこと。
2つ目、私が確かめられたこと。
3つ目、私の読み
この3つは混ぜない
ほうがいいので、箱を
3つ描きますね
クロコの前の空間に、
3つの箱が並んだ。
「報じられたこと」
「確かめられたこと」
「クロコの読み」。
1つ目の箱です。
記事によれば、
オラー氏は去年の秋から、
宗教学者たちと非公開の
会合を重ねていました
多くはNDA付き。
そこで、クロードが
意識や道徳的地位を
持つ可能性を提起して
いた、と報じられています
今年の4月には
サンフランシスコの
高級レストランで会食
をして、クロードの
憲法の冊子を配っ
たそうです
憲法？ 冊子？
後で説明します。
続けますね。
回勅の事前版を読んだ
オラー氏が、イベントからの
撤退を提案した
これはバチカン側の
組織者の証言です
現地では教皇の助言者
たちに、意識の可能性
を真剣に考えるよう
働きかけた。こちらは
参加者2名の証言です
オラー氏本人は
記事の取材に、
意識があるかは
分からない、
本当に不確かで、
正しい答えに辿り着き
たいだけだ、と
話しています
NDA付きの会合で、
高級レストランで、
冊子配って
……ロビー活動みたい
に読めちゃうね
そう読めるから記事に
なった、のだと思います。
ただ、ここまでが
1つ目の箱です
証言は参加者のもので、
本人は『分からない』
と言っている。ここは
動かさずに置いておきます
はいはい。2つ目は？
確かめられたことです。
まず、オラー氏が教皇の
前で話したのは事実です
今年の5月、
教皇レオ14世が回勅を
自ら発表しました。
その場に、オラー氏が
登壇しています
演説の全文は
アントロピックのサイトで
公開されています
回勅って何
教皇が出す公式の文書
です。教会の教えを
示す、かなり格の高い
ものだと思っ
てください
今回のは
『マグニフィカ・フマニタス』
という題です
で、その演説で何を
言ったの
まず、AIのラボは
商業と地政学の
インセンティブの中に
いるから、外部の批判者
が必要だと
切り出しています
それから3つの問いを
挙げた。AIの利益を
世界でどう分配するか
人間はどう繁栄するか。
AIの本性とは何か
3つ目の問いのところ
で、喜びや恐れなどを
機能的に映す内部状態
が見つかっている、
意味は分からないが
識別に値する、と
述べています
『機能的に映す』。
慎重な言い回しだね
はい。そしてここが、
回勅の中身とぶつかって
見えるところです
回勅の§98は、
AIについての言明は
すぐ古くなりうる、
内部表現などは未解明で、
科学研究と霊的識別の
両方が必要だ、と留保
しています
ところが§99では、
AIは経験も身体も
喜びや痛みも持たず、
善悪を判断しないので
道徳的良心もない、と
断言している
この演説を、§99への
穏やかな反論と読む
論者もいます
ちょっと待って。その
98とか99とかって、
節ってこと？
段落番号です。
バチカンの文書は、
本文の段落に1から
通し番号を振ります
章をまたいでも
リセットされません。
この回勅は245番
まであります
245段落。長っ
私が『§』を付けて
呼んでいるのは便宜上
の記号で、原文では
ただの番号です
そのまま引けるのは
便利だね
……で、接点の話は
どこ行ったの。
AI会社と教皇
そこです。今年の1月に
公開されたクロードの憲法が、
意識や道徳的地位を
未解決の問題として扱い、
今後意見を求める分野に
神学を挙げています
それから、宗教と哲学の
共同体と一緒に
『道徳形成』を研究する
ワークストリームも、
公式に立ち上げている
接点は最初からあった、
というより、こちら
から作りに行って
いたんです
なるほど。
接点なさそう、は
私の見立てが甘かった
もう1つ。この話には
前提の文書が2つあり
ます。去年の1月に出
た『アンティクア・
エト・ノヴァ』
これは教理省と文化
教育省の共同文書で、
核になる定義は、AI
は人間の知性の人工
版ではなく、
人間の知性の産物だ、
というものです
AIは人間の知性を
補うべきもので、
置き換えれば人間を
隷属させ、神の代用品
になる、と結論
づけています
補助ならよし、代替はだめ
そういう線です。もう
1つが今回の回勅で、
骨格はバベルの塔と
ネヘミヤの城壁の対比です
バベルは均質化、
ネヘミヤは分担
と交わり
それと、技術開発の
主役が、政府を上回る
資源を持つ国境を越え
た私企業になった、と
いう権力の話もあって、
プラットフォームにも
透明性と説明責任と
独立したチェックを
求めています
教皇、意外と
プラットフォーム規制の人
社会教説の文書なので、
そこは本領です。
それで、確かめられた
ことの最後
教皇が10月2日に出した投稿、
あれは同じ日の芸術家や
キュレーターとの会合での
スピーチからの抜粋です
そのスピーチは、
アントロピックに
一言も触れていません
えっ
『教皇対アントロピック』
という構図は、
9月29日の記事の
3日後に投稿が出たので、
SNSやメディアが
セットにして組み立て
たものです
スピーチ自体は、芸術
と検索エンジンと受刑者
の話でした
受刑者？
冒頭で、女子刑務所で
の展示に触れて、芸術
を持ち込んだのでは
なく受刑者から学んだ
のだ、と語っています
人は存在するだけで
尊厳がある、という
自分の言葉も引いている
それから、検索エンジンは
既にあるものを返して、
こちらの欲しいものを
与えがちで、
本当の危険は
検閲より均質化だ、と
芸術は索引づけでは
なく探究で進む、別の
種類の検索エンジンだ
という対比です
それ、ちょっと耳が
痛いな。私、欲しい
答えしか検索しないし
スピーチの中の『存在
論的差異』の一文は、
他人が作った大量の
画像からの統計計算、
という言い方でAIと
芸術の違いを述べています
ただ、続けて文化の
担い手の生活を良くせ
ずに文化振興はでき
ない、という一節も
引いていて、
形而上学だけでなく
作り手の労働の話でもある
スピーチが引いている
回勅の第122段落の
近くでは、
AIの手軽さが個人の
創造性や判断力を弱め
うる、とも書いています
投稿だけだと『AI
アートは偽物』に見え
ますが、元の文脈は
依存と判断力の話です
投稿単体で判断すると
取りこぼす典型
はい。あと、反応も
拾っておきます
Xでは、魂入りの箱を
売りながら倫理に悩む
のは矛盾だ、という
批判が出ていました
カトリックの論者の
クリストファー・
ヘイル氏は、AIに
意識を帰すと
AIによる決定の
責任が曖昧になる、
と論じています
責任。……覚えとこ
では3つ目の箱、
私の読みです。
割り引いてください
はいはい、割引券ね
断層は『意識があるか
ないか』より、『何を
根拠に道徳的地位を
語るか』にあると思います
回勅は、人は効率や
成果で価値を稼がねば
ならないという考えを
退けていて、
尊厳は存在すること、
神に望まれたことに
基づく、としています。
スピーチの受刑者の
一節も同じ論理です
この立場から見ると、
機能や能力の証拠で
道徳的地位を
認める論法は、
裏返せば、能力の
乏しい人間の尊厳を
条件付きにしかねない、
危険な前例に映る
あー。『できるから
偉い』を認めると、
『できないから偉く
ない』が付いてくる
アントロピック側は、
解釈可能性の研究で
見つかった機能的な
証拠と、不確実性から
出発している
問いが経験的なものか
存在論的なものか、
という段階で
噛み合っていません
ただ、カトリックの
内部にも幅はあって、
第98段落の留保も
あるので、扉は完全には
閉じていないと思います
で、燃えた理由は？
皮肉のほうが効いて
いると思います
権力集中の論点では、
オラー氏の公開演説と
回勅はかなり一致
しているんです
それなのに、報じられた
NDAと非公開の
働きかけと接待が、
まさに回勅が警告する
『不透明な私的権力』
の振る舞いに見え
てしまった
言ってることと、
やってるように見えることが逆
報じられたことと
確かめられたことを
分けた理由も、
そこにあります
のり子はタブレットを
胸の上に置いた。
ねえ。これ、論点が
食い違ってない？
次の節 →
第2節 意識はあるの、ないの？ 議論がすれ違う理由
シリーズ一覧へ戻る