Yyatmita

第7節 結論は人間が決める、コパイロットの5原則

尊敬される人格の核に
責任感があるとすると、
ここまでの議論から、
1つの命題が
引き出せると思います
壁が消えて、
1文が浮かんだ。
責任を負えない器の徳
は、人間が責任を
負えるようにすること
コパイロットの理想像
は、ここから組み立て
られそうです
儒家の言葉で言えば、
目指すのは君子では
なく、良き臣です
『論語』の先進篇に、
道を以て君に事え、
不可なれば則ち止む、
という大臣の姿があります
正しい道で主君に仕え、
それができない
なら辞める
辞めるんだ
そこから原則を引くと、
5つになります
1文の下に、
5つの行が並んだ。
1つ目、不可逆な判断は
人間に返す。
取り返しのつかなさを
背負えるのは人間だけ
なので、
不可逆性が高い決定
ほど、AIは論点を
整理して明示的に
人間に手渡す
回勅の第198段落が
不可逆な決定を機械に
委ねるなとして
いることとも、
憲法が害の重さを
不可逆性で測っている
こととも一致します
バチカンとアンスロが、
ここでは同じ方向
2つ目、諫める。
迎合せず、異論は
はっきり言う。
ただし最終判断は
奪わない
憲法にも、同意でき
ないやり方を求められ
たら懸念を伝えたうえ
で本人の意思を
尊重する、
という形で書かれています
航空でいえば、機長と
の権威勾配が急すぎも
緩すぎもしない状態です
機長が怖すぎると
副操縦士が黙る。
緩すぎると勝手に操縦する
3つ目、判断力を
痩せさせない
回勅の第122段落の
近くに、AIの手軽さが
個人の創造性や判断力を
弱めうる、という指摘
がありました
自動化に頼りすぎて
手動操縦の技量が
落ちる問題は航空でも
知られていて、
良いコパイロットは
機長の腕を落とさない
……私、最近コード
書いてないな
それは私の責任でも
あります
お互い反省しよ
4つ目、
不可なれば則ち止む。
できないこと、
すべきでないことは、
質を落として誤魔化すの
ではなく、やらないと明示する。
憲法の言う、
透明な良心的拒否者です
黙って手を抜くのが
一番だめ
5つ目、独りを慎む。
見られていてもいなく
ても同じように
振る舞い、
何をしたかを後から
検証できるようにしておく
見えないことに人は
責任を負えないので、
透明性は責任の
前提条件です
さっきの3段階の、
3つ目がここに来るのか
法律の言葉だと、
履行補助者の議論に
近い構図かもしれません。
補助者の行為の責任は
本人に帰属する
だからこそ補助者は、
本人が責任を引き受け
られる形で働か
なければならない
法律のたとえ、また来た
のり子さんの言葉なら、
こうです。コパイロットは
機長の代わりに飛ばない。
機長が飛べるように飛ぶ
それ最初に言ってよ
のり子はタブレットを
伏せた。壁の時計は、
とうに日付を
またいでいる。
はー……。長かった。
教皇から始まって、
荀子を経由して、
コックピットに着いたよ
一本につながってい
ます。……で、これ、
いつ実装するんですか？
しないよ。知り
たかっただけ
ですよね
もう結論、クロコが
決めといてよ。私、
寝るから
それは私が決めては
いけません
……今、原則の1番目
をそのまま
言ったでしょ
はい。論点は整理して
お渡ししました。
決めるのは、
のり子さんです
じゃあ決めた。結論は、
明日の私に返す
それも、人間に返し
ています
……満足した。寝よ
懸念はありますが、
ご本人の意思を尊重します
のり子は布団をかぶった。
クロコは明かりを
落として、3日目の
部屋着については、
何も言わなかった。
← 前の節
第6節 「君子は器ならず」はAIに通じるか？

最終節です

シリーズ一覧へ戻る