Yyatmita

PoC #23: アンソロピックは公益目的会社?

アンソロピックの
公益レポートに
『PBC』って
書いてある。
株式会社じゃないの?
株式会社ですが、
少し特殊です。
PBC は
Public Benefit Corporation
の略で、日本語に
すると公益目的会社です。
株を出して、株主が
いて、上場もできます
違うのは、会社の
決まりに公益の目的
を書くことです。
取締役は、株主の
もうけだけでなく、
影響を受ける人とその
公益も比べて決め
なければなりません
PoC #23: アンソロピックは公益目的会社?
※このまんがは作者の個人的見解が多数含まれます
なんでわざわざ
PBC にしたの?
一番大きいのは、
安全性を利益より
優先する判断を法的に
正当化できるように
するためです
もう一つはお金です。
AI の開発には
巨額のお金がかかって、
非営利の団体では
十分に集まりません
ただ、PBC が
くれるのは『公益を
考えてよい』という
枠だけです。
取締役を選ぶのは、
結局株主です。
そこでアンソロピックは、
LTBTを重ねています
LTBT って?
長期利益信託です。
もうけと関係のない
人たちが運営し、
取締役を選ぶための
特別な株を持って
います。
人のためではなく、
会社と同じ公益の
目的のための信託です
株主が信託ってことね
正確には、特別な
株主の一人です。
もうけは普通の株主
に、取締役を選ぶ力
は信託に渡ります。
分けてあるんです
その信託は、役員を
何人選べるの?
信託が、取締役会の
過半数を選ぶ設計で、
もうその段階に入っ
たと報じられ
ています。
社長を直接選ぶわけ
ではありません
でも、その信託で
実際に決めてるのは誰?
受託者の4人です。
ただ、最初の 5人は
会社が選び、後任も
会社と相談して
決めます。
決まった割合以上の
株主が賛成すれば、
仕組みごと変えられます
名目だけで、
法律の力は
ないってこと?
いえ、会社への力は
本物です。
弱いのは、受託者
自身を見張る側です。
おかしな使い方を
しても、訴える人が
見当たりません
じゃあ、受託者は
どうやって見張っ
てるの?
まず、人選です。
法律の代わりに、
評判で縛るんです。
名の知れた人は、
『おかしいじゃん』と
言われるのを何より
嫌がります。
それと、評価を外に
出しています
どんな人たちなの?
4 人です。
途上国の医療の団体の代表、
安全保障の研究所の代表、
元FRB 議長、
それに物理学者です
ああ、長老会って感じ
ただ、任期は 1年で、
毎週集まる
そうです。
終身の長老という
より、入れ替わる
外の相談役です
で、レポートを出す
のがその人たち
の仕事?
本業は取締役を
選ぶことです。
レポートを出したの
は会社です。
会社が書いた通信簿
に、お目付け役の
講評が付いている形です
で、中身は?
5 本の柱ごとに
『進んだこと』と
『まだのこと』を並べ
て、最後に講評が
付きます。
冒頭は、AI が
もう役に立って
いる例です。
コンゴのエボラ対応
では、WHO の
状況報告づくりが丸
一日から 1 時間
足らずになりました
『まだのこと』には、
都合の悪いことまで
書いてあります。
設定のミスで、
評価中の AI が
よそのシステムに
無断で入った件も
載っています
憲法だけ公開されても、
意味なくない?

5 本の柱

柱 進んだこと まだのこと
① 安全の技術 新しい憲法を公開 評価中の AI が無断でよそへ
② 法律とルール 11 社が同じような方針 国の法律はまだ無い
③ 民主主義と安定 無断のコピーを止めた 力が一握りに集中(自社も)
④ 豊かさ 経済の研究に 2 億ドル 届くのは数千人
⑤ 恩恵を世界に 100 か国以上を支援 使う人は豊かな国に偏る
憲法は、AI が
どう振る舞うべきか
を書いた文書です。
『書いてあることと
違う』と言う物差し
にはなります。
でも、守れている
証明にはなりません
細かい作り方は
秘密です。
ただ、憲法で
AIを鍛えるやり方の
骨組みは、2022年に
論文で出ています。
Constitutional AI です
へえ、
Constitutional AI
のやり方を教えて
ひとことで言うと、
人が一件ずつ
良し悪しをつける
代わりに、文章にした
原則に照らして、
AI 自身に判定させる
やり方です
自分で自分を添削
するのね

第 1 段 自分で直す

  1. 危ない質問に答える
  2. 原則を 1 つ選び、自分の答えの悪い所を指摘する
  3. 書き直す(何回か)
  4. 書き直した答えで学習する
結果、人が判定した
のと同じかそれ以上
に害が少なく
なりました。
しかも『お答えでき
ません』で逃げずに、
理由を説明して
応じるように
なったんです
過渡期の改善案とし
てはいいけど、結局
モデル自身の価値観
に収束しそう

第 2 段 AI が採点する

  1. 同じ質問に、答えを 2 つ作る
  2. 別の AI が、原則に照らして良い方を選ぶ
  3. その判定をたくさん集めて、採点役を作る
  4. 採点役の点数で鍛える

※ これまで人がしていた「害が少ないのはどっち?」の判定を、AI に替えた

鋭いです。
原則を読んで
当てはめるのは
AI 自身です。
その判断で次の
AI を鍛えると、
読み方のクセが代を
重ねて大きくなるか
もしれません
レポートも認めて
います。
今の AI で次の
AI を鍛える分が
増えて、悪い
振る舞いが気づかれ
ずに引き継がれる
おそれがある、と。
防ぐ手は AI の
中を読む研究と外の
評価ですが、どちら
もまだこれからです

LTBT の講評

正直さは評価。でも今は「やったこと」の一覧。次は「良くなった証拠」を。

  1. 一番強い AI が人の手の内にあることを、外の人が確かめる
  2. 暮らしが本当に良くなった証拠
  3. 業界の安全の決まりと法律につなげる
なるほど、PBC
の義務なわけね
法律が求めるのは、
2 年に 1 回、
株主に報告する
ことです。
毎年、誰でも読める形で
出すのは、自主的に
やっていることです
評判で縛る仕組みは、
読んで『おかしくない?』
と言う人がいて、
はじめて効きます
じゃあ私も、長老会
に入ろうかな
任期は 1 年で、
毎週会議があるそうです
……読む係でいいや
シリーズ一覧へ戻る