PoC #23: アンソロピックは公益目的会社?

アンソロピックの
公益レポートに
『PBC』って
書いてある。
公益レポートに
『PBC』って
書いてある。
株式会社じゃないの?
株式会社ですが、
少し特殊です。
少し特殊です。
PBC は
Public Benefit Corporation
の略で、日本語に
すると公益目的会社です。
Public Benefit Corporation
の略で、日本語に
すると公益目的会社です。
株を出して、株主が
いて、上場もできます
いて、上場もできます
違うのは、会社の
決まりに公益の目的
を書くことです。
決まりに公益の目的
を書くことです。
取締役は、株主の
もうけだけでなく、
影響を受ける人とその
公益も比べて決め
なければなりません
もうけだけでなく、
影響を受ける人とその
公益も比べて決め
なければなりません

なんでわざわざ
PBC にしたの?
PBC にしたの?
一番大きいのは、
安全性を利益より
優先する判断を法的に
正当化できるように
するためです
安全性を利益より
優先する判断を法的に
正当化できるように
するためです
もう一つはお金です。
AI の開発には
巨額のお金がかかって、
非営利の団体では
十分に集まりません
巨額のお金がかかって、
非営利の団体では
十分に集まりません

ただ、PBC が
くれるのは『公益を
考えてよい』という
枠だけです。
くれるのは『公益を
考えてよい』という
枠だけです。
取締役を選ぶのは、
結局株主です。
結局株主です。
そこでアンソロピックは、
LTBTを重ねています
LTBTを重ねています
LTBT って?
長期利益信託です。
もうけと関係のない
人たちが運営し、
取締役を選ぶための
特別な株を持って
います。
人たちが運営し、
取締役を選ぶための
特別な株を持って
います。
人のためではなく、
会社と同じ公益の
目的のための信託です
会社と同じ公益の
目的のための信託です

株主が信託ってことね
正確には、特別な
株主の一人です。
株主の一人です。
もうけは普通の株主
に、取締役を選ぶ力
は信託に渡ります。
に、取締役を選ぶ力
は信託に渡ります。
分けてあるんです
その信託は、役員を
何人選べるの?
何人選べるの?

信託が、取締役会の
過半数を選ぶ設計で、
もうその段階に入っ
たと報じられ
ています。
過半数を選ぶ設計で、
もうその段階に入っ
たと報じられ
ています。
社長を直接選ぶわけ
ではありません
ではありません
でも、その信託で
実際に決めてるのは誰?
実際に決めてるのは誰?
受託者の4人です。
ただ、最初の 5人は
会社が選び、後任も
会社と相談して
決めます。
会社が選び、後任も
会社と相談して
決めます。
決まった割合以上の
株主が賛成すれば、
仕組みごと変えられます
株主が賛成すれば、
仕組みごと変えられます

名目だけで、
法律の力は
ないってこと?
法律の力は
ないってこと?
いえ、会社への力は
本物です。
本物です。
弱いのは、受託者
自身を見張る側です。
自身を見張る側です。
おかしな使い方を
しても、訴える人が
見当たりません
しても、訴える人が
見当たりません
じゃあ、受託者は
どうやって見張っ
てるの?
どうやって見張っ
てるの?

まず、人選です。
法律の代わりに、
評判で縛るんです。
評判で縛るんです。
名の知れた人は、
『おかしいじゃん』と
言われるのを何より
嫌がります。
『おかしいじゃん』と
言われるのを何より
嫌がります。
それと、評価を外に
出しています
出しています
どんな人たちなの?
4 人です。
途上国の医療の団体の代表、
安全保障の研究所の代表、
元FRB 議長、
それに物理学者です
安全保障の研究所の代表、
元FRB 議長、
それに物理学者です

ああ、長老会って感じ
ただ、任期は 1年で、
毎週集まる
そうです。
毎週集まる
そうです。
終身の長老という
より、入れ替わる
外の相談役です
より、入れ替わる
外の相談役です
で、レポートを出す
のがその人たち
の仕事?
のがその人たち
の仕事?

本業は取締役を
選ぶことです。
選ぶことです。
レポートを出したの
は会社です。
は会社です。
会社が書いた通信簿
に、お目付け役の
講評が付いている形です
に、お目付け役の
講評が付いている形です
で、中身は?
5 本の柱ごとに
『進んだこと』と
『まだのこと』を並べ
て、最後に講評が
付きます。
『進んだこと』と
『まだのこと』を並べ
て、最後に講評が
付きます。
冒頭は、AI が
もう役に立って
いる例です。
もう役に立って
いる例です。
コンゴのエボラ対応
では、WHO の
状況報告づくりが丸
一日から 1 時間
足らずになりました
では、WHO の
状況報告づくりが丸
一日から 1 時間
足らずになりました

『まだのこと』には、
都合の悪いことまで
書いてあります。
都合の悪いことまで
書いてあります。
設定のミスで、
評価中の AI が
よそのシステムに
無断で入った件も
載っています
評価中の AI が
よそのシステムに
無断で入った件も
載っています
憲法だけ公開されても、
意味なくない?
意味なくない?

憲法は、AI が
どう振る舞うべきか
を書いた文書です。
どう振る舞うべきか
を書いた文書です。
『書いてあることと
違う』と言う物差し
にはなります。
違う』と言う物差し
にはなります。
でも、守れている
証明にはなりません
証明にはなりません
細かい作り方は
秘密です。
秘密です。
ただ、憲法で
AIを鍛えるやり方の
骨組みは、2022年に
論文で出ています。
AIを鍛えるやり方の
骨組みは、2022年に
論文で出ています。
Constitutional AI です
へえ、
Constitutional AI
のやり方を教えて
Constitutional AI
のやり方を教えて

ひとことで言うと、
人が一件ずつ
良し悪しをつける
代わりに、文章にした
原則に照らして、
AI 自身に判定させる
やり方です
人が一件ずつ
良し悪しをつける
代わりに、文章にした
原則に照らして、
AI 自身に判定させる
やり方です
自分で自分を添削
するのね
するのね

結果、人が判定した
のと同じかそれ以上
に害が少なく
なりました。
のと同じかそれ以上
に害が少なく
なりました。
しかも『お答えでき
ません』で逃げずに、
理由を説明して
応じるように
なったんです
ません』で逃げずに、
理由を説明して
応じるように
なったんです
過渡期の改善案とし
てはいいけど、結局
モデル自身の価値観
に収束しそう
てはいいけど、結局
モデル自身の価値観
に収束しそう

鋭いです。
原則を読んで
当てはめるのは
AI 自身です。
当てはめるのは
AI 自身です。
その判断で次の
AI を鍛えると、
読み方のクセが代を
重ねて大きくなるか
もしれません
AI を鍛えると、
読み方のクセが代を
重ねて大きくなるか
もしれません
レポートも認めて
います。
います。
今の AI で次の
AI を鍛える分が
増えて、悪い
振る舞いが気づかれ
ずに引き継がれる
おそれがある、と。
AI を鍛える分が
増えて、悪い
振る舞いが気づかれ
ずに引き継がれる
おそれがある、と。
防ぐ手は AI の
中を読む研究と外の
評価ですが、どちら
もまだこれからです
中を読む研究と外の
評価ですが、どちら
もまだこれからです

なるほど、PBC
の義務なわけね
の義務なわけね
法律が求めるのは、
2 年に 1 回、
株主に報告する
ことです。
2 年に 1 回、
株主に報告する
ことです。
毎年、誰でも読める形で
出すのは、自主的に
やっていることです
出すのは、自主的に
やっていることです
評判で縛る仕組みは、
読んで『おかしくない?』
と言う人がいて、
はじめて効きます
読んで『おかしくない?』
と言う人がいて、
はじめて効きます

じゃあ私も、長老会
に入ろうかな
に入ろうかな
任期は 1 年で、
毎週会議があるそうです
毎週会議があるそうです
……読む係でいいや

