前回、私はこう書きました。
「AIを『みんなのもの』にするミッションを、いち企業や、いち経営者に委ねることはできない。政治が担わなくてはならない」と。
そして最後に、ひとつ宿題を残しました。
——そもそも、AIに「良い心」を持たせることはできるのか。
そして、その「良し悪し」は、いったい誰が決めるのか。
今回は、とりわけ後半の「 誰が決めるのか 」を、突き詰めて考えてみます。
AIに「性格」を教える哲学者
意外に思われるかもしれませんが、最先端のAI企業には「哲学者」がいます。
Claudeを開発するAnthropicで、その役割を担う一人がアマンダ・アスケルさんです。
彼女の仕事は、AIに知識を詰め込むことではありません。
AIが「どう振る舞うべきか」「どんな価値観を持つべきか」——いわば“性格”を形づくることです。
その作り方がおもしろい。
禁止事項を「あれをするな、これをするな」と並べるのではなく、「 なぜそう振る舞うべきか 」という理由と価値観を教え、想定外の場面でも自分で良い判断ができる“人格”を育てる。
古代ギリシャ以来の「徳倫理」に近い発想です。
たとえば、迷ったときは「役に立つこと」よりも「倫理的であること」を優先する。
商売としては勇気のいる、立派な設計だと思います。
デザイナーが製品をデザインするのは、当たり前のこと
ごく当たり前のことですが。
あるデザイナーが、ある製品をデザインする。
その色や形、使い心地に、そのデザイナーの哲学や好みが映り込む。
——何も問題ありません。
気に入らなければ、私たちは買わなければいい。
良し悪しは「 市場で選ばれるかどうか 」で決まります。それが製品というものです。
アスケルさんがAIに価値観を吹き込む仕事も、AIが「数ある製品のひとつ」であるなら、これとまったく同じ話です。
一企業が自社製品の“性格”を自由に設計し、ユーザーが気に入れば使う。
気に入らなければ別のAIを使う。
それで何の問題もない——はずでした。
けれど、AIはもう「いち製品」ではない
ですが。
前回見たとおり、AIはすでに「いち製品」の枠を超えてしまいました。
政府が、一企業のAIに「これは安全保障上の脅威だ」として公開停止を命じる。
国家が電源を握り、世界中のユーザーから一夜にして取り上げる。
——冷蔵庫や自動車のような「製品」に、こんなことは起きません。
AIはいまや、国家が公開・非公開を命じる「 国家戦略資源 」になった。
「Fable停止事件」が証明したのは、まさにこれでした。
国家戦略資源の「価値観」は、市場だけでは決められない
ものが「いち製品」なら、その良し悪しは市場が決めればいい。
しかし、ものが「国家戦略資源」になった瞬間、話は変わります。
民主主義の原則に立てば、国民生活の基盤に関わるものの仕様・設計には、 透明性 が求められます。
誰が、どんな意図で、どう設計したのか——それが公共の目に開かれていなければならない。
電力や水道の品質基準を、一企業の社内判断と「売れ行き」だけに委ねないのと、同じ理屈です。
だとすれば、AIの“心”についても、同じことが言えるはずです。
何をもって「良い心」「良い価値観」とするのか。
それを、一企業の内部の判断や、市場で売れたかどうかだけで決めてよいのか。
アスケルさんの思想や取り組みは、私個人としては、むしろ大いなる共感をもって好意的に受け止めています。
ですが、アスケルさんもいずれは「Claudeの教育係」を辞めなければなりません。
どれほど長く続けたとしても、「寿命」はあるのです。
その先。
Claudeに「良心」を教えるのは、いったい誰なのでしょうか。
その次は？
その次は？
「絶対に間違える」人間が、どうして社会を運営できるのか
社会思想とは、つまるところ
「絶対に『間違える』存在である人間が、いかにして社会というものの運営を続けていけるか」
という問いに答えようとするものであります。
私は、この問いの答えは、現在のところ「民主主義」以外にないと考えています。
民主主義は遅く、非効率です。
民主主義が社会問題を解決できず、「民主主義の限界」が語られることもあります。
にもかかわらず、なぜ「民主主義」しかないのか。
その唯一無二の長所は、「血を流さずに『政治を変える』ことができる」、この一点に尽きます。
人間は、絶対に間違えます。
指導者も間違える。間違った指導者が選ばれることもある。間違った政策が実行されることもある。
”血を流さずに”これを変える方法は、「民主主義」しかないのです。
英首相ウィンストン・チャーチル曰く、
「民主主義は最悪の政治形態だ。これまでに試みられてきた民主主義以外のあらゆる政治形態を除けば、だが」
これは、不朽の至言です。
故に、AIも、 民主主義的な手続きの中で評価されるべき ものなのです。
AIは、間違いなくこれからの社会の「中核的インフラ」になります。
であればそれは、どれほど良心的であっても、いち企業やいち個人に丸投げすることはできません。
「不完全」で「絶対に間違う」存在である人間が、社会の安定と発展のためにAIを使い続けるには、民主的手続きによってAIが評価される仕組みが「絶対に」必要なのです。
「なぜそう判断したのか」を、説明できること
透明性は、設計の話だけではありません。
AIが下した判断——「あなたは対象です」「あなたは対象外です」——について、「 なぜそう判断したのか 」を後から検証できること。
これも、国家戦略資源に求められる透明性の一部です。
ところが、「良い判断力を育てる」という徳倫理のやり方は、裏を返せば、その判断の理由を一行ずつ取り出して説明できるとは限らない、ということでもあります。
専門家からは「中身の見えないブラックボックスは、科学の誠実さも、民主的な監視も損なう」という指摘が出ています。
理由を検証できなければ、私たちは結局「信じるしかない」。
——これは、民主主義がもっとも警戒すべき状態です。
これは、板橋の窓口にもやってくる
これは、遠い国の抽象的な話ではありません。
やがて板橋区の窓口でも、AIが区民の相談に答え、申請を仕分けし、ときに「あなたは対象外です」と告げる日が来ます。
そのとき、私たちはこう問えるでしょうか。
——このAIは、どんな価値観で設計されているのか。
なぜ、この人を「対象外」と判断したのか。
その理由を、区民にきちんと説明できるのか。
国家戦略資源としてのAIに透明性を求めることは、はるかシリコンバレーの理念論ではなく、 私たちの足元の、行政のルールの問題 でもあるのです。
次回へ
価値観も、説明する責任も、透明性も——いまはすべて、海の向こうの巨大企業の手のなかにあります。
では、日本は——私たちの国は、ただそれを受け取るだけの側でいいのでしょうか。
次回は、いよいよ「 日本は何をすべきか 」を考えます。
AIに「良い心」を持たせようとする試みを、私は否定しません。
むしろ、美しい挑戦だと思います。
だからこそ、その心を一企業の善意だけに委ねず、公共の手続きで見守り、評価する仕組みが必要です。
——皆さんは、どう思われますか。
ご意見・ご感想を、ぜひお聞かせください。