AI倫理のジレンマAI Ethics Dilemma

なぜ意見が割れるのか

三人の言い分は、それぞれ違うものさしから出ています。第一のものさしは結果の大きさです。全体で見て良いことが多くなるほうを選ぼうという考えです。数えやすく説得力がありますが、少数に集中した損害が合計の中に埋もれてしまう弱点があります。

第二のものさしは守るべき一線です。結果がどうであれ、越えてはいけないものがあるという考えです。人を手段としてだけ扱わない、同意なしに情報を使わないといった原則がここに入ります。揺らがない代わりに、一線どうしがぶつかると答えが行き詰まります。

第三のものさしは公平な分け前です。誰が得をし誰が負担を負うのか、いつも同じ側が後回しにされていないかを見ます。一度の選択では見えにくく、何度も積み重なった結果から現れます。多くの議論はどのものさしを先に置くかで分かれ、相手が悪意を持っているから分かれることはまれです。

その場で選ぶことと、あらかじめ書いておくこと

人がぶつかるジレンマは、たいていその場で判断されます。状況を見て、迷って、選んで、あとで後悔することもあります。判断が毎回少しずつ違うことは欠点とみなされません。

AIにはそれができません。何を優先するか前もって決めておかなければならず、決めておかなければ学習データに含まれた傾向のまま流れていきます。決めないことも、決めることになってしまいます。

あらかじめ書いておいた基準には良い点があります。何を選んだか外から見ることができ、問いただすことができ、直すことができます。その場の判断はあとで振り返りにくいですが、書いておいた方針は残ります。ジレンマを文章に移すことは不便に見えても、議論を可能にするほうなのです。

一度の選択が何百万回も繰り返される

人が百人、同じ状況を判断すると答えは散らばります。ある人はこちらへ、ある人はあちらへ傾き、その散らばりが一方向に偏るのを防いでくれます。

機械は違う動き方をします。一度決まった基準がすべての場合にそのまま適用されます。その基準が少し傾いていれば、その傾きが何百万回も同じように繰り返されます。一人の偏りは一人の出来事で終わりますが、システムの偏りは規模を持つようになります。

だからAIの倫理問題は「この選択は正しいか」だけでなく、「この選択をこの規模で繰り返してよいか」まで問うことになります。一度なら受け入れられる判断も、百万回繰り返されると別の話になります。

答えの代わりに決められること

何が正しいかに全員が同意するのは難しいです。それでも決められることがあります。この基準を誰が決めるか、決めるときに影響を受ける人が声を上げる場があるか、何を選んだか外に明らかにするか、です。

ここに二つ加わります。基準が間違っていたと分かったときにどんな手順で変えるか、そして基準でうまく扱えない例外をどこへ送るかです。ジレンマを完全になくすことはできませんが、選び間違えたときに戻れる道は作っておけます。