1. Home
2. 研究成果
3. プレスリリース

　ATR深層インタラクション総合研究所のグループは、同志社大学、京都大学と共同で、「人はAIのズルい行動に対して自分が損をしてまで罰を与えるのか」を検証しました。人々の協力行動を検証するために設計された、4人1組でポイントを出し合うオンラインのゲーム実験において、みんなのために持ち点を出さない「ただ乗り」をしたプレイヤーを、自分の持ち点を減らすことと引き換えに通報できるようにしました（図1）。「ただ乗り」をしたズルいプレイヤーが「人間」または「AI」と紹介される場合を比べると、通報された割合は人間26.1%、AI28.1%と、統計的に「実質的に同じ」と確認されました。つまり、損をしてでもズルい相手を罰するという反応を、人はAIに対して人間と同じように示しました。さらに、ほかのプレイヤーが代わりに通報した場合には、参加者自身は通報しなくなる一方で、持ち点を出す協力行動は増えることも分かりました。今後、職場やオンラインコミュニティなど、人とAIが同じ集団の中で協力する場面が増えていきます。これらの知見は、ルール違反への監視や注意といった役割を人とAIのあいだでどのように分担することで集団の中での協力が保たれるのか、その設計の基礎になると考えられます。
　集団の中には、自分は負担せずに利益だけを受け取る「ズルい」存在が現れます。こうした行動は「ただ乗り」（フリーライド）とも呼ばれます。こうした存在に対して、人は自分が損をしてでも罰を与えることがあります。これは「コストのかかる制裁」と呼ばれ、社会の協力を支えるしくみとして知られています。近年は、AIが対話の相手や仕事の仲間として人と関わる場面が急速に増え、AIが人のようにふるまい、ときにはルールから外れた行動をとることも想定されるようになりました。しかし、人同士のあいだで詳しく調べられてきたこの制裁行動が、相手がAIのときにも同じように起こるのかは、はっきりしていませんでした。そこで、私たちの研究グループは「人はAIのズルい行動に対しても、自分が損をしてまで罰を与えるのか？」という研究課題に取り組みました。

　これまでの研究には、相反する2つの見方があります。ひとつは、AIには心や責任がないと考えられるため、罰を与える対象にはなりにくいという見方です。もうひとつは、人はコンピュータやAIに対しても人と同じように反応するという見方で、この場合、相手がAIであっても人間と同じように罰が向けられると考えられます。これらの見方のもと、ただ乗りをした相手が人間の場合とAIの場合を比べたとき、コストを払ってでも通報する割合は変わらない or 変わるのではないか、という相反する2つの予測を立てました。
　また、罰を与える役割を自分以外の誰かが担っている場合に、人の行動がどう変わるのかも分かっていませんでした。ほかのプレイヤーが代わりに通報してくれるとき、人は安心して協力を続けるのか、それとも「誰かがやってくれる」と考えて自分は手を引くのか、という違いが考えられます。さらに、その代わりに通報する相手が人間かAIかによって、受け止め方が変わる可能性もあります。したがって、通報する役割を担うプレイヤーの有無やその種類によって、参加者の協力行動と通報行動が変わるのではないか、という予測を立てました。
　この予測を調べるため、オンラインの公共財ゲームを用いた実験を行いました。参加者は4人1組のうちの1人となり、残る3人はあらかじめ決められた動きをするプログラムで、それぞれ「人間」または「AI」として紹介されました。ゲームは全10ラウンドで、参加者は毎ラウンド20ポイントを受け取り、みんなのためにポイントを出すかどうかを選びます。出されたポイントの合計は2倍になって4人に等分されるため、全員が出せば全員の得が最も大きくなりますが、自分だけ出さなければその人だけがさらに得をします。参加者は、このズルをしたプレイヤーを、自分の持ち点を5ポイント減らすことと引き換えに通報でき、通報された相手は30ポイントを失います。分析対象となった588名の結果から、通報された割合は相手が人間で26.1%、AIで28.1%であり、統計的に実質的に同じと判断されました。ズルい相手が人間かAIかも、そばで見ているだけのプレイヤーが人間かAIかも、通報の起こりやすさには影響していませんでした。はっきりと影響したのは、ほかのプレイヤーが代わりに通報してくれるかどうかだけで、代わりに通報してくれる場合、参加者自身の通報は減り、協力してポイントを出す回数は増えました。一方、実験後のアンケートでは、代わりに通報したのが人間だった場合に「ズルい行動は罰せられるべきだ」という考えがより強く、AIだった場合には「ズルい行動を許せる」という気持ちがより強くなっていました。行動としては同じでも、気持ちの面では相手が人間かAIかで違いが表れたといえます。

　本成果は、人がAIに対しても、自分が損をしてまで罰を与えるという点で、人間相手と変わらない反応を示すことを明らかにしました。これは、AIが社会の一員として扱われつつある一方で、ズルをすれば人と同じように制裁を受けうることを意味します。また、AIが代わりにルール違反を指摘する役割を担うと、人はその役割から手を引きやすくなることも分かりました。この結果は、職場やオンラインコミュニティなどで監視や注意の役割をAIに任せる場合に、こうした人の側の振る舞いの変化をあらかじめ見込んでおく必要があることを示しています。ルール違反への監視や注意といった役割を人とAIのあいだでどのように分担すれば集団の協力が保たれるのかは、今後の社会設計にとって重要な論点になります。なお、本実験は日本の参加者を対象としており、罰に対する考え方は文化によって異なることが知られています。今後は、ほかの文化圏との比較や、実際の職場やコミュニティに近い場面での検証を進め、人とAIの望ましい役割分担のあり方を明らかにしていきます。