AI関与時の人間の因果関係認識：自律性・悪用・不整合における責任帰属研究
要約
AI関連インシデントが頻発・深刻化する中、有害な結果における原因特定（因果選択）は責任確立の重要な第一歩となっている。本研究は、AIシステムが有害な結果に関与した際の一般人の因果責任認識を調査した実験研究である。研究では因果関係、非難、予見可能性、反実仮想的推論の判断を人間実験で検証した。主要な発見として、AIの自律性が中程度（人間が目標設定、AIが手段決定）または高い場合（AIが目標と手段を決定）、参加者はAIにより大きな因果責任を帰属させた。しかし低い自律性（人間が目標と手段を決定）では、時間的距離や両者の意図にもかかわらず人間により大きな責任を認めた。人間とAIの役割を入れ替えた場合でも、同じ行動を取っても一貫して人間により因果性を認める傾向があった。開発者は因果連鎖から離れていても高い因果性を認められ、人間ユーザーへの因果帰属を減少させた。AIを大規模言語モデルとエージェント的要素に分解すると、エージェント部分により因果性を認めた。
洞察・気づき
この研究は、AI時代における責任論の複雑さを浮き彫りにしている。人々は直感的に自律性の高いAIにより責任を認める一方、人間への偏見も根強く存在することが示された。特に開発者の責任が高く認められることは、AI開発企業の法的責任範囲に重要な示唆を与える。AIの構成要素を分解した際にエージェント部分により因果性を認めるという発見は、今後のAI設計において自律性レベルの調整が責任論に直接影響することを意味している。この研究は、AI関連事故における責任分担の法的枠組み構築や、社会的合意形成において重要な基礎データを提供している。また、AI開発・運用に関わる全ての関係者が、技術的実装だけでなく社会的認識も考慮した責任設計を行う必要性を示唆している。