文化特有の健康誤情報検出におけるLLMの限界：インドの牛尿療法動画を事例に
要約
この研究は、グローバルサウス地域においてソーシャルメディアが健康情報の主要な情報源となっている現状を背景に、インドのYouTubeでの牛尿（gomutra）に関する議論を事例として、大規模言語モデル（LLM）が文化特有の健康誤情報を検出する際の系統的な限界を明らかにしている。研究者らは30の多言語トランスクリプトを対象にLLM支援による事後的談話分析を実施し、宣伝的なコンテンツが神聖な伝統的言語と疑似科学的主張を巧妙に組み合わせていることを発見した。興味深いことに、こうした手法は反論コンテンツでも同様に使用されており、主に西洋のコーパスで訓練されたLLMが理解困難な修辞的レジスターを形成している。GPT-4o、Gemini 2.5 Pro、DeepSeek-V3.1の3つのLLMを用いてプロンプトのトーンを変化させた実験では、文化に根ざした健康誤情報が通常の誤情報とは大きく異なる特徴を持つことが判明した。さらに、この文化的隠蔽化はジェンダー化された修辞やプロンプト設計にまで及び、分析の信頼性を複合的に低下させている。
洞察・気づき
この研究は、現在のLLM技術が抱える重要な盲点を浮き彫りにしている。西洋中心のデータで訓練されたAIシステムは、非西洋文化圏の複雑な言語的・文化的ニュアンスを理解することに根本的な限界があることが示されている。特に健康に関する誤情報の文脈では、伝統的な信念と現代的な疑似科学が融合した形で表現される場合、AIによる自動検出が極めて困難になることが明らかになった。これは単なる技術的課題を超えて、グローバルなAI開発における文化的多様性と包摂性の重要性を示している。プロンプトエンジニアリングだけでは解決できないこの問題は、AIシステムの訓練データの多様化、文化的コンテキストを理解するための新たなアーキテクチャの開発、そして地域の専門家との協働の必要性を示唆している。また、グローバルサウスにおけるデジタルヘルス情報の質を向上させるためには、技術的解決策と文化的理解を組み合わせた包括的なアプローチが不可欠であることを示している。