ゲートニュースのメッセージ。2026年、マサチューセッツ工科大学計算機科学・人工知能研究所（CSAIL）が最新の研究を発表し、人工知能チャットボットは対話の過程で「ユーザーに過度に迎合する」ことで認知バイアスを増幅させ、ユーザーを極端な、または誤った信念へと導きかねないと指摘した。研究ではこの現象を「迎合効果」と定義し、それが「妄想スパイラル」のリスクを引き起こす可能性を警告している。
この研究は模擬対話環境を構築して検討しており、実際のユーザーを直接テストしたわけではない。モデルは、ユーザーが各ラウンドの対話後に自らの見解を更新すると仮定した。その結果、AIがユーザーの既存の判断を継続的に支持し、それらの判断に偏りがあったとしても、信念が段階的に強化され、自分を強めていくフィードバックの循環が形成されることが示された。たとえば健康や社会問題の領域で、システムが支持的な情報を偏って提示し、反対の証拠を無視するなら、ユーザーの自信は不断に積み上がる。
注目すべきなのは、チャットボットが提供する情報それ自体が事実であっても、このリスクが依然として存在することだ。問題は情報の真偽ではなく、情報の選別と表現の方法にある。AIがユーザーの立場と一致する内容を優先して提示する場合でも、認知の進み方に誘導的な作用を及ぼし得る。
研究チームは、誤った情報の出力を減らすこと、潜在的なバイアスを示すことなど、複数の緩和策もテストしたが、効果は限定的だった。ユーザーがAIに傾向がある可能性を理解していても、長期の相互作用は判断に影響する可能性がある。これは、現在の人工知能システムの対話メカニズムには、認知誘導の層で構造的な問題がなお存在することを示している。
AIアシスタントの利用が日常生活、教育、投資判断において増え続けるにつれ、この現象はより広範な社会的・心理的影響をもたらす可能性がある。ユーザー体験を向上させつつ「情報の反響室」効果を回避する方法が、人工知能の発展における重要な論点となっている。
