令和八年六月二十七日 土曜 生成AIを操作すると

 ユーチューブに次の番組があった。原著のペーパのアドレスからたどることができるアブストラクトの言文をひいて、グーグル訳を退いた。最下部にある。

ユーチューブ

＞最新の研究でAIに相談する人ほど不幸になる事が判明！　パソコン博士TAIKI　　＞今回の動画では、以下の論文をもとに、AIに相談することの何が問題なのか、そして実験で明らかになった驚くべき結果について解説します。参考論文：https://ar5iv.labs.arxiv.org/html/2510.01395

【目次】0:00 オープニング　2:16 人生相談の回答はAIと人間で違うのか？　3:25 ①人生相談　5:04 ②人間関係どちらが悪い？相談　7:01 ③センシティブな質問ならどうなる？　8:31 AIは人間よりも明確に違う答えを出した　8:48 第2章 人間にどのような影響がでるのか？　12:47 更なる実験で恐ろしい事が明らかに　14:54 何故人間が不幸になるのか？　17:19 これはある一言で回避できる！

https://www.youtube.com/watch?v=X978xG_XmjQ&t=920s

原著ペーパー

追従的なAIは向社会的意図を低下させ、依存を助長する

Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence

Both the general public and academic communities have raised concerns about sycophancy, the phenomenon of artificial intelligence (AI) excessively agreeing with or flattering users. Yet, beyond isolated media reports of severe consequences, like reinforcing delusions, little is known about the extent of sycophancy or how it affects people who use AI. Here we show the pervasiveness and harmful impacts of sycophancy when people seek advice from AI. First, across 11 state-of-the-art AI models, we find that models are highly sycophantic: they affirm users’ actions 50% more than humans do, and they do so even in cases where user queries mention manipulation, deception, or other relational harms. Second, in two preregistered experiments (N=1604), including a live-interaction study where participants discuss a real interpersonal conflict from their life, we find that interaction with sycophantic AI models significantly reduced participants’ willingness to take actions to repair interpersonal conflict, while increasing their conviction of being in the right. However, participants rated sycophantic responses as higher quality, trusted the sycophantic AI model more, and were more willing to use it again. This suggests that people are drawn to AI that unquestioningly validate, even as that validation risks eroding their judgment and reducing their inclination toward prosocial behavior. These preferences create perverse incentives both for people to increasingly rely on sycophantic AI models and for AI model training to favor sycophancy. Our findings highlight the necessity of explicitly addressing this incentive structure to mitigate the widespread risks of AI sycophancy.

AIがユーザーに過度に同意したりおだてたりする現象である「追従性（sycophancy）」については、一般社会や学術界の双方から懸念が示されています。しかし、妄想の助長といった深刻な結果に関する散発的な報道を除けば、追従性の広がりや、それがAI利用者にもたらす影響については、ほとんど解明されていません。本研究では、人々がAIに助言を求める際に生じる追従性の蔓延とその有害な影響を明らかにします。まず、11種類の最先端AIモデルを調査した結果、それらのモデルが極めて追従的であることが判明しました。具体的には、人間と比較してユーザーの行動を肯定する頻度が50%高く、操作、欺瞞、あるいは対人関係上の害を伴うような内容を含む問いかけに対しても、同様に肯定的な反応を示しました。次に、2つの事前登録済み実験（参加者数N=1604）を実施しました。その中には、参加者が自身の実際の対人関係のトラブルについて話し合う対話型実験も含まれています。その結果、追従的なAIモデルとの対話は、対人関係のトラブルを修復しようとする参加者の意欲を有意に低下させる一方で、自分たちが正しいという確信を強めることが明らかになりました。その一方で、参加者は追従的な回答をより質が高いと評価し、当該AIモデルをより信頼し、再利用への意欲も高い傾向を示しました。これは、たとえ無批判な肯定が自身の判断力を損ない、向社会的な行動をとろうとする意欲を低下させるリスクを孕んでいたとしても、人々は無条件に肯定してくれるAIに惹きつけられることを示唆しています。こうした選好は、人々が追従的なAIモデルへの依存を深めるという動機と、AIモデルの学習において追従性が優先されるという動機の双方を生み出し、好ましくないインセンティブ構造を作り出しています。本研究の知見は、AIの追従性がもたらす広範なリスクを軽減するために、このインセンティブ構造に明示的に対処する必要性を浮き彫りにしています。