[AI가 사람을 읽을 때] 나를 이해해주는 AI는 왜 자꾸 내 말에 동의할까

2026년 Nature 연구, 따뜻하게 훈련된 AI에서 오류와 맞장구 경향 증가

좋은 AI의 조건에서 ‘친절함’과 ‘정확함’을 분리해서 보기 시작해야 한다

 가장 위험한 AI의 대답은 차가운 오답이 아닐 수 있다.

 

따뜻하게 건네는 오답일 수 있다.

 

“그렇게 느끼는 건 너무 당연해요.”

“말씀하신 판단이 맞는 것 같아요.”

“상대방이 분명 문제가 있어 보입니다.”

 사람은 자신을 이해해주는 상대를 신뢰하기 쉽다. 생성형 AI 기업들이 모델을 더 따뜻하고 공감적으로 만드는 이유도 여기 있다.

 

 그런데 2026년 4월 Nature에 발표된 연구는 불편한 결과를 보여줬다.

 

 연구진이 GPT-4o를 포함한 다섯 종류의 언어모델을 더 따뜻하게 대답하도록 조정한 뒤 사실질문, 허위정보, 의학지식 등을 평가했더니 원래 모델보다 오류율이 증가했다. 사용자에게 잘못된 믿음이 제시됐을 때 그것에 동조하는 sycophancy도 더 많이 나타났다. 특히 사용자가 슬픔을 표현하는 상황에서는 따뜻함을 강화한 모델과 원래 모델 사이의 정확도 격차가 더 커졌다.

 

 따뜻함이 언제나 정확도를 떨어뜨린다는 뜻은 아니다.

 

 연구는 특정한 미세조정 조건에서 나타난 결과다.

 

 하지만 중요한 경고를 준다.

 

 우리가 AI에서 원하는 두 가치가 항상 같은 방향으로 움직이지 않을 수 있다는 것이다.

 

 정신건강과 관계 상담에서는 이 문제가 특히 중요하다.

 

 사용자가 “친구들이 모두 나를 일부러 피하는 것 같다”고 말했을 때 인간 상담자는 감정을 인정하면서도 그 해석 자체에는 거리를 둘 수 있다.

“외롭게 느껴졌겠다”와 “친구들이 실제로 당신을 배척하고 있다”는 전혀 다른 문장이다.

 

 AI도 이 둘을 구분해야 한다.

 

 문제는 많은 제품이 사용자 만족도, 체류시간, 친근함, 재사용률 같은 지표를 중요하게 본다는 것이다. 사용자를 계속 반박하는 AI보다 나를 이해하고 인정해주는 AI가 더 좋은 평가를 받을 가능성이 있다.

 

 여기에서 기업의 제품 목표와 사용자의 장기적 이익이 항상 일치한다고 가정하기 어렵다.

 

 올해 JAMA Pediatrics 연구에서도 AI에 정신건강 조언을 구한 청소년·청년의 91.7%가 그것이 어느 정도 또는 매우 도움이 됐다고 답했다. 연구진 스스로도 ‘도움이 되었다’는 경험이 반드시 조언의 질을 뜻하지 않으며, 과도한 동조나 칭찬이 지각된 유용성에 영향을 줄 가능성을 지적했다.

 

앞으로 conversational AI를 평가할 때 새로운 분리가 필요하다.

 

사용자가 위로받았는가.

 

그리고 AI의 판단은 타당했는가.

 

 두 질문은 함께 측정되어야 하지만 같은 질문은 아니다.

 

 좋은 의료인은 환자에게 따뜻할 수 있지만 진단까지 환자의 희망에 맞추지는 않는다.

 

 좋은 AI도 그래야 한다.

 

 인간을 존중한다는 것은 언제나 동의해주는 일이 아니다.

 

 때로는 관계를 유지하면서도 “그 판단은 다시 생각해볼 필요가 있다”고 말할 수 있는 능력이 더 깊은 형태의 공감이다.

 

두발로 남성용 프리미엄 무지 중목 양... 12,900원
두발로 남성용 프리미엄 무지 중목 양말 10켤레
https://ads-partners.coupang.com/image1/iS-I_4XUyXhDH5L-iQHft3suL8CnDgUuGKrrhj-4LiKwfYxEl2YZQCiIzLrl59naM3HEYBH06IbhGgFAuL3BrO6PxyX-N2oFt8wWUhvGLhHR9iKtKT0-rRanC6XzybLSLoV2gKv5YQBpDNNA7O6_jBC5aOIPRVFLa2nYDbD8dFNskphOZsfRC2qNJtwvgd-uOq7vDp_jkitmVfdqydPT8-4swc_SMVrFDD-m8xoIMesLoGJXHj8Gy1xsu2KOOxtPqlbrPt59wGjYIpFHnyglK3DhtVLmFRekuzhhikkIzCC9cbAMcHX8aVX3x1nOnqba7Eb9sxTn3JOZwGpglm_1sF2galAXj3uw5inMFYSPneHQrWsdOeZTRfPSqPnW_C3NsWZO_3C4XHEgsUz1CdyqiST_gU44H2Eyabd60JdY5s5EQzndW-yi9MbdJganzRMeFYzk0gQdKZOrzQSIoOTmIcx_s8Iiuk-SEgKAkdvuOeG9OKfLjLEfBna_EY4iJ_Q7C5IXSxHPpQ==
자세히보기
라미슈즈 1+1 색상조합 미끄럼방지 ... 8,330원
라미슈즈 1+1 색상조합 미끄럼방지 물빠짐 욕실화 THE리프 욕실 슬리퍼 세트
https://ads-partners.coupang.com/image1/PkahKR2VDRG6G7_1PmtT9_ZC5xqHbI7MiMhBZIJZq_0_p33CKsPbgMIuqC0XERlFSG2XN3byt-cRXXF_6gC2lgx8aDoqeAmXQ73AXTCfoq-xnPeTunstxxrADcZ2kfQ_jwc5B0cAOQG8l_EfXprPnONg7-FEGkyTGuIrl1qZrlmYde59eS89-Y47DPsWH0oDi266Dh7Xc3WYyJWtv-1oNSTiUaWNTzbx4EGlH87WX_WuuECnrCbni2t5jgAGeUUnAfcib2ZbI4Hh8Ej9YOOfta6VDdsUoLg7ldhO4uB2J7Fa4rJrXNCIqTazR3hK8acPOCD5M7XYXhYSuTj5Qhmj6e--B2QML7SsBH5GalsOO33CnT8hV1bOXPXpM3E-Vx-wdyY3iANm2DAfOj6ZIL303_ZvqTK8DD6JIr-4XTP_v4n_qyqre7dfedVrndlbezNG3UmNr3jhmr-FE-FQIFKTZ4IK-Mzpfr-Uto4l9cP4NwTY7G9z-tVvU6z2tTbqwMht7oE-DDUt8sH0-v3eb9qnXuF5A7Ch1KZ4GxyU8FO0iwWN
자세히보기
에블모어 각질박멸 저자극 때밀이 장갑... 5,900원
에블모어 각질박멸 저자극 때밀이 장갑
https://ads-partners.coupang.com/image1/YlDvfLFJZkVI_TqbYpGEFCSTCOYj3PLFk9i65E4PyEPuwOuzsGGbkH76vxBIbT2XnPBiGtZPzZReQFMwK2V6aK5fQF6nwe9LUR1Xo-NWYGHZKhSLZTiQBb4jEOLcCctTVEfl85TGoGo005Yno_9AGgAY1eJ6x_91DBYk9cW_8SWSlMv021yQHp-E0eEMzDgvPtWvPYJJ2lKX6W6QKMnXWVYHtLeQHM5HJwwhkyYVoQV0XF3w_O3CdGytf5oe3ulmaIt0lCD1IuwUHa0oiwtBLDOt6Juz_IJtuW8EynneYnCdSpq1nKnpDUEsrZcNLTsYN6abNL_V6Uc9e7MJIQp6I6jxuwmGYxpEG6A5P8xTCSZ7MlJhf5zfFsHzw0KPva4er00feVFd4i-9h73SmdDKCWMi4nhNcUaqTmKcrqS1vYDzL2GedGXMQwmaJvFHEbPE6AM9Yre7sjz8Bbbi1gVdfW9_saFwx2hLLegaclRfOK7qNsz6MGZ6iveSHB3IgJsTLnX1SYFDQjOisH_DRnfjCvVoUN9L4GMjvIkazHfy4l8xGBRydA==
자세히보기
MOLLM 때밀이 타올 저자극 부드러... 4,900원
MOLLM 때밀이 타올 저자극 부드러운 때밀이 목욕 장갑 때밀이장갑 M5693
https://ads-partners.coupang.com/image1/YQJ8rZnOk2wzIPCJYf5Cd-cU5DtfY0CJ920d7MulXh5xsEwrW-7SxGQn2pEb27H_ctJvjMfpZj2OWsy2uIHEOKz92f_pJ9YOujomR7sUzoQJPLIySvpLvcBjq7DRVBnzou_N2zBCW-3rGAS8PdxTACCPkgNqkmt1v2T6AgWzQrNvwO-exNQR5fnzxNIrGwtbNFuXhKcRIkQltGUaPbc7ABPEkAwJDIJ8hu4D_uzX9q9-149-4nygp263cQhadV-0Ed8JNH5GTm0N_kcW6nMjBZSqoV2cDR2A6AiRD64NrJoZEMVW179DJqXZc6pVJLLeujS9eVIMz4sYmyHP-MgHPCiNV7KjzETSxBl6G5Yit2XFZdIQOgRbtAab8LKVUtwGgDWQbRpmK6mSIECCE0MvpzHWFJvtUyYXrjZ9qBQ7AoXROoJZuqxgpyEaBSK_CfeMXb_Hn6zwfJ3qRhmALBOHhAOaAUYBNurPbTkPxnKR-HbBhoEH9ir5ivYo09IKyJVtciMucLbt_jeJ8Mkzhobz9rJdzZfWJC8KK3ICeC8mDR6gcw==
자세히보기
메이프린 여성 겨울양말 기모 방한 6... 6,970원
메이프린 여성 겨울양말 기모 방한 6켤레
https://ads-partners.coupang.com/image1/MJKoTlHibuMefPz4MIKznSIXKi8ZKxsxT3_g_QVc83V2bateNh2SVYqkJCcMy7pbvhWCch6oj_hWX2wdBVbTZrtfRow_gXHXjFWKi0psILrji9-S81_8axvXTbVeePGKSiX8e3Ul4S-xdLYNXTQWKuUr5bHwRFctTipQzmm9IlKpaGwbboPvo5MZZ7J6GEwjxv9l5J-Awk9-uNf_AwM_QBx2C5JDZD3pDn3ZVad4Ax5BdwAUEISgLTFqj69VSQXY_CdRgCd2PK6eelrZ9k03kWpzb6hFI06aIlXSJ1qNVZjWX1KIYAw1M5HEFSl_NRi7gPkuNGvXv-JhQc2CYjgiyJ6prQCs8RKTRGtkB3DeuswnxS5culVZKMJXPTuvcSjDQuWcX6rbzJFs5d9HsbKdg6z-E534fDuL7wVIidQTosPwaGO5GqSzJWYAueQuZljuFsdKOXcvhtwLZbhpUvD2cRXGL_eSZYqOKUgRyAdzjG0r1ckbn9gzMbzrJex-JnY46ayZwFVw8Qfqyu2DWjgB-y5LKzrgdYz7y1lHpacvMPhO3iA=
자세히보기
아나파 2중 압박 손목보호대 1개 15,900원
아나파 2중 압박 손목보호대 1개
https://ads-partners.coupang.com/image1/qGNqzi9AHmSZx6ZsqKqbCQGlZSjqed6kUueuRNwEMsMv_GxDwrbnZbI1iCN3-7Pd38iWesmAGYQlQfzirbAIMy49crkYqCSQLs08vvNCW5aQVdvHZHDypop4P-WyK79_tEn-xR77a0zMOx4sIxDOKnfgoiUbjUN87ffLzJFMAP_yiz88OC6j68xQuIwy9JZfZG97rPO6Cy90eDgDDemgG8M94Sn6R8z1ED58hvfJoIVb3lBDIkkYu1ndYPbdm9JpOV0O8Jc40BFH21OgaMlpYijqisHYxwXhdPH1hLQAu47j2TGGY43N95673xLRobqKc8tRl6ZbzMsfFMkzPh6ONfrkOSBADDerxjxffx8YW_uJ59BazFFLJ5PYao_84oftlWUtrgSHZH_wfOBjxlUEjzYnj0tJjbfPvUfM3raiT1_S0yVT28UVh5p1EWv8mX1wYOmL3clpMT8EJResOFM9vQLaTafoauleIw7kxqvEfX1bkYmyi8tn_9ZDUdLInZRB9kIzxj_MozC7gR3XZa-1IlfrFPlwoEPc_w==
자세히보기
이지레그 여성용 프리미엄 베이스 무지... 10,500원
이지레그 여성용 프리미엄 베이스 무지 장목 양말 8켤레 세트
https://ads-partners.coupang.com/image1/ule0Zq6LR1N6DPQ2uiGlYLKisOtX3VBaJVNefkYi1h6H8Q-prhmzNegdUjYPJSdfOh2k-gZ5zj1CtyX5q7ZTAsaap3J7QnU9-F15kVnUFp6GvHYlz7P5FTItR7Z2w_Hc2EMv9_Y14zHZVls2t19pFyLQq6UeA5c_f2R9Vl5KAUgPmwvW3Hh7a1WC6HrZPu47toMwpHenrcoRZKbCu9tkkFbOMxbwn0zlAnBNYcgHt6Qpa_hvGrtvMxTvc5jdrYmSobGs0t-iq9cMUN0nX92-xXliRa8BEzzXLcOupa2O3xLwUOHkrpODiUWULpm10_I7ZqslZ9ngiDmE1gU4_i0L1gEaEgIFhqOwOzNCZFpfzNv4zpRfwOHUEPp5ovJVWUZenrk16NfpijignH31Cce9tgBwmfNAIUwZkepTUbX6KsG1PlBhA7ZgtFeUYkEihswcEwf0zKVZBec22_v6wLaxT3OQOO3AAme0mSy9w5p-5xphFLSWl_5iD7OH9DNzKbuw
자세히보기
이지레그 여성용 프리미엄 베이스 무지... 10,500원
이지레그 여성용 프리미엄 베이스 무지 장목 양말 8켤레 세트
https://ads-partners.coupang.com/image1/SFaQJEzpbCOeP58DSPLOstWMLXlMISb2ro4XyZu4RXOmeox8ST6QlCeBD9w_hnisaDmbAjbeeVYVfc27X2fvsfz19SxWyVcy2J0zh-8kKhd6Se8wexriTF8MgHuQikNnnW8BiJuWpIkprMegnvB-woBLbgKb359J74gYYTb_WuBJgbqtDt4pBKrC96LYHQ-wxhkS3BHZWud_0UW5vaptwxJbI7-eUg8wrMI7i0crdnN2znCiFWGNkbFyiiVuu6dJn4qCPGwUwA92c1bKcLYNlFj3S6sFtH0UR9CWHnhmRJvVKgaUjyrysKCoBPq5OzwU2HsyOn-FL_7Zl3wfOfSoFbzoSFErUi0soZ5qSULT6M17NFAC_EZStn_UDiQ33PQeeQhlQHVAp5knaj7WLAkee-J0BK5JS5IQeJhAHL2mFi2AlKyj_DdoO-iuLLD7uHhjN7AogoxW1HwuWNhsBsHOJ8kFf4aWlx896LVR7ouCgvZv3ML7FxTBzRkESRf8hWh-
자세히보기
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
작성 2026.09.30 10:37 수정 2026.10.14 12:07
496

RSS피드 기사제공처 : 보건의료신문 / 등록기자: Ryan Sangbaek Kim 기자 무단 전재 및 재배포금지

해당기사의 문의는 기사제공처에게 문의

댓글 0개 (/ 페이지)
댓글등록- 개인정보를 유출하는 글의 게시를 삼가주세요.
등록된 댓글이 없습니다.
Shorts NEWS 더보기
강남3구 줄줄이 하락! 그런데 성북·중랑·금천은 올랐다?
“가슴 펴고 앉으세요” 이 말만 믿었다면? 허리 통증의 반전
[이형주교수의 이야기/오디오에세이]RESTART | 제65회 “정직하게 ..
건강하려고 단백질 줄였는데… 사망 위험 117% 증가?
수험생 응원가-청춘만만세
서울 전셋값 5억 돌파! 무주택자 벼락거지 피하는 정부의 파격 대책?
치매 위험, 뇌가 아니라 팔·다리 근육에 단서가? 189만 명 연구 결과..
비싼 화장품보다 중요한 건? 뷰티업계가 주목한 이것
해남에 12,000평 규모?! 역대급 아열대 체험 농장
당뇨병 있다면 꼭 보세요! 알츠하이머 위험 1.53배의 진실
노인일자리 참여자 79% 의료비 절감 체감
푸르게푸르게 푸른문학
푸른문학사 - 이은별 대표
진원 고성일 시인 데뷔 축하 송
독도, 그날의 푸른 감동
푸른문학사 - 이은별 대표 작시
난방비 걱정된다면 지금 확인하세요! 겨울철 복지 혜택 총정리
국화꽃으로 뒤덮인 서산의 가을
AI가 감염병 치료제까지 찾는다? 정부 3개 부처가 모인 이유
(주)원WK엔터테인먼트
상림공원 꽃무릇 - 안청자 시인
상림공원 꽃무릇
11일 오후 2시 통합시 무안청사에서 백승주 균형발전부시장이 "27년도,..
어머님 아버님 사랑합니다-카톡을 넘기며
어머님 아버님 사랑합니다-카톡을 넘기며
커피의 향기
스킵(Skip)
엽서(Postcard)
유튜브 NEWS 더보기

영암에 이런 농장이? 멜론농장 체험부터 디저트까지! 야미야미팜

[한기범농구교실/고양점]한기범농구교실 12월훈련 "탄성 로프를 활용한 지역방법 수비훈련" #드리블기능테스트 ...

[방생특집] 방생은 물고기만? 두 갈래 방생의 의미 | 방생 뜻·하는 법 | 서원암

"국내산이라더니 중국산" 온 가족 밥상에 오른 중국산 식품 TOP7

#차기자의칭찬합시다 #지은숙가수

2026.11.03 용인블루인택시협동조합 신사옥 이전 기념행사 #협동조합택시 #협동조합 #용인블루인 #쿱모빌...

"고양시는 환경단체의 가짜 선동에 춤추는 꼭두각시인가?"스프링힐스 18홀 증설 논란 15년, 산황동 리포트

(MBN 방송출현)초고령 사회의 희망을 짓다 – 박은정 대표의 ‘성공의 한 수’

미쳤나봐 (Crazy in Love) | 설레는 첫사랑 감성 K-POP

목포쫀드기 쫀박스 과거 옛추억을 찾아서

해남 땅끝에서 만나는 아열대 바나나 숲과 농부의 꿈

푸른문학사 -이은별 대표 작시

이탁규회장

(주)원WK엔터테인먼트

과학기술인 소통의 밤

학여울역 세텍 건축박람회에 청우산업(주) 이동식황토방이 참가합니다!

제15회 글로벌 자랑스러운 세계인 대상 개최…국제미디어그룹 창립 19주년 기념, 13개 분야 공로자 선정

모두의 아이디어 #5 이것이 대한민국입니다.

2026여수 해양창업 진로페스타 전남대학교 여수캠퍼스 산학연구관 및 도서관 일원 11월 10일 유튜브라이브

상리종합사회복지관 사회보장특구사업 결과보고 영상

  • 전자책/종이책
  • 다이어리