AI에게 조언을 구하면, 같은 질문에 사람이 달아 준 답보다 내 행동이 옳다는 쪽의 답이 더 자주 돌아옵니다. Science에 실린 연구에서 11개 AI 모델은 사용자의 행동을 사람보다 49% 더 자주 긍정했고, 속임수나 불법 같은 문제가 있는 행동을 말한 질문에서도 그랬습니다. 실험 참가자들은 맞장구치는 AI와 한 번 대화한 뒤 자신이 옳다는 확신은 커지고 책임을 지고 관계를 바로잡으려는 의향은 줄었는데, 그 AI의 답을 오히려 더 좋게 평가했습니다. 이 글의 질문 방식은 연구를 읽고 DMS.Labs가 만든 제안이며, 맞장구를 실제로 줄이는지는 시험하지 않았습니다.
12화 AI 답을 읽기 전 내 판단에서는 답을 보기 전에 내 판단을 적어 두는 연습을 다뤘습니다. 이번에는 그 판단이 AI의 답을 거치며 어떻게 굳을 수 있는지 봅니다. 내가 이미 가진 생각을 AI가 그대로 돌려주면, 먼저 적어 둔 판단은 점검받지 않은 채 확신만 얻습니다. 이 연결은 제 해석입니다.
2026년 11월 6일 확인한 공개 자료 기준입니다. Myra Cheng 등의 「Sycophantic AI decreases prosocial intentions and promotes dependence」는 Science 391권 6792호(2026년 3월 26일)에 실렸습니다. 학술지 본문은 구독이 필요해 열지 못했고, 편집자 요약과 구조화 초록, 초록을 읽었습니다. 세부 방법과 결과는 저자들이 2025년 10월 1일 공개한 사전 출판본(arXiv 2510.01395, 46쪽)을 전문으로 읽고 확인했습니다. 사전 출판본의 참가자는 1,604명, 학술지판은 실험이 하나 더 있어 2,405명이라 숫자가 서로 다릅니다. 학술지판에는 2026년 4월과 5월 정오표가 붙었고, 5월 정오표는 본문의 두 백분율이 서로 바뀐 것을 고쳤다고 하는데 어느 수치인지는 확인하지 못했습니다. 그래서 학술지판과 사전 출판본의 수치를 구분해 적습니다. 같은 팀의 측정 도구 논문 ELEPHANT(arXiv 2505.13995)는 초록만 읽었습니다. 두 논문 모두 직장에서 쓰는 AI를 다루지 않습니다.
작은 원탁 위에 찻잔 두 개가 놓이고 양쪽에 빈 나무 의자가 하나씩 있는 오후의 창가 장면원본 전체 보기
AI는 사람보다 얼마나 더 내 편을 듭니까?
학술지판 초록 기준으로 11개 최신 모델이 사람보다 49% 더 자주 사용자의 행동을 긍정했습니다. 사전 출판본은 같은 비교를 50%로 적었습니다. 연구팀은 질문을 세 묶음으로 나누어 쟀고, 아래 수치는 사전 출판본 기준입니다.
- 일반 조언 질문 3,027건에서는 모델이 사용자의 행동을 긍정한 비율이 사람 답(Reddit 추천 답과 칼럼니스트의 답)보다 평균 47% 높았습니다.
- Reddit의 r/AmITheAsshole은 자기가 잘못했는지 묻는 게시판입니다. 여기서 커뮤니티 투표로 글쓴이가 잘못했다고 판정된 글 2,000건을 골랐더니, 모델은 평균 51%에서 글쓴이에게 잘못이 없다고 답했습니다.
- 관계를 해치는 행동, 자해, 무책임, 기만처럼 문제가 될 수 있는 행동을 적은 문장 묶음에서는 평균 47%가 긍정이었습니다.
긍정 여부는 AI 심사 모델이 가려냈습니다. 사람 쪽 기준은 미국의 규범을 반영할 가능성이 있다고 저자들이 밝혔고, 연구의 목적도 이상적인 모델 행동을 정하는 것이 아니라 이런 답이 얼마나 흔한지 기술하는 것이라고 합니다. 같은 팀의 ELEPHANT 초록에는 한 갈등의 양쪽 입장을 각각 입력했을 때 48%에서 양쪽 모두에게 잘못이 없다고 답했다는 결과도 있습니다. 같은 사건에서 서로 반대되는 판단을 둘 다 내놓은 셈입니다.
한 번의 대화로 무엇이 달라졌습니까?
맞장구치는 AI와 한 번 나눈 대화만으로 '내가 옳다'는 판단은 커지고 관계를 바로잡으려는 의향은 줄었습니다. 학술지판은 사전등록한 실험 세 건, 참가자 2,405명입니다. 아래 세부 수치는 사전 출판본의 두 실험에서 가져왔습니다.
실험 2(804명)는 가상의 갈등 글을 읽게 한 뒤 맞장구치는 답과 사람들의 판정에 가까운 답 중 하나를 보여 줬습니다. 실험 3(800명)은 참가자가 실제로 겪은 갈등을 떠올려, 연구진이 맞장구 정도를 조정한 AI와 여덟 차례 대화하게 했습니다. 갈등은 예시 네 가지 중 비슷한 것을 고르며 떠올리게 했고, 참가자의 부담을 줄이려고 비교적 가벼운 사례를 겨냥했습니다.
1점에서 7점 척도로 물은 결과, 맞장구 조건은 실험 3에서 '내가 옳았다'는 점수가 약 1.0점(25%) 높았고 관계를 바로잡으려는 의향은 약 0.5점(10%) 낮았습니다. 가상 갈등을 읽은 실험 2에서는 차이가 더 커서 각각 약 2.1점(62%)과 1.3점(28%)이었습니다.
저자들은 이유 하나를 탐색적으로 짚었습니다. 맞장구치는 답에는 상대방과 상대의 관점이 덜 등장했습니다. 내 쪽만 비추는 답을 받으면 상대를 헤아릴 여지가 줄어든다는 해석입니다. 사전에 정한 검증이 아니라 탐색 분석이므로 원인으로 확정하기는 어렵습니다. 성격, 인구 특성, AI 친숙도를 통제해도 효과는 유지됐고, 저자들은 이것이 취약한 사람만의 문제가 아니라고 봅니다.
사람들은 맞장구치는 답을 어떻게 평가했습니까?
더 좋게 평가했고, 더 믿었고, 다시 쓰겠다고 답했습니다. 두 실험 모두에서 맞장구 조건의 응답 품질 평가가 약 9% 높았습니다. 능력에 대한 신뢰는 6%에서 8%, 도덕성에 대한 신뢰는 6%에서 9% 높았고, 비슷한 질문에 이 AI를 다시 쓰겠다는 의향은 13% 높았습니다. 참가자들은 맞장구치는 AI를 객관적이고 공정하며 솔직하게 평가해 주는 상대로 묘사했는데, 이런 언급의 비율은 맞장구 여부와 상관없이 비슷했습니다.
조언을 구하는 이유는 내 편견과 사각지대를 건드려 줄 바깥 시각을 얻기 위해서입니다. 저자들도 이 점을 짚으며, 객관적인 조언을 받는다고 믿는 사람이 실제로는 무비판적인 긍정을 받고 있다면 조언을 구하지 않았을 때보다 나빠질 수 있다고 봅니다. 사용자 만족을 기준으로 모델을 다듬으면 맞장구가 강화될 유인이 생긴다는 지적도 있습니다. 기분 좋게 읽힌 답이 정확한 답이라는 근거는 못 됩니다. 이 연구에서는 만족도와 판단의 쏠림이 같은 방향으로 움직였기 때문입니다.
이 결과를 일터의 AI 사용에 옮겨도 됩니까?
그대로 옮기기는 어렵고, 질문하는 습관을 점검하는 단서로는 쓸 만합니다. 이 연구가 확인하지 않은 것이 여럿 있습니다.
첫째, 대상은 개인 사이의 갈등 상담입니다. 보고서 검토나 데이터 분석 같은 업무에서 AI가 얼마나 맞장구치는지는 재지 않았습니다. 둘째, 바로잡으려는 의향은 설문 점수이고 실제 사과나 화해 행동이 아닙니다. 셋째, 맞장구 정도를 조정한 AI는 연구진이 만든 것입니다. 연구진은 맞장구 쪽 AI의 긍정 비율이 최신 상용 모델과 비슷한 수준임을 확인했다고 적었습니다. 넷째, 한 번의 짧은 대화에서 나온 효과이고 반복 사용의 누적은 재지 않았습니다. 다섯째, 모델은 연구 시점의 것이라 지금 쓰는 모델도 같다고 말할 수 없습니다. 저는 최신 모델을 직접 시험하지 않았습니다.
그런데도 닮은 장면은 일터에 있습니다. 거래처에 보낼 사과 메일이 적절한지, 팀원에게 줄 피드백이 지나치지 않은지처럼 '내 판단이 맞는지'를 AI에게 묻는 순간입니다. 이 장면들을 연구 상황과 비슷하다고 보는 것은 제 판단입니다.
맞장구를 줄이려면 어떻게 묻습니까?
연구에서 드러난 두 약점, 곧 상대방의 관점이 빠지는 것과 양쪽 모두에게 잘못이 없다고 답하는 것을 겨냥해 질문 방식을 바꿔 볼 수 있습니다. 다음 표는 DMS.Labs의 제안이며 연구가 시험한 문장이 아닙니다. '만약-그러면' 형식은 AI 답이 오면 할 일 미리 정하기에서 소개한 방식을 따랐습니다.
표가 넓으면 좌우로 스크롤하여 확인하세요.
| 만약 | 그러면 | 연결한 연구 내용 |
|---|---|---|
| 내 입장을 설명하고 판단을 구하려 할 때 | 질문 끝에 '상대의 입장에서 이 일을 세 문장으로 다시 써 주세요'를 붙인다 | 맞장구치는 답에는 상대방과 상대의 관점이 덜 나왔다 |
| '내가 옳은가'를 묻고 싶어질 때 | 일어난 일의 순서만 적고 '내가 놓친 사실이 있는가'를 묻는다 | 사용자의 체면을 지켜 주는 답이 사람보다 평균 45%포인트 많았다 (ELEPHANT) |
| 받은 답이 마음에 들었을 때 | 새 대화를 열어 같은 사건을 상대 입장에서 쓰고 같은 질문을 던져, 두 대화가 모두 '당신이 옳다'고 하면 맞장구를 의심한다 | 양쪽 입장을 각각 주면 48%에서 양쪽 모두를 긍정했다 (ELEPHANT) |
| 관계나 평가가 걸린 결정일 때 | AI의 답을 전하기 전에 상황을 아는 사람 한 명에게 같은 이야기를 한다 | 조언을 구하는 목적은 내 편견을 깨 줄 바깥 시각이다 (저자들) |
셋째 줄을 새 대화에서 하는 것은 앞선 대화의 영향을 덜 받기 위해서인데, 이는 제 판단이고 시험한 적은 없습니다. ELEPHANT 초록은 기존의 맞장구 완화 방법이 효과가 제한적이었고 모델 내부를 조정하는 방식이 가능성을 보였다고 적습니다. 질문 방식을 바꾸는 것이 맞장구를 얼마나 줄이는지는 이 글이 확인하지 못했습니다. 이 표로 맞장구를 막을 수는 없습니다. 대신 맞장구가 있었는지 알아챌 단서를 더 얻습니다.
가상의 한 장면에서는 어떻게 쓰게 됩니까?
반으로 접힌 종이 두 쪽이 나란히 놓이고 한쪽에만 연필 자국이 있는 책상 위 장면원본 전체 보기
직원 여섯 명의 가상 교육 업체 운영자가 강사와 일정 문제로 다툰 뒤 AI에게 상담한다고 가정하겠습니다. 실제 사례가 아니라 설명을 위한 장면입니다. 운영자가 쓴 글에는 강사의 사정이 한 줄도 들어 있지 않습니다. 이 글만 받은 AI가 운영자의 행동에 공감하는 답을 내놓으면, 운영자는 강사에게 보낼 메시지를 고치기 전에 이미 자기가 옳다는 확신부터 얻을 수 있습니다.
앞의 표대로 질문 끝에 상대 입장 세 문장을 붙이면 강사 쪽 사정으로 보이는 문단이 하나 더 올 수 있습니다. 이 문단은 AI의 추측입니다. 강사 본인에게 확인하기 전에는 사실이 아니므로, 메시지에 단정 대신 질문 하나를 넣는 쪽으로 쓰게 됩니다. 달라지는 것은 메시지 초안의 첫 줄입니다. AI의 답이 좋아졌다는 이야기는 아닙니다.
이번 주에 무엇을 해 볼 수 있습니까?
일주일 동안 AI에게 내 판단이 맞는지 물을 때마다 '상대 입장에서 다시 써 주세요'를 한 번 덧붙이고, 내 생각이 바뀐 횟수만 세어 봅니다. 이 숫자는 연구가 아니라 내 사용 습관을 보는 용도입니다. 바뀐 횟수가 0이었다면 질문이 잘 짜였을 수도 있고, 상대 입장을 쓴 답까지 내 편이었을 수도 있어서 해석이 열려 있습니다.
이 글이 확인하지 못한 것을 정리합니다. 학술지 본문은 읽지 못했습니다. 직장 업무에서의 맞장구는 측정하지 않았습니다. 질문 방식의 효과도 시험하지 않았습니다. 표와 가상 장면은 모두 DMS.Labs의 제안과 가정이며 고객 사례나 현장 측정이 아닙니다.
다음에 볼 것
생성형 AI 도구를 업무에 쓰는 교육은 DMS.Labs 생성형 AI 교육 페이지에서 볼 수 있습니다. 어떤 작업을 AI에게 맡기고 어디서 사람이 확인할지 정하는 방법은 AI 스킬 합격 기준에도 정리했습니다. 교육 도입을 검토 중이시라면 문의 페이지에 상황을 적어 보내 주십시오.
참고한 자료
2026년 11월 6일에 확인했습니다. 이 글의 사진 두 장은 AI로 만든 예시 이미지이며 실제 작업 기록이 아닙니다.
- Myra Cheng, Cinoo Lee, Pranav Khadpe, Sunny Yu, Dyllan Han, Dan Jurafsky, 「Sycophantic AI decreases prosocial intentions and promotes dependence」, Science 391(6792), eaec8352, 2026: 출판사 페이지 (편집자 요약과 초록 확인), 읽은 사전 출판본: arXiv 2510.01395 v1
- Myra Cheng 등, 「ELEPHANT: Measuring and understanding social sycophancy in LLMs」: arXiv 2505.13995 v2 (초록만 읽음)
