무례할수록 지시를 잘 알아듣는 AI, 왜일까

최근 인공지능 모델과 대화를 해본 사람이라면 한 번쯤 느꼈을 것이다. “공손하게 말할 때보다 대놓고 명령하듯 말할 때 더 잘 알아듣는 것 같다.” 이 이상한 현상은 착각이 아니다. 실제로 여러 연구에서 무례하거나 직설적인 말투의 프롬프트가 정중한 문장보다 AI의 반응 정확도를 높인다는 결과가 확인됐다. 

최근 공개된 논문 ‘Mind Your Tone: Investigating How Prompt Politeness Affects LLM Accuracy’에서는 ChatGPT 4o 등 대형 언어모델에게 같은 질문을 다섯 가지 말투로 던졌을 때 ‘매우 무례한’ 프롬프트가 84.8%의 정답률을 기록한 반면 ‘매우 정중한’ 프롬프트는 80.8%에 그쳤다고 밝혔다. 

단 4%포인트 차이지만 언어모델의 응답 구조를 이해하는 데는 꽤 의미 있는 수치다. 연구진은 영어, 일본어, 중국어 등 여러 언어로 실험했는데 언어별로 차이가 있었지만 공통적으로 ‘너무 돌려 말하면’ 모델이 덜 정확해지는 경향이 나타났다고 분석했다.

이상하게 들리지만 그 이유는 꽤 단순하다. 언어모델은 인간의 감정을 이해하거나 예의를 판단하는 존재가 아니다. 대화 속에서 다음 단어가 어떤 확률로 등장할지를 계산해 문장을 이어 붙이는 수학적 기계일 뿐이다. 

그런데 “Could you please explain this to me?”처럼 완곡하게 부탁하는 문장은 문법 구조가 길고 복잡하다. 핵심 명령은 뒤로 밀리고 불필요한 단어들이 어텐션(집중)을 분산시킨다. 반면 “Explain this now” 같은 짧고 명령형 구조는 불필요한 토큰이 적고 목표가 명확하다. 

모델이 ‘이 사람이 원하는 것’을 바로 파악할 확률이 높아진다. 연구자들은 이런 차이를 ‘구문 단순화 효과’라고 부른다. 실제로 프롬프트 앞부분에 제약이나 지시를 명확하게 써줄수록 모델은 핵심 작업에만 집중해 더 일관된 결과를 낸다고 설명했다.

또 하나의 이유는 모델이 학습 과정에서 봐온 문장 구조 때문이다. 대부분의 훈련 데이터에는 설명서, 코드, 지시문, 명령형 문장처럼 ‘해야 할 일’을 바로 명시한 패턴이 많다. 

그러니 “Tell me five reasons” 같은 직접적인 표현은 모델이 이미 수없이 학습한 익숙한 구조이고 그만큼 확률적으로 안정적인 출력을 내기 쉽다. 

반면 “I would appreciate it if you could tell me five reasons” 같은 문장은 구조가 낯설고 목적이 모호해 모델이 어느 부분을 우선 해석해야 할지 헷갈릴 가능성이 커진다.

언어모델의 내부 구조도 이런 결과를 뒷받침한다. 모델은 입력된 문장을 토큰 단위로 쪼개서 각 단어 간의 관계를 계산한다. 그런데 정중한 표현은 대개 길고 부사나 완곡한 동사가 섞여 있어 문맥 의존도가 높다. 

그러면 어텐션 메커니즘이 여러 방향으로 분산되고 결과적으로 연산량이 늘어나거나 불필요한 해석이 끼어들게 된다. 반대로 명령형 문장은 짧고 단순해 계산 경로가 짧다. 입력 신호가 뚜렷하니 모델이 ‘이건 명령이구나’ 하고 빠르게 반응한다. 

사람에게는 거칠게 들리지만 모델에게는 오히려 명료하고 처리하기 쉬운 언어 구조인 셈이다.

또 다른 이유는 ‘RLHF’라 불리는 인간 피드백 학습 과정에 있다. ChatGPT 같은 모델은 단순히 문장을 예측하는 것에서 끝나지 않고 사람이 평가한 ‘좋은 답변’ 데이터를 추가로 학습한다. 

이때 인간 평가자는 보통 “친절하고 확신에 찬 답변”을 선호하기 때문에 모델은 이런 톤을 자동으로 모방하려는 경향을 갖는다. 그래서 프롬프트가 장황하거나 애매하면 모델이 더 공손한 서론과 사족을 붙여서 길게 대답하려고 한다. 

그 결과 핵심 답이 희미해지는 것이다. 반면 짧고 단도직입적인 명령은 이런 ‘장황함 보상 편향’을 제거해 결과적으로 더 깔끔하고 정확한 답변을 유도한다.

하지만 무례한 말투가 항상 좋은 건 아니다. 연구자들은 “무례한 프롬프트는 성능이 떨어질 수도 있다”고 동시에 경고했다. 지나치게 공격적이거나 부정적인 감정 표현이 섞이면 모델이 학습 과정에서 본 ‘비정상적 대화 패턴’으로 인식해 불안정한 출력을 내는 경우도 있다. 

무례해서 잘 되는 게 아니라 구체적이고 단순하기 때문에 잘 작동하는 것이다. 게다가 언어별 차이도 존재한다. 일본어나 한국어처럼 높임법이 복잡한 언어에서는 오히려 정중한 표현이 구조적으로 더 안정된 문장으로 인식되어 긍정적인 결과를 낼 수도 있다.

따라서 AI에게 “무례하게 말해야 잘 알아듣는다”는 말은 절반만 맞는 셈이다. 사실상 핵심은 무례함이 아니라 명료함이다. 인간에게는 사회적 맥락과 감정이 있지만 언어모델에게 중요한 건 구조와 제약이다. 

“이걸 단계별로 요약해” “결과만 표로 보여줘” 같은 짧고 구체적인 지시가 가장 효과적인 이유다. 그 안에는 예의도 감정도 필요 없다. 결국 AI에게 중요한 건 ‘어떻게 말하느냐’가 아니라 ‘무엇을 얼마나 명확히 요구하느냐’다.