AI가 어떤 직원은 25% 더 생산적으로 만들고, 어떤 직원은 오히려 느리게 만드는 이유

핵심 요약

알아야 할 것: Harvard와 BCG가 758명의 컨설턴트를 대상으로 진행한 연구에 따르면, AI를 사용한 직원들은 12.2% 더 많은 업무를 완료하고, 25.1% 더 빠르게 일하며, 더 높은 품질의 결과물을 냈습니다. 하지만 같은 연구에서 특정 유형의 업무에서는 AI 사용자가 AI 없이 일하는 사람보다 정확도가 19% 낮았습니다. 연구진은 이를 "들쭉날쭉한 기술 경계선(jagged technological frontier)"이라고 불렀습니다. 가장 큰 성과를 내는 직원들은 그 경계선이 어디에 있는지 파악하고 있습니다. 대부분의 사람들은 아직 그렇지 않습니다.

주요 발견:

AI는 강점 영역 내의 업무에서 실질적인 생산성 향상을 가져다줍니다: 글쓰기, 요약, 브레인스토밍, 코딩

강점 영역 밖의 업무에서는 AI가 오히려 정확도를 떨어뜨릴 수 있습니다

2026년에는 AI를 잘 조율해서 쓰는 사용자와 그렇지 않은 사람 사이의 격차가 벌어지고 있습니다

어떤 도구를 쓰느냐보다 반복 가능한 워크플로우에 AI를 통합하는 것이 더 중요합니다

판단력을 유지하는 것이 파워 유저와 과의존 사용자를 가르는 기준입니다

Harvard Business School과 Boston Consulting Group은 널리 인용되는 AI 직장 환경 연구를 수행했습니다. 758명의 컨설턴트에게 18가지 실제 업무를 주었고, 일부는 AI를 사용했고 일부는 사용하지 않았습니다.

결과는 극명하게 갈렸습니다.

AI를 사용한 그룹은 12.2% 더 많은 업무를 완료하고, 25.1% 더 빠르게 일하며, 측정 가능하게 더 나은 결과물을 만들어냈습니다. 주 40시간 근무하는 지식 노동자에게 25%의 속도 향상은 금요일 업무를 목요일 오후에 끝낼 수 있다는 뜻입니다.

하지만 대부분의 사람들이 그냥 지나치는 부분이 있습니다.

AI의 강점 밖에 있는 업무에서는, 똑같이 AI를 사용한 컨설턴트들이 AI를 쓰지 않은 사람보다 정답을 도출할 가능성이 19% 낮았습니다. 경우에 따라서는 AI가 오히려 성과를 저하시켰습니다.

연구진은 이를 "들쭉날쭉한 기술 경계선"이라고 불렀습니다. 가장 큰 성과를 내는 직원들은 그 경계선이 어디에 있는지 알고 있습니다. 대부분의 사람들은 모릅니다.

들쭉날쭉한 기술 경계선이란 무엇인가

지식 노동자가 하는 모든 업무를 지도로 그려보세요. 이메일 작성, 시장 조사, 데이터 분석, 프레젠테이션 제작, 코드 디버깅, 모호한 문제에 대한 판단 등이 있을 겁니다.

이제 그 지도 위에 들쭉날쭉하고 불규칙한 경계선을 그어보세요. 경계선 안쪽은 AI가 뛰어난 업무입니다. 바깥쪽은 AI가 어려움을 겪거나, 혼란을 초래하거나, 적극적으로 잘못된 방향으로 이끄는 업무입니다.

경계선이 들쭉날쭉한 이유는 직관에 반하기 때문입니다. AI는 설득력 있는 이메일 초안을 훌륭하게 작성하지만, 재무 계산을 틀리게 내놓을 때는 그마저도 자신 있게 틀립니다. 50페이지 보고서를 30초 만에 요약하지만, 모든 것을 바꿔놓는 단 한 문단을 놓칠 수 있습니다. 표준적인 코드는 잘 작성하지만, 문제가 진정으로 새로운 것일 때는 논리를 잘못 짭니다.

AI로 성과를 내는 직원들은 경험을 통해 이 경계선을 파악합니다. AI를 만능 답변 기계로 대하지 않습니다. 특정 범위를 가진 전문가처럼 다룹니다.

AI 사용자 세 가지 유형

전문가들이 AI를 활용하는 방식을 2년 넘게 관찰해보면, 대부분의 사람들은 세 그룹 중 하나에 속합니다.

회의론자는 AI를 거의 사용하지 않습니다. 한 번 써봤다가 별로인 결과를 얻고 익숙한 방식으로 돌아갔습니다. 25%의 효율 향상을 포기하고 있는 셈입니다. AI에 능숙한 동료들과의 격차는 시간이 지날수록 벌어집니다.

과의존 사용자는 모든 것에 AI를 씁니다. 모든 이메일, 모든 결정, 모든 조사에 AI를 적용합니다. BCG 연구가 경고한 바로 그 유형입니다. 쉬운 업무는 더 빠르게 처리하지만, 정작 중요한 업무에서는 성과가 떨어집니다. 자신도 모르는 사이에 판단력을 외주화한 것입니다.

조율된 사용자는 선택적으로 사용합니다. 시행착오를 통해 자신만의 경계선을 파악했습니다. 워크플로우의 어느 부분에서 AI가 속도를 높여주는지 알고 있습니다. 첫 번째 초안은 AI를 믿지만, 최종 결정은 맡기지 않습니다.

대부분의 사람들은 회의론자와 과의존 사용자 사이 어딘가에 있습니다. 완전히 조율된 사용자는 아직 많지 않습니다. 바로 그것이 경쟁 우위가 되는 이유입니다.

조율된 AI 사용자가 실제로 다르게 하는 것

자신만의 경계선을 파악했다

조율된 사용자는 AI가 믿음직하게 도움이 되는 영역의 목록을 머릿속에 갖고 있습니다. 대부분의 지식 노동자에게 그 목록에는 다음이 포함됩니다.

모든 첫 번째 초안: 이메일, 제안서, 보고서, 코드
긴 문서, 회의 메모, 연구 논문 요약
막혀 있을 때 빠르게 선택지를 탐색하기 위한 브레인스토밍
전문 용어 없이 낯선 개념 설명하기
반복적인 서식 정리 및 데이터 변환 작업

그리고 목록에서 제외되는 것들도 있습니다.

독창적인 판단이 필요한 새로운 문제
틀렸을 때 실제 결과가 따르고 검토 과정에서 잡아낼 수 없는 업무
AI가 갖지 못한 맥락에 의존하는 업무: 회사 전략, 최근 이슈, 특정 도메인 지식
"적당히 좋은" 수준으로는 충분하지 않은 창의적 작업

이 목록을 알면 AI를 사용하는 방식이 달라집니다. 어려운 판단 업무를 AI에게 던지고 신뢰할 수 있는 답을 기대하는 일을 멈추게 됩니다.

명령이 아닌 맥락을 담은 프롬프트를 작성한다

모호한 프롬프트와 유용한 프롬프트의 차이는 거의 항상 맥락에 있습니다. 대부분의 사람들은 "이것을 요약해줘"나 "X에 관한 이메일을 써줘"라고 입력합니다. 파워 유저들은 대상 독자, 목표, 어조, 제약 조건을 추가합니다.

이것은 복잡한 일이 아닙니다. 알아서 처리할 검색 엔진이 아니라, 배경 정보가 필요한 유능한 동료에게 설명하는 것처럼 AI에게 브리핑하는 것입니다. 좋은 브리핑에는 이것이 누구를 위한 것인지, 무엇을 달성하려 하는지, 어떤 형식이 필요한지, 무엇을 피해야 하는지가 포함됩니다.

초보자를 위한 프롬프트 엔지니어링 가이드에서는 역할 기반 프롬프팅과 퓨샷 예시 등 가장 큰 차이를 만드는 구체적인 기법을 다룹니다.

반복 가능한 워크플로우를 구축했다

AI를 가끔 쓰는 사람들은 막혔을 때 AI 도구를 찾습니다. 조율된 사용자들은 AI를 일상적인 프로세스에 통합해 놓았습니다. 가장 자주 하는 업무에 검증된 프롬프트 세트를 갖고 있습니다. 잘 되는 것을 재사용합니다. 매번 처음부터 시작하지 않습니다.

프리랜서 콘텐츠 전략가라면 고객 브리프 템플릿, 기사 조사 프레임워크, 수정 체크리스트를 갖고 있을 수 있습니다. 각각 특정 단계에서 AI가 관여합니다. 그녀는 가끔 AI를 사용하는 게 아닙니다. 시스템을 갖추고 있는 겁니다.

이런 방식을 구축하고 싶다면, AI로 일상 업무 자동화하기 가이드가 어떤 업무를 먼저 자동화할지 파악하는 데 실용적인 출발점이 됩니다.

판단력을 유지한다

경계선 밖 업무에서 정확도가 19% 떨어진 것은 컨설턴트들이 검증했어야 할 AI 결과물을 그대로 신뢰했기 때문입니다. 조율된 사용자들은 AI를 완성된 결과물이 아닌 첫 번째 초안으로 대합니다. 중요한 주장은 직접 확인합니다. 복사-붙여넣기가 아니라 편집합니다.

당연한 말처럼 들리지만, 바로 여기서 과의존 사용자들이 실수를 합니다. AI가 익숙해질수록 꼼꼼히 읽지 않게 되기 쉽습니다. BCG 연구에 따르면 이는 직급에 관계없이 나타났습니다. 경험 많은 전문가들도 결과물에 의문을 제기하지 않으면 주니어 직원과 같은 함정에 빠졌습니다.

생산성 격차는 벌어지고 있다

2023년에는 대부분의 지식 노동자들이 AI가 무엇을 할 수 있는지 파악하는 단계였습니다. 2026년에는 두 그룹이 분리되어 있습니다.

한 그룹은 일관된 AI 습관을 구축했습니다. 매주 10~20시간의 정신적 작업을 AI가 첫 초안 수준으로 처리하고 있습니다. 더 빠르게 응답하고, 더 많이 만들어내며, 과거에는 팀이 필요했던 규모의 업무를 맡습니다.

다른 그룹은 크게 변하지 않았습니다. 가끔 AI를 쓰거나, 몇 가지 도구를 써봤지만 가치를 못 느꼈을 수 있습니다. 대략 비슷한 속도로 같은 업무를 하고 있습니다.

이 격차는 무엇을 받을 수 있고, 무엇을 맡을 수 있느냐에서 드러납니다. 강력한 AI 워크플로우를 갖춘 1인 창업자들은 과거에 에이전시가 필요했던 계약을 따내고 있습니다. 1인 창업자를 위한 최고의 AI 도구 카테고리가 성장한 것은 실질적인 ROI가 있기 때문입니다. 하지만 실제로 이 도구들을 잘 배운 사람들에게만 해당됩니다.

AI를 많이 써야 할 필요는 없습니다. 하지만 잘 조율해서 쓰는 것은 경쟁이 치열한 분야에서 점점 기본 기대치가 되고 있습니다.

나만의 경계선을 찾는 방법

프레임워크나 생산성 컨설턴트가 필요하지 않습니다. 5일간의 솔직한 관찰이 필요합니다.

업무 주 하나를 선택하세요. 매일 업무가 끝날 때 두 가지를 기록하세요.

AI가 혼자 했을 때보다 눈에 띄게 더 나은 결과를 더 빠르게 준 업무
AI가 속도를 늦추거나, 잘못된 정보를 주거나, 수정이 너무 많아서 효율적이지 않았던 업무

5일 후에는 10개의 데이터 포인트가 생깁니다. 그게 바로 출발점 지도입니다. 잘 된 것들은 AI를 더 활용할 곳을 보여주고, 안 된 것들은 그만해야 할 곳을 알려줍니다.

두 달마다 반복하세요. 도구도 개선되고, 실력도 늘고, 경계선도 이동합니다.

조율된 그룹에 들어가는 방법

실질적인 차이를 만드는 몇 가지 실용적인 행동:

가장 빈도 높은 업무부터 시작하세요. 가장 자주 하는 업무가 AI 사용을 최적화했을 때 가장 빨리 효과를 보는 곳입니다. 이메일이라면 거기서 시작하세요. 코드 리뷰라면 거기서 시작하세요.

프롬프트 라이브러리를 유지하세요. 좋은 결과를 준 프롬프트는 저장해두세요. 조율된 사용자 대부분은 가장 자주 쓰는 프롬프트 10~20개를 담은 문서를 갖고 있습니다. 그것이 일관된 결과를 위한 전체 플레이북입니다.

검증 습관을 만드세요. 다른 사람에게 전달되는 AI 결과물에 대해서는 검토 단계를 하나 넣으세요. 모든 것을 확인할 필요는 없습니다. 하지만 전송 전에 표준 확인을 거치면 정확도 저하로 이어지는 맹목적 신뢰를 막을 수 있습니다.

AI는 탐색에 쓰고, 결정은 직접 하세요. AI는 선택지를 생성하고 문제 공간을 매핑하는 데 탁월합니다. 최종 결정을 내리는 데는 덜 신뢰할 수 있습니다. 놓치고 있는 것이 무엇인지 파악하는 데 AI를 활용하고, 결정은 스스로 내리세요.

자주 묻는 질문

어떤 AI 도구를 쓰느냐가 중요한가요?

대부분의 사람들이 생각하는 것보다 덜 중요합니다. BCG 연구는 GPT-4를 사용했지만, 습관은 어떤 도구에도 적용됩니다: 자신의 경계선 파악하기, 프롬프트에 맥락 제공하기, 판단력 유지하기. 물론 특정 작업에서는 일부 도구가 실제로 더 낫습니다. 코딩 전용 보조 도구는 범용 채팅 도구와 코드 리뷰를 다르게 처리합니다.

업무에 AI를 한 번도 제대로 써본 적이 없다면 어떻게 해야 하나요?

가장 많은 시간을 쓰는 업무부터 시작하세요. 글쓰기라면 첫 초안 작성에 AI를 써보세요. 조사라면 요약을 시도해보세요. 하나의 활용 사례를 선택하고, 거기서 잘하게 되면 확장하세요. 모든 것에 한꺼번에 AI를 쓰려고 하면 과의존 사용자가 되는 지름길입니다.

고참 전문가도 정확도 함정에 빠질 수 있나요?

그렇습니다. BCG 연구에 따르면 정확도 저하는 직급에 관계없이 나타났습니다. 결정적인 요인은 경력이 아니었습니다. 어떤 업무가 AI의 강점 밖에 있는지 인식하느냐였습니다. AI가 전반적으로 신뢰할 수 있다고 가정한 고참 직원들은 회의적 태도를 유지한 주니어 직원들보다 낮은 성과를 냈습니다.

조율된 AI 사용자가 되는 데 얼마나 걸리나요?

꾸준히 사용하면 2~4주 내에 패턴이 보이기 시작합니다. 몇 달이 필요한 게 아닙니다. 다양한 업무 유형에 걸쳐 AI가 믿을 수 있게 도움이 되는 업무와 그렇지 않은 업무를 구분할 수 있을 만큼의 반복이 필요합니다.

결론

Harvard/BCG의 연구 결과는 2026년에도 유효합니다: AI는 조율된 사용자의 생산성을 크게 높이고, 과자신하는 사용자의 정확도를 떨어뜨릴 수 있습니다. 차이는 어떤 도구를 갖고 있느냐가 아닙니다. 자신의 구체적인 업무에서 AI의 실제 강점이 어디에 있는지 아는 것입니다.

경계선은 사람마다 다릅니다. 개발자의 경계선은 작가나 전략가의 것과 다릅니다. 하지만 모든 사람에게 경계선이 있고, 그것을 파악하는 것이 도구를 하나 더 추가하는 것보다 훨씬 가치 있습니다.

다양한 업무에서 AI를 테스트하고 자신의 워크플로우에 실제로 맞는 것을 찾고 싶다면, Zemith에서 채팅, 코딩 보조, AI 에이전트를 한 곳에서 여러 주요 AI 모델과 함께 사용할 수 있습니다. 플랫폼을 이리저리 옮겨다니지 않아도 되니 자신만의 경계선을 더 쉽게 찾을 수 있습니다.