AI가 잘하는 일과 잘 못하는 일: AI와 ‘함정 없이’ 협업하는 법

애초에 질문이 잘못되었다면 AI의 답은 의미가 없다

인생에서 또는 업무에서 우리가 자주 겪는 안타까운 상황이 있습니다. 그건 ‘틀린 답을 찾는 것’이 아니라 ‘애초에 잘못된 질문을 던지는 것’입니다.

예를 들어, 고객의 마음이 매 순간 바뀌는 민감한 시장에 새로 진입하면서, 계속해서 반복적으로 “더 완벽한 계획”을 요구하는 리더들이 참 많습니다. 반대로, 매뉴얼대로 가볍게 처리하면 끝날 단순 업무에 비싸고 복잡한 시스템을 도입하느라 애를 먹기도 합니다.

상황에 맞지 않는 엉뚱한 도구에 돈과 시간을 낭비하지 않으려면, 지금 내가 마주한 상황이 어떤 성격인지부터 냉정하게 파악해야 합니다. 이를 명쾌하게 도와주는 상황 인식 도구가 바로 데이브 스노든(Dave Snowden)이 만든 커네빈 프레임워크(Cynefin Framework)입니다.

 

내 앞의 상황을 알려주는 4가지 지도: 커네빈 프레임워크

세상의 모든 문제는 크게 두 갈래로 나뉩니다. ‘예측 가능하고 통제할 수 있는 상황‘(① 명확 + ② 난해)과 ‘살아 움직여서 예측이 불가능한 상황‘(③ 복잡 + ④ 혼돈)입니다. 이 사분면을 이해해야 비로소 도구의 올바른 쓰임새가 보입니다.

영역	설명	예시	AI의 역할
① 명확 영역 (Clear)	“매뉴얼대로 실수 없이 실행만 하면 되는 단순 업무” 원인과 결과가 자로 잰 듯이 똑 떨어지는 아주 평화롭고 안정된 공간입니다. “A 규칙을 적용하면 무조건 B 결과가 나온다”는 공식이 100% 예측 가능하게 작동합니다.	규격화된 영수증 확인 및 경비 청구 결재 승인 매뉴얼에 완전히 서술된 고객 주소지 단순 변경 처리 표준 가이드에 따른 신입 사원 PC 계정 및 사내 이메일 생성	지치지 않는 단순 반복형 자동화 기계 정해진 규칙에 따라 회의실을 예약하거나 서류를 자동 분류하는 단순 작업을 인간보다 100배는 빠르게 처리합니다. 덕분에 인간은 따분한 행정 업무에서 완전히 벗어날 수 있습니다.
② 난해 영역 (Complicated)	“각 분야 전문가들이 머리를 맞대고 이미 존재하는 정답을 찾아야 하는 과제” 인과관계가 분명히 존재하지만 일반인의 눈에는 바로 보이지 않아,고도의 분석과 정밀한 시뮬레이션이 필요합니다. 정답으로 가는 여러 갈래의 다양하고 훌륭한 경로가 존재합니다.	대형 클라우드 서버 인프라 및 전사 DB 아키텍처 설계 수십 개의 까다로운 세법 규정 및 기업 특허 판례를 치밀하게 대조해 내는 세무/법률 분석 글로벌 공급망(SCM) 유통 경로 계산을 통한 물류 원가 다변량 분석	전문가 옆을 지키는 공동 조종사(Co-pilot) 막대한 분량의 규칙이나 과거 데이터를 절대 헷갈리지 않고 비교 검토합니다. 사람이 미처 눈치채지 못하고 놓친 수치적 모순이나 이상 거래 징후들을 신속하게 찾아냅니다.
③ 복잡 영역 (Complex)	“시장의 트렌드와 고객의 요구 변경처럼 겪어보기 전엔 절대 모르는 공간” 고정된 공식이 통하지 않고, 수많은 사람의 주관적 감정과 통제 불가능한 변수들이 실시간으로 뒤엉킵니다. 사전에 완벽한 기획서를 쓰는 것 자체가 불가능하며, 오직 현장에서 부딪히고 실패해가며 사후적으로만 배움을 얻는 비선형적 무대입니다.	신선한 기술을 결합하여 시장에 처음 투입하는 혁신적인 웹 서비스 개발 M&A 직후 완전히 다른 문화와 성향을 지닌 두 기업의 전사적 조직 문화 통합 프로젝트 날것의 고객 피드백과 여론에 따라 매 시간 소재를 바꿔 집행해야 하는 브랜딩 마케팅	결코 지휘관이 될 수 없는 탐색 비서 및 신호 증폭기 AI가 스스로 완벽한 해법을 도출할 수 없습니다. 대신 데이터의 미세한 흐름 변동을 포착하여, 인간이 새로운 가설을 세울 수 있도록 날카로운 영감을 불어넣어 주는 역할에 머물러야 합니다.
④ 혼돈 영역 (Chaotic)	“당장 비상이 걸려 빠른 정상화가 우선인 상황” 질서가 완벽히 깨져서 실시간으로 회사의 자산과 인프라가 붕괴해 가는 초패닉 상태입니다. 한가하게 원인을 규명하기 위해 회의를 열거나 보고서를 올릴 틈이 절대 존재하지 않습니다.	본사 중앙 DB 서버에 실시간 무차별 랜섬웨어 감염이 발생해 전산망이 일제히 정지된 순간 대외 신인도에 파멸적 충격을 줄 만한 초대형 고객 정보 유출 보안 사고 발생 글로벌 거시경제 붕괴 및 파트너사 부도로 결제망과 예치 자금이 묶이는 유동성 동결 위기	소음을 지우는 비상 상황 분류 통제 데스크 복잡한 인과관계 분석에 시간을 빼앗겨서는 안 됩니다. 빗발치는 비상 메시지와 오류 알림의 중복 소음을 지워주고, 긴급 순서대로 자원을 고속 배분하는 역할에 집중해야 합니다.

 

AI가 ‘① 명확’ 및 ‘② 난해’ 영역에서 압도적인 이유

한마디로 요약하면 AI는 ‘시험 범위가 완벽하게 정해진 시험’만 쳐온 전교 1등입니다. 출제 범위 안에서 공식대로 풀면 무조건 100점을 맞지만, 아무 가이드도 정답도 없고 심사위원 마음에 따라 점수가 뒤바뀌는 실기 시험을 치라고 하면 완전히 멘붕에 빠집니다.

AI가 ① 명확 영역과 ② 난해 영역처럼 ‘이미 정해진 규칙과 질서가 존재하고 예측 가능한 곳’에서 인간을 뛰어넘는 초능력을 발휘하는 데는 명확한 논리적 근거가 있습니다.

1. 입력과 결과가 늘 일치하는 ‘인과관계의 일관성’
AI는 기본적으로 과거 데이터의 연결 고리를 정교하게 복사하는 기계입니다. “A를 넣으면 반드시 B가 나온다”는 업무 규칙이 철저하게 유지되어야만, 규칙을 정확히 학습하고 100%에 가까운 신뢰도를 보장할 수 있습니다.

2. 성공과 실패를 칼같이 나누는 ‘명확한 평가 기준’
AI가 스스로 성능을 개선하려면 무엇이 성공이고 실패인지 판정하는 수학적 채점 기준(목적 함수)이 선명하게 주어져야 합니다. 평가의 기준선이 중간에 변하지 않아야 수만 번씩 연산을 반복하며 비용과 오류를 최소화하는 최적화 경로를 완벽히 찾아냅니다.

3. 텍스트와 매뉴얼로 공식화된 ‘형식지’ 가공력
세법 규정, 서버 설계, 업무 표준 가이드라인 등은 인간의 노하우가 글과 수식의 형태로 예쁘게 정리된 지식입니다. AI는 인간처럼 규정을 잊어버리거나 지치는 현상이 전혀 없어, 규격화된 방대한 문서를 대조하고 조율하는 영역에서는 인간을 아득히 뛰어넘는 우위를 점합니다.

 

‘③ 복잡’ 및 ‘④ 혼돈’ 영역에 AI를 적용할 때의 함정

생성형 AI는 이전의 딱딱한 규칙 기반 계산기들과 결이 완전히 다릅니다. 아마존의 제프 베조스가 말했듯, 생성형 AI는 완벽한 설계도에 의해 기계적으로 제작된 도구가 아니라, 대규모 데이터라는 거친 생태계에서 “우연히 발견되어 인간이 길들이고 조율해 가며 조심스럽게 쓰고 있는 야생 동물”에 가깝습니다.

여기서 우리는 가장 중요한 질문을 던져야 합니다.

우리가 지금 해결하려는 문제가 AI가 잘하는 정량 최적화인가, 아니면 인간이 직접 부딪혀야 하는 비선형 복잡계인가?

만약 이 경계선을 분간하지 못한 채, AI에 맞지 않는 복잡 영역 업무의 지휘권을 무작정 AI에 위임해버리면 조직은 심각한 부작용을 겪게 됩니다.

1. 화려한 보고서가 만드는 ‘분석 마비’ (통제력의 환상)

생성형 AI는 논리적 인과관계를 이해하는 지적 생명체가 아닙니다. 그저 질문에 대해 ‘통계적으로 가장 그럴듯한 단어’를 확률로 이어 붙이는 초고성능 자동 완성 기계일 뿐입니다. 겉보기엔 감탄이 나오는 비즈니스 로드맵을 뚝딱 그려내지만, 실상은 앞뒤가 맞지 않는 거짓말일 확률이 높습니다.

진짜 비극은 사람들이 이 화려한 문서에 속아 넘어간다는 점입니다. 실무자의 주체적인 고민 없이 대량 복제된 쓰레기 보고서만 홍수처럼 쏟아지고, 정작 시장 검증은 한 발짝도 나아가지 못한 채 ‘회의실 안에서 문서 검토만 하다가 진이 빠지는 좀비화 현상’이 조직을 지배하게 됩니다.

2. 무색무취한 평균의 함정 (카피캣 패러독스)

변덕스러운 시장에서 살아남으려면 세상에 없던 창의적인 차별화가 생명입니다. 하지만 AI는 본질적으로 미래를 상상하지 못합니다. 과거 데이터 속에서 ‘가장 흔하고 무난한 통계적 평균치’를 추천해 주는 귀납 기계이기 때문입니다.

모든 팀원이 고뇌하는 대신 AI가 추천해 준 가장 안전한 시안을 그대로 보고하기 시작하면 어떻게 될까요? 분명 전사적으로 AI를 도입해 혁신을 단행했다고 생각했는데, 막상 시장에 출시하고 보면 경쟁 업체의 서비스나 문구와 소름 돋게 똑같은 기이한 동질화가 발생합니다. 돈은 돈대로 쓰고 차별성은 완전히 사라지는 꼴입니다.

3. 위기 앞에서 먹통이 되는 ‘생각 근육의 퇴화’ (디스킬링)

매번 내비게이션 길 안내에만 의지하다가 화면이 꺼지는 순간, 늘 다니던 아는 길조차 찾지 못하는 길치가 되는 것과 같습니다.

더 우려되는 것은 신입 사원들이 입사 초기부터 생각의 고통을 겪지 않고 오직 AI ‘복사-붙여넣기’만 반복하며 성장 기회를 박탈당하는 현상입니다. 원래 귀찮고 힘들던 기초적인 업무가 주니어 시절의 뇌 근육을 키우는 핵심 훈련이었을 수도 있기 때문입니다. 결국 절체절명의 순간에 긴급한 해명 메일 한 장조차 스스로 쓰지 못하는 인지적 공황이 오며, 결정적인 위기가 터졌을 때 현장을 주체적으로 리드할 ‘허리층 실무 전문가’가 전멸하는 뼈아픈 조직 공동화를 초래하게 됩니다.

 

AI와 ‘③ 복잡’ 영역에서 안전하게 협업하는 방법

생각의 근육을 잃지 않으면서 복잡계 문제를 극복하기 위해, 현업 실무자들의 뇌 구조와 판단 기준을 바꾸는 3가지 방법을 제안합니다.

우리가 복잡 영역에 관심을 가져야 하는 이유는, 현대 기업 및 시장 환경에서 가장 높은 비율을 차지하고 있는 문제 영역이기 때문입니다. (애자일이 주로 관심을 갖는 영역이기도 합니다.)

방안 1: AI에게 정답을 묻기보다 실험 아이디어를 얻어낸다

정답이 없는 복잡한 시장 문제 앞에서 AI에게 “답이 뭐냐”고 질문해봐야 뻔하고 무난한 소리만 반복됩니다. 질문의 판을 바꾸세요.

“고객사의 A 요구 사항을 검증해볼 수 있는 테스트 가설 3가지만 뽑아줘.”

AI가 브레인스토밍해 준 아이디어 중 하나를 골라, 실제 시장에 몸으로 가볍게 부딪히고(Probe) 고객의 진짜 반응을 살피는(Sense) ‘실험 설계자’로만 AI의 역할을 제약해야 합니다.

방안 2: 실패해도 안전한 ‘샌드박스’를 운영한다

AI가 뚝딱 내놓은 기획안이나 마케팅 카피를 회사 메인 브랜드나 전사 시스템에 곧장 올인하는 것은 위험천만한 도박입니다.

특정한 지점 한 곳, 충성도 높은 고객 10명, 혹은 딱 하루 동안의 이벤트처럼 실패해도 안전한 ‘샌드박스’를 따로 운영하세요. 리스크를 좁은 방에 가두어두면, AI가 엉뚱한 에러를 뿜어내더라도 해당 구역의 스위치만 툭 꺼버리면 조직 전체의 피해를 원천 봉쇄할 수 있습니다.

방안 3: AI에게 핸들을 맡기더라도, 내 발은 ‘보조 브레이크’에 올려둔다

기초적인 데이터 정리와 초안 작성은 AI에게 전적으로 맡겨 업무 속도를 높일 수 있습니다. 다만, 최종 전송 버튼을 누르거나 숫자를 집행하기 직전의 마지막 안전선에는 무조건 사람 전문가를 앉혀야 합니다.

운전면허 학원 연습 차량 조수석에 앉은 강사처럼, AI가 순간적으로 상황 판단 착오를 일으키거나 엉뚱한 환각 시스템 오류를 보일 때 사람이 즉각 브레이크를 밟아 수습할 수 있는 ‘수동 가드레일’을 구축해 두는 것입니다.

 

결론: 환상에서 벗어나야 생존의 길이 보인다

비즈니스 현장에 AI가 빠르게 보급되기 시작하자, 수많은 리더와 구성원들은 큰 착각에 빠졌습니다. “이제 AI가 초고속으로 코딩을 다 해주고 문서를 뚝딱 써주니, 모든 개발과 기획 프로세스를 완벽하게 통제하여 공장처럼 찍어낼 수 있는 초예측의 시대가 드디어 오겠구나!” 하고 말이죠.

하지만 이는 기술의 껍데기만 보고 본질을 완전히 거꾸로 짚은 비극적인 환상입니다. 생성형 AI가 비즈니스 전면에 도입될수록, 우리 조직은 예측 가능한 세계가 아니라 오히려 그 어느 때보다 극단적이고 혼란스러운 ‘복잡 영역’의 정가운데로 강제로 등 떠밀려 가게 됩니다. 모두가 똑같이 뛰어난 AI를 사용하는 상황에서, 과거 데이터를 평균 낸 결과물로는 시장에서 한 치의 차별성도 만들 수 없기 때문입니다.

이 비선형적이고 살아 움직이는 아수라장 속에서도 여전히 거창한 계획과 완벽한 통제라는 헛된 환상을 내려놓아야 합니다. 내일 아침 당장 작고 안전한 실험을 던지고, 시장의 진짜 피드백을 감지하며 유연하게 돛을 수정하는 경험주의적 태도야말로 AI 시대의 유일한 구명줄이자 생존 공식입니다.