AI가 쓴 보고서에 결재는 다섯 번 났습니다

D사는 신규 사업 진출을 검토하며 내부 보고서를 작성했습니다. 시장 규모, 경쟁사 현황, 규제 동향을 담은 수십 페이지 분량의 자료였고, 이 보고서를 근거로 이사회가 투자를 의결했습니다.

문제는 몇 달 뒤에 드러났습니다. 공동 투자를 검토하던 외부 파트너가 실사 과정에서 보고서에 인용된 통계의 출처를 확인할 수 없다고 알려온 것입니다. 확인해 보니 해당 기관은 그런 자료를 발표한 적이 없었습니다. 인용된 판례도 마찬가지였습니다.

D사 경영진의 첫 질문은 "누가 썼느냐"가 아니었습니다. "다섯 명이 결재했는데 왜 아무도 몰랐느냐" 였습니다.

이런 징후가 있었습니다

돌아보니 신호는 있었습니다.

• 해당 담당자의 산출물이 어느 시점부터 분량과 속도 모두 급격히 늘어남
• 보고서의 문체가 이전 자료와 뚜렷하게 달라짐
• 인용된 수치들이 지나치게 정연하고 서로 잘 맞아떨어짐
• 원자료를 요청한 사람이 결재 라인에 한 명도 없었음

각각은 문제로 보이지 않았습니다. 오히려 일 잘하는 직원의 신호로 읽혔습니다.

진단을 통해 드러난 것들

진단 범위는 작성자와 검토자, 결재자의 메일함과 업무용 PC였습니다.

문서의 편집 이력에서 첫 단서가 나왔습니다. 분량에 비해 실제 작업 시간이 비정상적으로 짧았습니다. 이전 버전과 최종본을 비교하자 이유가 분명해졌습니다. 초안 단계의 문장이 거의 손대지 않은 채 최종본까지 그대로 유지되어 있었습니다. 작성이라기보다 옮겨 담기에 가까웠습니다.

PC에 남은 사용 흔적에서는 보고서 작성 시각과 외부 AI 서비스 이용 시각이 맞물려 있었습니다. 회사 계정으로 가입한 외부 서비스의 결제 내역도 메일함에 남아 있었습니다.

그러나 이 진단의 핵심 발견은 작성자 쪽이 아니었습니다. 회람 메일의 회신 시각이었습니다. 수십 페이지 자료가 발송된 지 몇 분 만에 "확인했습니다"라는 회신이 돌아오고 있었습니다. 다섯 단계의 결재 중 실질적인 검토 의견이 달린 것은 극소수였고, 나머지는 수신 확인에 가까웠습니다.

인용된 출처와 통계를 하나씩 대조한 결과, 상당수가 실재를 확인할 수 없는 자료였습니다. 그 자료는 이사회 의결의 근거로 사용되었고, 일부 내용은 대외 제안서에도 그대로 옮겨져 있었습니다.

진단 결과

해당 보고서를 근거로 검토되었던 투자 규모는 약 40억 원이었습니다.

검토자가 많다는 것과 검토가 이루어진다는 것은 다릅니다

D사의 결재 라인은 다섯 단계였습니다. 많은 조직이 그렇듯, 단계가 많을수록 안전하다고 여겨졌습니다. 그러나 실제로 작동한 방식은 반대였습니다. 단계가 늘어날수록 각자는 "앞사람이 봤겠지"라고 생각했습니다.

이 사안에서 규정을 어긴 사람은 없습니다. 작성자는 자료를 만들었고, 검토자들은 결재를 했으며, 절차는 정상적으로 완료되었습니다. 어느 단계에도 "인용 출처를 확인한다"는 책임이 명시되어 있지 않았을 뿐입니다.

AI 사용 금지는 이 문제의 해법이 되기 어렵습니다. 금지된 도구는 더 보이지 않는 곳에서 쓰이고, 무엇보다 검증하지 않는 결재 라인은 AI가 없을 때도 검증하지 않습니다. 이번에는 오류가 눈에 띄는 형태로 나타났을 뿐입니다.

D사는 진단 이후 외부에 제출되는 자료에 대해 인용 출처를 확인하는 절차를 신설했고, 형식적 검토 단계를 덜어내 결재 라인을 줄였습니다. 사내 AI 활용 지침도 금지가 아니라 사용 범위와 검증 책임을 정하는 방향으로 수립했습니다.

자주 묻는 질문

우리 회사도 점검해보세요