NTT DATA, AI로 사고 분석 시간을 30분으로 줄인 비결
들어가는 이야기: 왜 30분이라는 숫자가 주목받을까
밤새 이어진 장애 알림, 쌓여만 가는 로그, 그리고 끝없이 길어지는 회의록. IT 운영 현장에서 incident 분석은 엔지니어의 밤과 낮을 가리지 않고 시간을 잡아먹는 가장 묵직한 짐입니다. 어떤 날은 한 건의 원인을 찾기 위해 수십 개의 시스템을 뒤지고, 수천 줄의 로그를 눈으로 훑어야 하기도 합니다. 그 과정에서 우리는 종종 묻습니다. “이 반복적인 일에서 우리를 다시 사람답게 만들어 주는 시간은 언제쯤 돌아올까.”
바로 그 물음에 답하듯, NTT DATA 그룹이 OpenAI의 Codex를 만나 뜻밖의 변화를 만들어 냈습니다. 단순히 도구 한 가지를 도입한 것이 아니라, 운영의 호흡 자체를 바꿔 놓은 사건이었습니다. 사고 분석에 쓰이던 긴 시간이 30분이라는 선명한 숫자로 압축되었고, 그 자리에 다시 사람과 사람이 마주 앉는 대화가 돌아왔습니다. 이 글은 속도가 만들어 낸 변화의 결을 따라가 보는 시간입니다. 숫자 뒤에 숨은 마음의 온기까지 함께 전해 드립니다.
Codex와 함께한 NTT DATA의 변화 한눈에 보기
기존 흐름과 도입 이후의 다른 결
이전의 incident 분석 과정은 정해진 절차처럼 반복되었습니다. 알림이 울리면, 엔지니어가 로그를 열어 키워드를 검색하고, 여러 시스템 사이를 오가며 단서를 모아 정황을 짚었습니다. 때로는 같은 로그를 여러 사람이 동시에 열어 보며 두 번, 세 번 같은 일을 반복하기도 했습니다. 분석 한 건에 짧게는 몇 시간, 길면 반나절 이상이 소모되는 일이 흔했습니다.
Codex가 합류한 이후의 흐름은 다릅니다. 모델이 관련 로그와 메트릭, 변경 이력을 빠르게 읽고 패턴을 제안합니다. 엔지니어는 그 제안을 출발점으로 삼아, 사람이 해야 할 판단에 집중합니다. 화면을 예시처럼 단순화해 보면 이런 결입니다.
- 도입 전: 로그 수집 → 수작업 검색 → 회의 → 정황 정리 → 원인 추정 → 후속 조치
- 도입 후: 자동 수집 및 요약 → Codex의 패턴 제안 → 사람의 검증과 판단 → 신속한 후속 조치
이 단순한 흐름의 차이가, 실전에서는 놀라운 변화를 만들어 냈습니다. 분석 시간이 평균 수 시간에서 30분 안팎으로 줄었고, 동시에 후속 조치의 정확도까지 높아진 것입니다. 속도와 품질이 함께 성장하는, 운영 현장이 오래 바래 왔던 모습이었습니다.
도입의 범위와 현장의 호응
NTT DATA는 사내 여러 운영 팀에 Codex를 단계적으로 적용했습니다. 초반에는 통제된 소규모 영역에서 시작해, 점차 incident 분석, 변경 영향도 검토, 사후 보고서 작성 등으로 범위를 넓혔습니다. 도입에 함께한 엔지니어들의 반응은 의외로 따뜻했습니다. “이제 다시 사람이 해야 할 일을 할 수 있겠다”라는 한마디가 가장 자주 들렸다고 합니다.
도구가 사람을 대체하는 것이 아니라, 사람의 시간을 되찾아 주는 방식이었습니다. 이는 NTT DATA가 오래 추구해 온 사람 중심의 기술 철학과도 자연스럽게 맞물립니다. 도구는 수단이고, 사람이 주체라는 원칙이 한층 또렷해지는 순간이었습니다.
사람 중심의 AI 운영, 무엇이 가능해졌나
반복에서 벗어나, 의미 있는 일로
가장 먼저 달라진 것은 엔지니어의 하루입니다. 그토록 지쳐 가게 했던 반복적인 로그 검토와 데이터 정리가 모델에 의해 빠르게 정리되니, 사람은 인간적 판단이 필요한 영역에 에너지를 쏟을 수 있게 되었습니다. 예를 들어 근본 원인에 대한 깊은 추론, 고객 영향도를 고려한 의사 결정, 팀원 간의 협력 설계 같은 일이 다시 전면에 자리 잡았습니다.
이 변화는 개인의 회복을 넘어, 조직 전체의 호흡을 부드럽게 만들었습니다. 사고가 끝난 뒤에도 짧은 여유가 생기면서, 팀은 함께 돌아보고 배울 시간을 가질 수 있게 되었습니다. 운영이 단순한 진압이 아니라, 학습의 장으로 다시 태어나는 것입니다.
초동 대응이 빨라질 때, 회복되는 신뢰
운영 현장에서 신뢰는 속도에서 시작합니다. 같은 장애라도 초동 대응이 빠를수록, 고객과 현장은 “이들은 함께 있어 준다”는 느낌을 받습니다. 30분 안에 윤곽이 잡히는 분석은 그 신뢰의 첫 단추를 다시 잘 매어 줍니다. 다음의 긍정적 사이클이 자연스럽게 만들어집니다.
- 분석이 빨라지면 후속 커뮤니케이션도 빨라집니다.
- 정확한 정보가 빠르게 전달되면 고객의 불안이 줄어듭니다.
- 현장의 신뢰가 회복되면 팀은 더 건강한 마음으로 일할 수 있습니다.
- 건강한 마음은 다시 더 단단한 사고 예방과 개선으로 이어집니다.
이 선순환이야말로, NTT DATA의 변화가 단순한 효율 개선을 넘어 우리에게 건네는 진짜 메시지입니다.
도입을 고민하는 팀이 얻을 수 있는 시사점
NTT DATA의 사례는 거창한 선언보다 조용한 실천에 가깝습니다. 그 길을 따라가 보고자 하는 팀에게는 몇 가지 따뜻한 시사점이 남아 있습니다.
먼저 데이터 거버넌스입니다. Codex 같은 모델이 좋은 결과를 주려면, 모델이 읽을 수 있는 형태로 데이터가 정리되어 있어야 합니다. 이는 비용이 큰 작업처럼 느껴질 수 있지만, 한 번 잘 다듬어 두면 그 이후의 모든 운영이 한결 가벼워집니다. 작은 표준화부터 시작해도 충분합니다.
다음은 교육 설계입니다. 도구가 아무리 좋아도, 그것을 신뢰하고 활용하는 사람의 이해가 따라주지 않으면 효과는 절반이 됩니다. 단순한 사용법뿐 아니라, 모델이 어디까지를 잘하고 어디서부터 사람의 판단이 필요한지를 함께 익히는 시간이 중요합니다. 이것이야말로 도구와 사람이 함께 오래 걸을 수 있는 기반입니다.
그리고 단계적 적용입니다. 한 번에 모든 영역을 바꾸려 하기보다, 통제 가능한 한두 영역에서 시작해 작은 성공을 쌓아 올리는 것이 현실적인 길입니다. 작은 성공은 팀에 용기를 주고, 다음 단계의 문을 열어 줍니다. 무엇보다 도구보다 사람과 문화가 중심이 되어야 한다는 점을 잊지 않는다면, 도입은 자연스럽게 정착으로 이어질 것입니다.
마무리: 30분은 시작, 미래는 더 오래 머무는 데 있다
NTT DATA의 30분이라는 숫자는 분명 매력적인 성과입니다. 그러나 우리가 그 숫자 너머에 주목해야 할 것은, 그 시간을 채울 사람이 다시 사람다운 일을 할 수 있게 되었다는 사실입니다. 사고는 여전히 일어나고, 그 순간 우리는 여전히 긴장합니다. 다만 그 긴장 속에서 길을 잃지 않게 해 주는 단단한 동료가 생겼고, 그 동료 덕분에 우리는 한 발 물러서 우리를 돌아볼 여유를 얻었습니다.
AI와 사람이 함께 오래 걸을 수 있는 길은, 결국 사람과 사람의 관계를 얼마나 건강하게 지키느냐에 달려 있습니다. NTT DATA의 사례는 도구가 사람을 대체하는 미래가 아니라, 도구가 사람의 시간을 되찾아 주는 미래가 가능하다는 것을 조용히 보여 줍니다. 우리 모두의 현장이 조금 더 사람다워지길 바라며, 오늘 한 줄의 작은 시도가 내일의 큰 변화를 부른다는 믿음을 함께 두었으면 합니다.
요약 NTT DATA 그룹은 OpenAI의 Codex를 도입해 incident 분석 시간을 수 시간에서 30분 안팎으로 줄였습니다. 정량적 성과 너머에는 엔지니어가 다시 사람다운 일에 집중하게 된 정성적 변화가 있었고, 빠른 초동 대응은 고객과 현장의 신뢰 회복으로 이어졌습니다. 데이터 거버넌스, 교육 설계, 단계적 적용이라는 현실적 포인트를 함께 잡아 간다면, 도구보다 사람과 문화가 중심이 되는 사람 중심의 AI 운영이 가능합니다. 30분은 시작이며, 우리가 진짜로 머무르고 싶은 시간은 사람과 사람이 함께하는 그 길 위입니다.