- 탐색적 데이터 분석(EDA)의 개념과 필요성을 이해한다.
- 여러 방법으로 데이터를 탐색해 의미(단서)를 발견할 수 있다.
- 발견한 단서로 창의적인 문제 해결 방법을 구상할 수 있다.
생각 열기 — 분석 전에 '둘러보기'
낯선 동네에 이사 가면 먼저 동네를 한 바퀴 둘러보죠? 어디에 마트가 있고 어떤 길이 막히는지요. 데이터도 똑같아요. 주제를 정하고 데이터를 모았다면, 바로 복잡한 모델로 달려들기 전에 데이터를 이리저리 살펴보며 친해지는 단계가 필요해요. 이것을 탐색적 데이터 분석(EDA)이라고 해요. EDA에서 "어? 이건 좀 이상한데?", "오, 이 둘이 관계있네!" 같은 단서를 얻고, 그 단서가 좋은 분석과 해결책으로 이어집니다.
처음 보는 데이터 표를 받았다고 해 봐요. 무엇부터 살펴보고 싶나요? (평균? 가장 큰 값? 이상한 값? 두 열의 관계?) 데이터를 '둘러본다'는 건 어떤 것일까요?
탐색적 데이터 분석(EDA)이란
탐색적 데이터 분석(EDA)은 본격 분석 전에 데이터를 요약하고 그려 보며 폭넓게 살펴보는 과정이에요. 정답을 찾는 게 아니라 '무엇을 물어야 할지', '어디에 단서가 있는지'를 발견하는 게 목적이죠. EDA에서 주로 살펴보는 것은:
- 요약통계: 평균·중앙값·최대/최소 — 데이터의 전반적 모습
- 분포: 값들이 어떻게 퍼져 있나 (히스토그램)
- 이상치·결측치: 이상한 값, 빈 값은 없나 (2단원!)
- 관계: 두 변수가 함께 움직이나 (산점도·상관, 2단원!)
- 시간·집단별 패턴: 요일·계절·그룹에 따라 다른가
EDA는 지금까지 배운 2단원(전처리·시각화·상관)의 도구를 '탐정처럼' 활용하는 단계예요. 직접 데이터를 탐색해 단서를 모아 봅시다!
어느 학교 매점의 30일 음료 판매 데이터예요(일부만 미리보기). 탐색 도구를 눌러 데이터 속 단서를 하나씩 발견해 보세요.
| 날짜 | 요일 | 기온(℃) | 음료 판매(잔) |
|---|---|---|---|
| 6/1 | 월 | 22 | 61 |
| 6/2 | 화 | 24 | 72 |
| 6/3 | 수 | 26 | — |
| 6/4 | 목 | 31 | 350 |
| 6/5 | 금 | 28 | 95 |
| 6/6 | 토 | 27 | 20 |
| … 외 24일 | |||
단서에서 창의적 해결로
EDA로 단서를 모았다면, 이제 "그래서 어떻게 할까?"를 창의적으로 구상할 차례예요. 단서는 가설이 되고, 가설은 해결 아이디어가 돼요.
단서: '더운 날·평일에 음료가 많이 팔린다' + '축제날(350잔) 폭증' → 가설: "기온과 행사가 음료 판매를 좌우한다" → 창의적 아이디어: "일기예보와 학사일정을 연동해 더운 날·행사 전날 음료 재고를 자동으로 늘리는 발주 알림을 만들자!" 이렇게 EDA의 단서가 구체적 해결책으로 이어져요.
EDA에는 정해진 순서가 없어요. 이것저것 그려 보고, 쪼개 보고, 의심해 보며 데이터와 노는 단계예요. 중요한 건 예상 밖의 발견에 열려 있는 것 — "이럴 줄 알았어"보다 "어? 이건 왜 이러지?"가 진짜 보물이거든요. 처음 세운 주제와 다른 흥미로운 단서가 나오면, 주제를 그쪽으로 바꿔도 좋아요!
확인 문제
바로바로 채점!
2차시 확인 문제
4문항 · 즉시 채점
1탐색적 데이터 분석(EDA)에 대한 설명으로 알맞은 것은?
2EDA에서 살펴보는 활동으로 보기 어려운 것은?
3EDA로 발견한 단서를 가장 잘 활용하는 방법은?
4[OX] EDA 중 예상과 다른 흥미로운 단서를 발견하면, 주제나 가설을 그에 맞게 바꿀 수도 있다.
더 알아보기
교과서 너머의 이야기 — 클릭해서 펼쳐 보세요
역사EDA의 아버지, 존 튜키 — "그림을 그려라"
탐색적 데이터 분석(EDA)이라는 말은 통계학자 존 튜키가 1970년대에 만들었어요. 당시 통계학은 '가설을 세우고 검정하는' 딱딱한 방식이 주류였는데, 튜키는 "먼저 데이터를 그려 보고 충분히 살펴봐야 한다"고 주장했죠. 그는 "그림은 우리가 미처 예상하지 못한 것을 보게 해 준다"고 했어요. 숫자 표만 봐서는 놓치는 패턴도, 그래프로 그리면 한눈에 보이거든요(2단원에서 봤듯이요!). 그가 만든 상자그림 (박스플롯)도 EDA의 대표 도구예요. 오늘날 모든 데이터 과학자가 분석을 시작할 때 가장 먼저 하는 일이 바로 이 '그려 보며 탐색하기'랍니다. 화려한 인공지능 시대에도, 튜키의 가르침 "일단 데이터를 봐라"는 변하지 않는 진리예요.
주의탐색하다 빠지는 함정 — '아무거나 찾기'
EDA는 자유롭게 탐색하는 단계지만, 함정도 있어요. 데이터를 너무 많이 들여다보며 이것저것 조합하다 보면, 우연히 그럴듯해 보이는 가짜 패턴을 발견할 수 있거든요(3단원의 '가짜 상관'을 떠올려 보세요). 이를 '데이터 낚시(data dredging)'라고 해요 — 마구잡이로 뒤지다 우연한 관계를 진짜인 양 믿는 거죠. 그래서 EDA에서 흥미로운 패턴을 찾았다면, "이게 정말 의미 있나, 우연은 아닌가?"를 따로 확인해야 해요. 가능하면 새로운(다른) 데이터로 다시 검증하는 게 좋고요. 탐색은 자유롭게, 그러나 결론은 신중하게 — 이 균형이 좋은 데이터 과학자의 태도예요.
실전한 장의 그림이 천 줄의 표를 이긴다
EDA에서 시각화의 힘을 보여 주는 유명한 예가 '앤스컴의 콰르텟(Anscombe's quartet)'이에요. 네 개의 서로 다른 데이터 묶음이 있는데, 평균·분산·상관계수 같은 요약 숫자는 거의 똑같아요. 숫자만 보면 "네 데이터가 같구나" 하고 넘어가기 쉽죠. 그런데 산점도로 그려 보면 네 모양이 완전히 다르다는 것이 한눈에 드러나요 — 하나는 직선, 하나는 곡선, 하나는 이상치 하나에 휘둘린 모양…! 이 예시는 "요약 통계만 믿지 말고 반드시 그려 봐라"는 EDA의 핵심 교훈을 강렬하게 보여 줘요 (「정보」 2단원에서도 만났던 이야기죠!). 데이터 분석에서 '눈으로 보는 것'은 그 무엇보다 강력한 첫걸음이랍니다.