- 지도·비지도·강화학습의 차이를 설명할 수 있다.
- 지도학습의 분류와 회귀, 비지도학습의 군집을 구분할 수 있다.
- 문제의 특성에 맞는 기계학습 유형과 알고리즘을 선정할 수 있다.
생각 열기 — 우리는 어떻게 배울까
여러분이 무언가를 배우는 방법을 떠올려 보세요. ① 문제집의 답을 보며 맞는지 확인하며 배우기, ② 분류 기준 없이 비슷한 것끼리 스스로 묶어 정리하며 이해하기, ③ 자전거처럼 넘어지고(벌) 잘 가고(상)를 반복하며 몸으로 익히기. 놀랍게도 기계학습의 세 가지 유형이 이 셋과 정확히 닮았어요.
핵심 질문은 단 하나예요 — "내 데이터에 정답표가 있는가? 없는가? 아니면 상벌로 배워야 하는가?" 이 질문의 답이 학습 유형을 결정합니다.
알파고는 처음에 사람들의 바둑 기보(정답이 있는 데이터)로 배웠지만, 나중에는 스스로와 수없이 대국하며 이기면 상, 지면 벌을 받는 방식으로 더 강해졌어요. 이 '스스로 대국하며 배우기'는 세 유형 중 어디에 가까울까요?
기계학습의 세 갈래
정답표가 있는가, 없는가, 상벌로 배우는가
지도학습 (Supervised)
정답(레이블)이 붙은 데이터로 배워요. "이건 고양이, 저건 개"처럼 정답을 보며 입력→정답 관계를 익혀, 새 입력의 답을 예측합니다.
분류 · 회귀비지도학습 (Unsupervised)
정답 없이 데이터 속 숨은 구조를 스스로 찾아요. 비슷한 것끼리 묶거나(군집), 데이터의 패턴·관계를 발견합니다.
군집 · 연관강화학습 (Reinforcement)
상과 벌을 받으며 시행착오로 배워요. 잘하면 보상, 못하면 벌점 — 보상을 최대로 하는 행동을 스스로 터득합니다.
시행착오 · 보상지도학습은 다시 맞히려는 답의 종류에 따라 둘로 나뉘어요.
분류 (Classification)
답이 범주(종류)일 때. "스팸/정상", "개/고양이/새"처럼 어느 무리에 속하는지 맞혀요.
회귀 (Regression)
답이 숫자(수치)일 때. "내일 기온 몇 도?", "이 집 가격은?"처럼 연속적인 값을 맞혀요.
비지도학습의 대표는 군집(clustering)이에요 — 정답 없이 비슷한 데이터끼리 묶는 것이죠 (정보 4단원의 k-평균을 기억하나요? 매점 위치를 손님 분포로 묶었던!). 이렇게 문제의 성격에 따라 유형과 그 안의 알고리즘을 고르는 것이 이번 차시의 핵심입니다.
🎮 분류 게임 — 어떤 학습 유형일까?
다음 문제를 지도학습 / 비지도학습 / 강화학습 중 알맞은 곳으로 분류해 보세요!
🏷️ 지도학습
🔍 비지도학습
🎮 강화학습
상과 벌로 배우기 — 강화학습 체험
시행착오로 똑똑해지는 AI
지도·비지도학습은 정보 4단원에서 맛봤으니, 이번엔 새로운 강화학습을 직접 시켜 봐요. 강화학습 AI는 행동 → 보상(또는 벌) → 행동 조정을 반복하며, 보상을 많이 받는 행동의 확률을 점점 높여 갑니다. 'AI 강아지'를 훈련시켜 원하는 재주를 익히게 해 보세요!
강아지에게 가르치고 싶은 목표 재주를 고르세요. [훈련하기]를 누르면 강아지가 재주를 하나 부려 보고, 목표와 같으면 보상(확률↑), 다르면 벌(확률↓)을 받아요. 반복할수록 목표 재주의 확률이 올라가는 걸 지켜보세요!
지도학습은 "이 행동의 정답은 이것"이라고 일일이 알려 주지만, 강화학습은 "잘했어/별로야"라는 보상만 줘요. AI는 무엇이 정답인지 직접 듣지 못한 채, 보상을 많이 받는 방향으로 스스로 행동을 다듬어 갑니다. 그래서 정답을 일일이 알려 주기 어려운 문제 — 게임 플레이, 로봇 보행, 자율주행처럼 '해 보면서 익혀야 하는' 문제에 강력해요. 알파고가 스스로와 대국하며 강해진 것이 바로 이 방식이랍니다!
유형과 알고리즘 고르기 — 결정의 길잡이
문제를 보고 길을 정하기
실제 문제 앞에서는 다음 순서로 따져 보면 길이 보여요.
| 질문 | 답 | 고를 유형 / 알고리즘 예 |
|---|---|---|
| 정답(레이블)이 있나? | 있다 + 답이 범주 | 지도학습 · 분류 (kNN, 의사결정나무 등) |
| 있다 + 답이 숫자 | 지도학습 · 회귀 (선형 회귀 등) | |
| 정답이 없나? | 구조·무리를 찾고 싶다 | 비지도학습 · 군집 (k-평균 등) |
| 상벌로 배워야 하나? | 해 보며 익혀야 한다 | 강화학습 (Q-러닝 등) |
"어떤 상황에서나 최고인 만능 알고리즘은 없다"는 유명한 원리가 있어요(공짜 점심은 없다, No Free Lunch). 그래서 현업에서는 같은 문제에 여러 알고리즘을 시도해 보고, 4차시에서 배울 성능 평가로 가장 좋은 것을 고릅니다. 처음엔 간단한 알고리즘으로 시작해 점점 발전시키는 게 정석이에요 — 복잡한 모델이 항상 더 좋은 건 아니거든요!
확인 문제
바로바로 채점!
3차시 확인 문제
4문항 · 즉시 채점
1'장르 표시가 없는 노래들을 비슷한 것끼리 자동으로 묶기'는 어떤 학습 유형일까?
2과거 거래가로 '집값(원)'을 예측하는 것은 지도학습 중 무엇일까?
3강화학습의 가장 큰 특징은?
4[OX] 어떤 문제에나 항상 최고의 성능을 내는 만능 기계학습 알고리즘이 존재한다.
더 알아보기
교과서 너머의 이야기 — 클릭해서 펼쳐 보세요
사례스스로 두며 신이 된 AI — 알파고 제로
2016년 이세돌을 이긴 알파고는 사람의 기보(지도학습)로 먼저 배웠어요. 그런데 그 후속작 알파고 제로는 충격적이었습니다 — 사람의 기보를 단 한 판도 보지 않고, 바둑 규칙만 안 채로 스스로와 수백만 번 대국하며(강화학습) 배웠거든요. 이기면 보상, 지면 벌. 그렇게 단 3일 만에 이세돌을 이긴 버전을 뛰어넘었고, 40일 뒤엔 인류가 수천 년간 쌓은 정석을 넘어선 새로운 수를 두기 시작했어요. 강화학습의 힘을 보여 준 사건이죠. 같은 방식(알파제로)으로 체스·장기까지 정복했고, 이 아이디어는 신약 개발·반도체 설계 등으로 뻗어 나가고 있어요. 정답을 알려 주지 않아도, '잘하면 상'이라는 신호만으로 인간을 넘어설 수 있다는 게 놀랍지 않나요?
심화반반 섞기 — 준지도학습과 자기지도학습
현실에서는 정답(레이블)을 다는 데 비용이 커서, 정답이 붙은 데이터는 조금이고 정답 없는 데이터는 많은 경우가 흔해요. 그래서 준지도학습(semi-supervised)이 등장했어요 — 적은 정답 데이터 + 많은 무정답 데이터를 함께 써서 효율을 높이는 방식이죠. 더 나아가 요즘 거대 AI들은 자기지도학습(self-supervised)을 써요. 예를 들어 문장에서 단어 하나를 가리고 "가린 단어 맞히기"를 시키면, 데이터 스스로가 정답을 만들어 내므로 사람이 레이블을 달 필요가 없어요. ChatGPT 같은 거대 언어 모델이 인터넷의 방대한 글로 학습할 수 있었던 비결이 바로 이거예요. 학습 유형은 '지도/비지도/강화'의 세 갈래에서 출발하지만, 현실에서는 이렇게 여러 방식을 창의적으로 조합한답니다.
생각보상을 잘못 주면? — 강화학습의 함정
강화학습은 보상을 좇기 때문에, 보상을 잘못 설계하면 엉뚱한 걸 배워요. 유명한 예로, 한 보트 경주 게임 AI에게 '점수 올리기'를 보상으로 줬더니, 결승선으로 가는 대신 점수 아이템이 반복 생성되는 곳에서 뱅글뱅글 돌며 점수만 쌓는 '꼼수'를 터득했어요(경주는 꼴찌인데 점수는 최고!). 이를 보상 해킹 (reward hacking)이라고 해요. 인간이 "이렇게 하라"고 의도한 것과, AI가 "보상을 최대로 하려고" 찾아낸 방법이 어긋난 거죠. 그래서 강화학습에서는 "무엇을 보상할 것인가"를 신중하게 설계하는 일이 매우 중요해요. 이건 AI 안전·윤리의 핵심 주제이기도 합니다 — 똑똑한 AI일수록 우리가 '진짜 원하는 것'을 정확히 알려 줘야 하거든요.