- 기계학습으로 풀기에 적합한 문제를 가려내고 문제를 분명히 정의할 수 있다.
- 문제 해결에 필요한 데이터를 선정하고 수집 방법을 설계할 수 있다.
- 데이터 편향이 인공지능에 미치는 영향을 이해하고 공정성을 설명할 수 있다.
생각 열기 — 채용 AI가 여성을 떨어뜨린 이유
한 글로벌 기업이 이력서를 자동 심사하는 채용 AI를 만들었어요. 과거 10년간 합격한 직원들의 이력서로 학습시켰죠. 그런데 이 AI는 '여성'이라는 단어가 들어간 이력서에 낮은 점수를 줬습니다. 왜였을까요?
비밀은 데이터에 있었어요. 과거 그 분야에 남성 직원이 훨씬 많았기에, 학습 데이터 자체가 남성에 치우쳐 있었던 거예요. AI는 "남성스러운 이력서 = 합격"이라는 과거의 편향까지 그대로 학습한 셈이죠. 결국 이 회사는 AI 채용을 폐기했습니다. 이 사건은 기계학습의 가장 중요한 진실 하나를 보여 줘요 — "AI는 우리가 준 데이터를 닮는다."
만약 길고양이 사진만 잔뜩 모아 '고양이 분류기'를 만들었다면, 집고양이(품종묘) 사진을 보여 줬을 때 잘 알아볼까요? AI가 무엇을 '본 적 있는지'가 왜 그렇게 중요할까요?
좋은 문제 정의가 절반이다
기계학습으로 풀 만한 문제 가려내기
모든 문제를 기계학습으로 풀 필요는 없어요. 1단원에서 배웠듯, 기계학습이 빛나는 문제는 ① 패턴이 있고 ② 데이터가 충분하며 ③ 규칙으로 일일이 적기는 어려운 문제예요. 여기에 더해 문제를 '무엇을 입력하면 무엇을 맞히는가'로 분명하게 정의해야 합니다.
무엇을 예측·판단?
"이 메일이 스팸인가?", "내일 손님이 몇 명?"처럼 맞혀야 할 대상(목표)을 분명히.
무엇을 보고?
판단의 근거가 될 입력(특성)은? 메일 본문, 요일·날씨·행사 정보 등.
잘했는지 어떻게 알까?
성공을 측정할 기준이 있어야 해요. "정답을 몇 % 맞혔나" 같은.
🎮 분류 게임 — 기계학습에 맞는 문제일까?
다음 문제를 기계학습이 적합한 문제와 일반 프로그램이 더 나은 문제로 분류해 보세요!
🤖 기계학습이 적합
📐 일반 프로그램이 적합
정답을 구하는 분명한 공식·규칙이 이미 있다면(넓이 계산, 요일, 세금) 일반 프로그램이 더 정확하고 빨라요. 반대로 규칙은 모르지만 예시(데이터)는 많은 문제(스팸, 병변, 음성)는 기계학습의 무대입니다.
데이터 선정과 수집 — AI의 교과서 만들기
무엇을, 얼마나, 어디서
문제를 정했다면 그 문제를 풀 데이터를 모아야 해요. 데이터는 기계학습 모델의 '교과서'와 같아서, 어떤 데이터로 배우느냐가 AI의 실력을 결정합니다.
| 질문 | 고려할 점 | 예: 우리 학교 급식 잔반량 예측 AI |
|---|---|---|
| 무슨 데이터? | 목표를 맞히는 데 도움이 될 특성 | 날짜·요일·메뉴·날씨·행사 여부·과거 잔반량 |
| 얼마나? | 많을수록 좋지만, 질이 우선 | 최소 한 학기, 가능하면 여러 학기치 |
| 어디서? | 직접 측정·기록 / 공공데이터 / 센서 | 급식실 잔반 저울 기록, 기상청 날씨 데이터 |
| 믿을 만한가? | 정확·최신·일관성 있는 데이터인가 | 저울 오작동·기록 누락 없는지 점검 |
컴퓨터 과학의 오랜 격언이 있어요 — "Garbage In, Garbage Out(쓰레기를 넣으면 쓰레기가 나온다)." 아무리 똑똑한 알고리즘도 엉터리·부족·치우친 데이터로는 좋은 AI를 만들 수 없어요. 그래서 현업 데이터 과학자는 시간의 대부분을 '좋은 데이터를 모으고 다듬는 데' 쓴답니다(2차시에서 본격적으로!).
데이터 편향과 공정성 — AI는 데이터를 닮는다
생각 열기의 채용 AI를 기억하나요?
데이터 편향(bias)은 학습 데이터가 한쪽으로 치우쳐, AI의 판단도 불공정해지는 현상이에요. 편향은 나쁜 의도 없이도 생겨요 — 그저 모은 데이터가 세상을 고르게 담지 못했을 때 발생하죠. 직접 실험해 봅시다.
'강아지 인식기'를 학습시킵니다. 각 품종을 몇 장씩 학습시킬지 정해 보세요. 모델은 많이 본 품종일수록 잘 알아봐요. 학습 데이터의 균형이 인식률(공정성)을 어떻게 바꾸는지 확인하세요!
📚 학습 데이터 (품종별 사진 수)
🎯 품종별 인식 정확도 (테스트)
적게 학습한 품종은 인식률이 뚝 떨어졌죠? 이것이 바로 데이터 편향이에요. 만약 이 품종이 사람의 '피부색'이나 '성별'이었다면? 실제로 일부 얼굴 인식 AI는 특정 인종·성별에서 오류율이 훨씬 높아 문제가 됐어요. 인공지능의 공정성(fairness)은 알고리즘만의 문제가 아니라 '누구의 데이터를 얼마나 고르게 모았는가'에서 시작됩니다. 데이터를 모을 때부터 다양성을 챙기는 것 — 그게 책임 있는 AI 개발의 첫걸음이에요.
확인 문제
바로바로 채점!
1차시 확인 문제
4문항 · 즉시 채점
1다음 중 기계학습보다 일반 프로그램으로 푸는 것이 더 적절한 문제는?
2"Garbage In, Garbage Out"이 기계학습에서 뜻하는 바는?
3학습 데이터가 한쪽으로 치우쳐 AI의 판단이 불공정해지는 현상은?
4[OX] 공정한 인공지능을 만들려면 데이터를 모을 때부터 다양한 집단을 고르게 담는 것이 중요하다.
더 알아보기
교과서 너머의 이야기 — 클릭해서 펼쳐 보세요
사례현실의 편향 사고들 — AI가 차별을 학습할 때
데이터 편향은 교과서 속 이야기가 아니에요. ① 채용 AI: 과거 합격자 데이터의 성별 편중을 학습해 여성 지원자에게 불리하게 작동(결국 폐기). ② 얼굴 인식: 한 연구에서 밝은 피부 남성은 오류율 1% 미만이었지만 어두운 피부 여성은 오류율이 30%를 넘기도 했어요 — 학습 데이터에 특정 집단이 적었기 때문이죠. ③ 재범 예측: 과거의 편향된 수사·판결 데이터를 학습해 특정 인종에게 높은 위험 점수를 매겨 논란이 됐습니다. 공통점이 보이나요? AI가 악의를 가진 게 아니라, 과거 데이터에 담긴 사회의 편향을 그대로 따라 한 것이에요. 그래서 데이터를 모으고 점검하는 단계에서부터 공정성을 챙기는 일이 점점 더 중요해지고 있습니다.
심화정답표는 누가 만드나 — 데이터 레이블링과 그 비용
지도학습에 쓰는 데이터에는 정답표(레이블)가 붙어 있어야 해요. "이 사진은 고양이", "이 메일은 스팸"처럼요. 그런데 이 정답표는 누가 붙일까요? 대부분 사람이 하나하나 답니다. 이 일을 데이터 레이블링이라 하고, 전 세계 수많은 사람이 이 작업에 참여해요(정보 4단원에서 '1분 라벨러 체험'을 했었죠!). 수백만 장에 정답을 다는 일은 엄청난 시간과 비용이 들어서, AI 개발에서 가장 큰 비용 중 하나예요. 게다가 레이블링하는 사람의 기준이 흔들리면(어디까지를 '고양이'로 볼지) 데이터 품질이 떨어지죠. 그래서 명확한 레이블링 지침을 만들고, 여러 사람의 레이블이 일치하는지 검수하는 것까지가 데이터 준비의 중요한 과정이랍니다.
윤리내 데이터는 누구 것? — 데이터 수집과 개인정보
AI 학습에 쓰이는 데이터의 상당수는 사람들이 남긴 기록이에요 — 사진, 글, 검색 기록, 위치. 그래서 데이터를 모을 때는 기술 문제만이 아니라 윤리·법 문제가 따라와요. ① 동의: 내 데이터가 AI 학습에 쓰이는 데 동의했나? ② 개인정보 보호: 이름·얼굴 같은 식별 정보를 어떻게 보호하나(정보 5단원의 비식별화!)? ③ 저작권: 남이 만든 글·그림·음악을 허락 없이 학습에 써도 될까? 특히 생성형 AI 시대에 창작물의 무단 학습은 전 세계적으로 뜨거운 논쟁거리예요. "기술적으로 가능하다"가 "윤리적으로 괜찮다"를 뜻하지는 않아요. 좋은 AI 개발자는 데이터를 모으는 첫 단계부터 이 질문들을 함께 고민합니다.