- 모델의 성능을 평가하고 약점을 진단할 수 있다.
- 사회적 영향을 고려하여 인공지능 소프트웨어를 점검할 수 있다.
- 평가 결과를 반영하여 성능을 개선하고 결과를 공유할 수 있다.
생각 열기 — 발표가 끝이 아니다
3차시에서 만든 첫 모델, 잘 작동하던가요? 아마 어떤 동작은 잘 맞히고 어떤 동작은 자주 틀렸을 거예요. 처음 만든 AI가 완벽한 경우는 거의 없어요. 중요한 건 여기서 멈추지 않는 거예요 — 무엇이 부족한지 평가하고, 그 결과를 반영해 개선하는 것이 진짜 실력이거든요.
그리고 한 가지 더. 성능만 좋다고 좋은 AI가 아니에요. 3단원에서 배웠듯 편향은 없는지, 누군가에게 해롭진 않은지 — 사회적 영향까지 점검해야 비로소 '책임 있는 AI'가 완성됩니다. 이번 차시는 그 두 가지, 평가·개선과 사회적 점검을 다룹니다.
내가 만든 분류기가 '정확도 90%'라고 나왔어요. 그런데 이 숫자 하나만 믿어도 될까요? 90%가 좋은 건지 나쁜 건지, 그리고 나머지 10%는 누구를(어떤 경우를) 틀리는지를 왜 따져 봐야 할까요?
약점을 진단하고 고치기
평가 → 진단 → 개선의 반복
2단원에서 배운 평가 도구들을 기억하나요? 훈련/테스트 분리, 과적합, 정확도·정밀도·재현율 — 이 도구들로 모델의 약점을 진단해요. 그리고 진단에 맞는 처방을 내려 고치는 거죠. 이 과정은 한 번이 아니라 여러 번 반복돼요.
흔한 문제마다 처방이 달라요. 직접 'AI 의사'가 되어 진단하고 처방해 봅시다!
모델의 증상을 고르고, 가장 알맞은 처방을 선택해 보세요. (2·3단원에서 배운 개념이 그대로 쓰여요!)
성능을 넘어 — 사회적 영향 점검
책임 있는 AI 완성하기
성능을 끌어올렸다면, 이제 3단원에서 배운 윤리·사회적 영향을 점검할 차례예요. 내 AI를 세상에 내놓기 전에 아래를 꼭 확인하세요. 실제로 한 것에 체크해 보세요(이 브라우저에 저장됩니다).
✅ 책임 있는 AI 점검 체크리스트
정확도가 높은 AI가 '잘 만든 AI'라면, 거기에 공정하고, 안전하고, 책임질 수 있는 AI가 '좋은 AI'예요. 세상을 떠들썩하게 한 AI 사고들(채용 차별, 얼굴 인식 오류)은 대부분 성능은 좋았지만 사회적 영향을 점검하지 않아서 생겼어요. 그래서 책임 있는 개발자는 '얼마나 정확한가'와 '누구에게도 해롭지 않은가'를 함께 묻습니다. 이 점검표는 여러분이 만들 모든 AI의 마지막 관문이에요.
고치고, 나누다 — 반복과 공유
프로젝트의 완성
평가와 점검에서 찾은 부족한 점을 반영해 다시 개선하면, 모델은 한 단계 나아져요. 이 '평가→개선'을 시간이 허락하는 만큼 반복하면 됩니다. 그리고 마지막으로 결과를 정리해 나누는 것(공유·발표)으로 프로젝트가 완성돼요.
과정을 기록
무엇을 왜 그렇게 정했는지, 무엇이 어려웠는지 — 결과만큼 과정이 중요해요.
솔직하게 공유
잘된 점뿐 아니라 한계와 실패도 나눠요. 거기서 모두가 배워요.
다음을 상상
"더 발전시킨다면?" 다음 버전의 아이디어로 프로젝트를 마무리해요.
프로젝트의 진짜 성과는 '완벽한 AI'가 아니라 '끝까지 해낸 경험과 그 과정의 배움'이에요. 정확도가 70%여도 괜찮아요 — 문제를 정의하고, 데이터를 모으고, 만들고, 평가하고, 사회적 영향을 고민한 그 전 과정을 경험한 것이 이 단원의 목표였으니까요. 무엇이 잘됐고 무엇이 아쉬웠는지 솔직하게 돌아보는 성찰로 마무리하면, 다음 프로젝트는 훨씬 더 좋아질 거예요. 여러분은 이제 인공지능을 '쓰는 사람'을 넘어 '만들고 책임지는 사람'이 되었습니다!
확인 문제
바로바로 채점!
4차시 확인 문제
4문항 · 즉시 채점
1훈련 정확도 99%, 테스트 정확도 60%인 모델을 개선하는 올바른 방법은?
2분류기가 남학생은 잘 맞히는데 여학생은 자주 틀린다면, 올바른 개선책은?
3'잘 만든 AI'를 넘어 '좋은 AI'가 되려면 성능과 함께 점검할 것은?
4[OX] AI 프로젝트의 진짜 성과는 완벽한 결과물보다 전 과정을 경험하고 성찰하는 데 있다.
더 알아보기
교과서 너머의 이야기 — 클릭해서 펼쳐 보세요
방법오답에서 배우기 — 오류 분석의 힘
모델을 개선하는 가장 강력한 방법은 '틀린 것들을 직접 들여다보는 것'이에요. 이를 오류 분석(error analysis)이라고 해요. 정확도 숫자만 보면 '90%'로 끝이지만, 틀린 10%를 하나하나 살펴보면 패턴이 보여요 — "어두운 사진을 자주 틀리네?", "비슷하게 생긴 두 동작을 헷갈리네?", "특정 배경에서만 틀리네?" 이렇게 틀리는 이유의 공통점을 찾으면, 무엇을 고쳐야 할지(어두운 사진을 더 모으기, 헷갈리는 두 클래스 데이터 보강하기)가 분명해지죠. 프로답게 모델을 개선하는 사람들은 정확도 숫자에 일희일비하지 않고 '어디서, 왜 틀리는가'를 집요하게 파고들어요. 여러분의 프로젝트에서도, 틀린 사례 몇 개만 자세히 봐도 개선의 실마리가 보일 거예요. 오답은 가장 친절한 선생님이랍니다.
개념AI는 '배포하고 끝'이 아니다 — 운영과 모니터링
실제 서비스되는 AI는 만들어 내놓은 뒤에도 계속 돌봐야 해요. 왜냐고요? 세상이 변하기 때문이에요. 예를 들어 유행어를 학습한 챗봇은 시간이 지나면 새 유행어를 모르고, 코로나 이전 데이터로 학습한 수요 예측 모델은 팬데믹 후 엉뚱한 예측을 했죠. 이렇게 시간이 지나며 데이터·세상이 바뀌어 모델 성능이 떨어지는 현상을 '모델 드리프트(drift)'라고 해요. 그래서 실무에서는 배포 후에도 성능을 계속 모니터링하고, 새 데이터로 주기적으로 다시 학습시켜요. AI는 한 번 만들면 영원한 '완성품'이 아니라, 계속 돌보고 업데이트해야 하는 '살아 있는 시스템'인 셈이죠(정보 5단원의 '업데이트는 즉시'와도 통해요!). 여러분의 프로젝트도 "1년 뒤에도 잘 작동할까?"를 한번 상상해 보면 좋은 성찰이 될 거예요.
마무리이 과목을 마치며 — 여러분은 무엇이 되었나
긴 여정이었어요. 1단원에서 인공지능이 '생각하는 원리'(탐색·추론)를 파헤쳤고, 2단원에서 데이터로 직접 길러 봤으며, 3단원에서 그 사회적 영향과 윤리를 고민했고, 4단원에서 마침내 나만의 프로젝트를 설계했어요. 이제 여러분은 인공지능을 막연히 두려워하거나 맹신하지 않아요. 그 속을 이해하고, 비판적으로 바라보며, 책임 있게 만들 줄 아는 사람이 되었죠. 인공지능 기술은 앞으로도 빠르게 변할 거예요. 하지만 이 과목에서 기른 '원리를 이해하는 힘, 비판적으로 생각하는 힘, 책임 있게 판단하는 힘'은 어떤 기술이 와도 변치 않는 나침반이 될 거예요. 다음 진로 선택 과목 「데이터 과학」, 「소프트웨어와 생활」에서, 혹은 여러분이 직접 만들 미래에서 다시 만나요. 정말 고생 많았습니다! 🎉