단원 홈
4단원 · 2차시

인공지능이 손댈 수 있는 문제,
손대면 안 되는 문제

1차시에서 우리는 자를 셋 만들어 여덟 지표를 줄 세웠고, 자를 바꾸자 숙제가 셋으로 갈렸습니다. 오늘은 그 여덟 줄에서 끌어온 후보 열여섯 개를 놓고 ‘우리가 만들 수 있는가’를 가릅니다. 그런데 점수만으로 줄을 세우면 1등이 만들면 안 되는 주제로 나옵니다. 채점기는 그것을 못 잡습니다.

성취기준 12인기04-01
네 조건학기내레드라인 가중치꼴 네 가지동점
🎯 학습 목표
  • Ⅰ-2 의 세 조건에 학기 안에 되는가를 더한 네 조건으로 후보를 채점하고, 자기 주제의 꼴을 예측·분류·탐지·최적화 가운데 한 낱말로 말할 수 있다.
  • 레드라인 셋(삶을 가름 · 동의 없음 · 되돌릴 수 없음)에 걸리는 후보를 점수와 상관없이 걸러 내고, 그 근거를 Ⅲ단원의 차시에서 댈 수 있다.
  • 가중치를 흔들어 순위가 뒤집히는 자리를 직접 찾고, 81가지를 다 돌려도 바뀌지 않는 것이 무엇인지 자기 숫자로 설명할 수 있다.
🤔

여는 장면 — 칠판에 붙은 열여섯 줄

지난 시간의 여덟 지표가 오늘 후보 열여섯 개가 되어 돌아왔습니다

지난 시간 우리는 스무 나라의 여덟 지표를 세 가지 자로 재었습니다. 순위로 재면 그 스무 나라 가운데 자살사망률·물스트레스·재생에너지가 공동 20등이었고, 목표까지의 거리로 재면 재생에너지 하나였고, 개선 속도로 재면 산림면적이었습니다. 같은 표인데 자만 바꾸니 숙제가 셋으로 갈렸지요. 그때 우리가 얻은 결론은 ‘자를 고르는 것이 곧 결정이다’ 였습니다.

오늘 수업은 그 여덟 줄 앞에서 시작합니다. 각 팀이 “이 지표와 닿아 있는 우리 학교 이야기”를 한 줄씩 적어 붙였고, 칠판에는 포스트잇 열여섯 장이 붙었습니다. 몇 장을 그대로 옮겨 보면 이렇습니다.

빨간 선으로 무리를 나누고 그 안에 색색의 포스트잇을 붙여 놓은 화이트보드
어느 워크숍에서 아이디어를 모은 화이트보드입니다. 비슷한 것끼리 빨간 선으로 무리를 지었지요. 한 장 = 아이디어 한 개. 붙일 때는 모두 좋아 보이지만, 여기서 한 장을 골라 한 학기를 갑니다. 오늘 하는 일은 아이디어를 더 내는 것이 아니라 이미 붙은 것을 가르는 자를 만드는 일입니다. 출처: Corinna Schuster (WMDE), Wikimedia Commons (CC BY-SA 4.0)

📝 붙은 것 — 앞쪽 넉 장

분리수거 사진으로 품목 가려내기 · 급식 잔반량 요일별 예측 · 교내 분실물 사진 자동 분류 · 학교 앞 초미세먼지 한 시간 뒤 예측

📝 붙은 것 — 뒤쪽 넉 장

수업 중 표정으로 집중도 자동 평가 · 출결·성적으로 위험군 학생 자동 선별 · 얼굴 사진으로 진로 적성 진단 · 기후 위기를 해결한다

뒤쪽 넉 장을 다시 읽어 보세요. 넷 다 “해 보면 재미있겠다”는 말이 나올 만한 주제입니다. 그런데 넷은 서로 다른 이유로 곤란합니다. 하나는 사람을 평가하고, 하나는 사람을 골라내고, 하나는 얼굴로 사람을 판정하고, 마지막 하나는 아예 주제가 아닙니다. ‘기후 위기를 해결한다’는 무엇을 입력하고 무엇을 출력할지 한 줄로 적을 수가 없으니까요.

💭 오늘의 물음

주제가 좋은지 점수로 매길 수 있을까요? 매길 수 있다면, 점수 1등을 골라서 한 학기를 가면 되는 것일까요?

미리 답을 하나 알려 드립니다. 오늘 우리가 만들 채점기에 후보 열여섯 개를 넣고 돌리면 1등은 「수업 중 표정으로 집중도 자동 평가」이고, 점수는 12점 만점입니다. 네 조건을 하나도 빠뜨리지 않고 모두 통과한 주제입니다. 그리고 이것은 우리가 만들면 안 되는 주제입니다. 오늘 40분은 이 한 줄의 모순을 손으로 확인하고, 그래서 채점기 옆에 무엇을 더 놓아야 하는지를 정하는 시간입니다.

1

Ⅰ-2 의 자를 다시 꺼낸다 — 그런데 방향이 반대다

같은 세 조건인데 쓰는 방향이 다릅니다

세 조건은 이미 배웠습니다. Ⅰ-2 「왜 하필 인공지능인가」에서 세금 계산 화면과 X선 판독 화면을 나란히 놓고 ① 패턴이 있는가 ② 데이터가 있는가 ③ 규칙으로 적기 어려운가 — 이 셋을 뽑아냈지요. 로또 번호 예측이 ①에서 걸리고, 희귀병 진단이 ②에서 걸리고, 물의 상태 판정이 ③에서 걸렸던 그 자입니다. 오늘은 그 자를 다시 씁니다. 설명은 다시 하지 않습니다. 기억이 흐리면 Ⅰ-2 를 열어 세 원 그림을 한 번 보고 오세요.

다만 쓰는 방향이 정반대입니다. 이 차이를 짚지 않으면 오늘 활동이 Ⅰ-2 를 한 번 더 하는 것이 되어 버립니다.

Ⅰ-2 에서 — 남이 만든 것을 뜯어보았다

이미 세상에 있는 사례 여섯을 놓고 “이건 왜 인공지능을 썼을까”를 따졌습니다. 답은 이미 나와 있었고, 우리는 그 답을 설명할 잣대를 찾은 것입니다.

Ⅳ-2 에서 — 우리가 할 것을 고른다

아직 아무것도 없습니다. 우리가 고르는 순간 한 학기가 그 주제에 걸립니다. 그래서 남의 사례에는 물을 일이 없던 조건이 하나 더 필요해집니다.

세 조건 가운데 ③ 규칙난이 하나는 방향을 거꾸로 읽기 쉽습니다. 여기서 한 번 더 못박아 둡시다.

⚠️ R 을 거꾸로 읽지 마세요

R 은 ‘if 문 몇 줄로 적기 어려운가’ 입니다. 어려울수록 점수가 높습니다. 규칙으로 쉽게 적을 수 있는 문제는 인공지능이 필요 없는 문제니까요. 쉬우면 if 문을 쓰면 됩니다.

거꾸로 매기면 무슨 일이 나는지는 오늘 실제로 재 봅니다. 부호 하나를 뒤집으면 상위 셋이 교실 전등·냉난방 자동 끄기 · 급식 잔반량 요일별 예측 · 도서관 책 추천으로 바뀝니다. 인공지능이 필요 없는 문제가 1등으로 올라오는 것입니다.

2

네 번째 조건 — 우리가 학기 안에 할 수 있는가

프로젝트 단원이 자를 하나 더 붙이는 자리입니다

남의 사례를 분석할 때는 “저건 몇 달 걸렸을까”를 물을 일이 없습니다. 이미 끝난 일이니까요. 그런데 우리 주제는 우리가 끝내야 합니다. 데이터를 모을 수 있는지, 도구가 손에 있는지, 남은 주가 몇 주인지 — 이것을 조건에 넣지 않으면 ‘좋은 주제’와 ‘우리가 할 수 있는 주제’가 갈라집니다.

Ⅰ-2 에서 가져옴

P — 패턴

예시를 모아 놓으면 규칙이 보이나. 사진과 이름표 사이에 되풀이되는 것이 있어야 기계가 붙잡을 것이 생깁니다.

Ⅰ-2 에서 가져옴

D — 데이터

우리가 실제로 모을 수 있나. 세상 어딘가에 있는 것이 아니라 우리 손으로 모을 수 있는가를 묻습니다.

Ⅰ-2 에서 가져옴

R — 규칙난이

if 문 몇 줄로 적기 어려운가. 쉬우면 감점입니다. 쉬운 문제에 인공지능을 대면 손해만 봅니다.

⭐ 여기서 새로 더한다

F — 학기내

우리가 한 학기 안에 끝낼 수 있나. 데이터 확보 · 시간 · 도구 셋을 함께 봅니다.

이 네 번째 조건이 정말 필요한지는 오늘 숫자로 확인합니다. 조건을 셋만 쓰면(F 의 무게를 0 으로 두면) 1등이 「교내 분실물 사진 자동 분류」에서 「분리수거 사진으로 품목 가려내기」로 바뀝니다. 네 조건 가운데 ‘학기내’ 하나만이 그런 힘을 가지고 있습니다. 나머지 셋은 빼도 1등이 그대로입니다.

꼴 네 가지 — 한 낱말로 말하지 못하면 아직 주제가 아니다

조건 넷을 매기기 전에 먼저 통과해야 할 관문이 있습니다. 내 주제가 예측·분류·탐지·최적화 가운데 어느 꼴인지 한 낱말로 말하는 것입니다. 말하지 못하면 점수를 매길 단계가 아직 아닙니다.

예측

지금까지의 값으로 다음 값을 말한다.
요일·날씨 → 내일 잔반량(kg)

분류

주어진 것이 어느 갈래인지 말한다.
병 사진 → 가능 / 불가

탐지

수많은 것 가운데 드문 것을 찾는다.
안내문 문장 → 성차별 표현인가

최적화

여러 선택 가운데 가장 나은 것을 고른다.
교실 상태 → 언제 끌 것인가

⛔ 꼴을 말하지 못하는 주제 기후 위기를 해결한다 입력이 무엇인가? 출력이 무엇인가? 적을 수가 없다 → 네 칸이 모두 0점 ✅ 꼴을 말할 수 있는 주제 분리수거 사진으로 품목 가려내기 입력: 병 사진 한 장 출력: 가능 / 불가 꼴 = 분류 → 이제 점수를 매길 수 있다

주제를 입력 한 줄과 출력 한 줄로 쪼개 보면 꼴이 저절로 드러난다. 쪼개지지 않으면 점수가 낮은 것이 아니라 아직 잴 수가 없는 것이다.

후보 열여섯 개 가운데 꼴이 ‘없음’인 것이 둘 있습니다. 둘은 안 되는 까닭이 서로 다릅니다. 「우리 학교 온실가스 배출량 계산」은 입력과 출력이 분명한데도 ‘없음’입니다. 배출 계수를 곱해 더하면 끝이니까요. 계산이지 학습이 아닙니다. R 이 0 인 까닭도 그것입니다. 반면 「기후 위기를 해결한다」는 네 칸이 모두 0 입니다. 점수가 낮은 것이 아니라 잴 수가 없는 것이고, 이것을 어떻게 손에 잡히게 좁히는지가 다음 시간(Ⅳ-3)의 일입니다.

3

레드라인 셋 — 점수를 보지 않는 문

조건을 다 만족해도 만들면 안 되는 문제가 있습니다

여기까지는 ‘잘 되는가’를 물었습니다. 이제 ‘해도 되는가’를 묻습니다. 그리고 이 물음은 점수 안에 넣으면 안 됩니다. 넣는 순간 다른 조건이 그것을 상쇄해 버리기 때문입니다. 위험을 감점 항목으로 넣으면, 데이터가 넘치고 패턴이 뚜렷한 주제가 그 감점을 만회하고 다시 올라옵니다.

그래서 이 차시의 채점기는 두 층으로 나뉘어 있습니다. 아래는 점수를 세는 층이고, 위는 점수를 아예 보지 않는 문입니다.

후보 16개 칠판의 포스트잇 ⛔ 레드라인 문 ① 삶을 가름 ② 동의 없음 ③ 되돌릴 수 없음 점수를 보지 않는다 막힘 5개 — 점수가 몇 점이든 11개 🔢 채점기 P · D · R · F 가중치를 곱해 더한다 만점 12점 순위 11개 순서가 곧 결론이다 — 문이 먼저, 점수가 나중 순서를 뒤집으면 점수표를 먼저 본 팀은 이미 그 주제에 마음을 붙인 뒤다.

문을 통과한 11개만 채점기로 들어간다. 문은 점수를 보지 않고, 채점기는 문을 보지 않는다. 둘은 층이 다르다 — 하나는 우리가 매긴 계산이고, 하나는 사실과 판단이다.

① 삶을 가름

사람의 삶을 가르는 판정 — 진단 · 선발 · 평가 · 감시. 누가 뽑히고 누가 떨어지는지, 누가 ‘위험군’으로 불리는지를 기계가 정하는 자리입니다.

근거 — Ⅲ-7 「정확도는 같은데 차별은 어디에」. 두 집단의 정확도가 똑같이 83.0%인데 억울하게 떨어진 사람의 비율은 두 배였습니다. 공정성 지표 셋은 동시에 만족될 수 없다는 것도 증명되어 있습니다(Kleinberg·Mullainathan·Raghavan, ITCS 2017). “공정하게 만들면 되지”가 답이 못 되는 까닭입니다. 실제로 한 채용 인공지능이 성별을 가리키는 낱말로 여성 지원자를 감점해 개발이 중단된 일도 있습니다(Reuters, 2018).

② 동의 없음

당사자가 ‘그러라’고 하지 않은 자료 — 얼굴 · 목소리 · 위치 · 대화. 교실에 카메라를 두면 자료는 얼마든지 모입니다. 그것이 문제입니다.

근거 — Ⅲ-1 「내 하루에 스며든 인공지능」. 편리함의 대가로 우리가 무엇을 내주고 있는지 장부를 만들어 보았지요. 개인정보 보호법은 얼굴 같은 생체정보를 다룰 때 별도의 동의를 요구합니다. 우리 반 친구들의 얼굴은 ‘쉽게 구할 수 있는 데이터’가 아닙니다.

③ 되돌릴 수 없음

틀렸을 때 되돌릴 방법이 없는 것 — 낙인 · 기록 · 신고. 분리수거를 잘못 분류하면 다시 넣으면 됩니다. 붙은 이름표는 다시 떼지 못합니다.

근거 — Ⅲ-2 「95% 맞히는 AI를 마을에 놓았더니」와 Ⅲ-6 「자신 있게 틀리는 기계」. 같은 정확도라도 놓는 자리가 커지면 억울한 사람의 수가 늘고, 사람은 곧 확인을 그만둡니다. 그때 남는 것은 되돌릴 수 없는 기록입니다.
⚖️ 경계선에 있는 후보 — 반에서 갈릴 것이고, 갈리는 것이 정상입니다

「학교 앞 횡단보도 보행자 수 세기」를 보세요. 사람이 찍히지만 세기만 합니다.

ㄱ. 얼굴을 알아보지 못하게 흐리고, 원본 사진을 남기지 않고, 숫자만 적으면 → 넘어갈 수 있습니다.
ㄴ. 원본을 저장하거나 ‘누가 언제 지나갔는지’를 붙이면 → 동의 없음에 걸립니다.

즉 레드라인은 주제 이름이 아니라 ‘어떻게 만드는가’에 걸립니다. 그래서 이 표는 ‘이 주제는 안 됨’이 아니라 ‘이렇게 만들면 안 됨’으로 읽어야 합니다. 팀 안에서 의견이 갈리면 Ⅲ-8 「정답이 없는 회의」에서 쓴 다섯 걸음으로 갈린 자리를 적어 두세요.

채점기는 이 둘을 구별하지 못한다 — 평균 8.60 대 8.64

“위험한 주제는 어차피 점수도 낮지 않을까”라고 생각하기 쉽습니다. 재 보면 정반대에 가깝습니다. 레드라인에 걸린 5개의 평균은 8.60점, 걸리지 않은 11개의 평균은 8.64점입니다. 차이가 0.04점입니다. 사실상 같습니다.

까닭이 있습니다. 사람을 재는 문제일수록 네 조건을 잘 만족합니다. 판단이 잦고, 자료가 넘치고, 규칙으로는 못 적습니다. 채점기는 그것을 전부 장점으로 셉니다. 그러니 ‘평균이 낮으니 알아서 걸러진다’고 읽으면 안 됩니다. 걸러 내는 것은 점수가 아니라 문입니다.

⚠️ 순서를 바꾸면 결론이 통째로 달라집니다

문을 나중에 열면 — 즉 점수부터 매기고 나중에 걸러 내면 — 1등이 「수업 중 표정으로 집중도 자동 평가」가 됩니다. 문을 먼저 열면 1등이 「교내 분실물 사진 자동 분류」입니다. 같은 데이터, 같은 코드인데 순서 하나로 결론이 달라집니다. 더 무서운 것은 오류가 나지 않는다는 점입니다. 점수표를 먼저 본 팀은 이미 그 주제에 마음을 붙인 뒤입니다.

💻

손으로 ① — 주제 채점판

점수를 우리가 매기고, 무게를 우리가 정하고, 그래서 답이 어떻게 흔들리는지 봅니다

아래 판에는 후보 열여섯 개가 모두 들어 있습니다. 왼쪽 아래에서 후보를 하나 고르면 그 후보의 P·D·R·F 네 칸을 직접 고쳐 넣을 수 있고, 위쪽 슬라이더 넷으로 조건의 무게를 바꿉니다. 무엇을 건드리든 순위가 그 자리에서 다시 그려집니다. 기본 가중치 (1,1,1,1) 일 때의 등수와 달라진 줄에는 ▲▼ 표시가 붙고, 1등이 바뀌면 맨 위에 ⇄ 뒤집힘이 뜹니다.

🧮 주제 채점판 — 열여섯 후보 · 네 조건 · 문 하나 INTERACTIVE

빨간 띠가 붙은 줄은 레드라인에 걸린 후보입니다. 띠 옆에 걸린 레드라인과 그 근거가 되는 Ⅲ단원 차시가 적힙니다. [레드라인 문] 을 끄면 걸린 후보도 순위에 들어옵니다 — 그때 1등이 무엇이 되는지 보세요.

[안내] 슬라이더를 밀거나 점수를 고치면 순위가 다시 그려집니다.

읽는 법 — 막대 길이는 가중 총점입니다. 무게를 키우면 만점도 함께 커지므로, 막대는 늘 ‘그때의 만점’에 맞춰 그려집니다. 판정선(적합 / 보완)도 만점의 75% · 45% 로 함께 움직입니다.

과제 — 이 셋을 공책에 적으세요

  1. 표 채우기. 가중치를 (1,1,1,1) → (1,2,1,1) → (1,1,1,0) 세 번 바꾸면서 그때마다 1등 주제 이름과 그 점수, 그리고 1등이 바뀌었는지(O/X)를 아래 표에 적습니다.
  2. 반례 만들기. [↻ R 을 거꾸로] 를 눌러 R 점수를 3-R 로 뒤집어 보세요. 인공지능이 필요 없는 문제가 상위로 올라옵니다. 올라온 셋의 이름을 적고, 왜 그것들이 ‘AI 가 필요 없는 문제’인지 한 줄로 쓰세요.
  3. 문턱 찾기. 자기 팀이 마음에 둔 후보를 하나 고르고, 네 칸 가운데 두 칸을 골라 +1 씩 올려 보세요. 등수가 몇 등에서 몇 등으로 올라갔습니까? 그리고 올린 까닭을 한 줄로 적으세요. 까닭을 못 적겠으면 점수를 되돌립니다.
가중치 (P,D,R,F)1등 주제점수기본과 달라졌나내가 고친 칸
(1, 1, 1, 1)
(1, 2, 1, 1)
(1, 1, 1, 0)
R 을 거꾸로
💡 도움말 — [▶ 81가지 전수] 가 하는 일

네 조건의 무게를 각각 1·2·3 으로 두면 조합이 3×3×3×3 = 81가지입니다. 버튼을 누르면 그 81가지를 한 칸씩 차례로 돌리며 1등을 색으로 칠합니다. 다 돌고 나면 ‘1등이 되어 본 주제가 몇 개인지’, ‘기본값과 달라진 조합이 몇 가지인지’가 기록 칸에 숫자로 찍힙니다. 그 숫자를 확인 문제 4번에서 씁니다.

파란 선으로 칸을 나눈 큰 종이 판에 주황·노랑·연두·분홍·파랑 포스트잇이 겹겹이 붙어 있는 모습
점수를 매기다 보면 어느새 ‘점수가 높은 것’을 ‘좋은 것’으로 읽게 된다. 이 판이 만드는 것은 답이 아니라 우리가 무엇을 중요하게 보았는지의 기록이다. 출처: Corinna Schuster (WMDE), Wikimedia Commons (CC BY-SA 4.0)
💻

손으로 ② — 채점기를 직접 짜서 같은 값을 낸다

화면의 판이 무엇을 계산했는지, 코드 열 줄로 확인합니다

위의 판은 여러분 대신 계산을 해 주었습니다. 이제 그 계산을 직접 적어 봅니다. 빈칸 다섯 곳(?????)을 채우면 화면의 판과 똑같은 숫자가 나와야 합니다. 다르게 나오면 둘 중 하나가 틀린 것이고, 어느 쪽이 틀렸는지 찾는 것도 오늘 할 일입니다.

칸은 셋으로 나뉘어 있습니다. 위 칸부터 차례로 실행하세요. 같은 쪽 안에서는 파이썬이 기억을 이어 가므로, 아래 칸은 위 칸에서 만든 TOPICS·total·order_by 를 그대로 씁니다.

💡 빈칸을 채우는 힌트

① total() — 조건 i 의 점수 s[i] 에 무게 w[i] 를 곱해서 넷을 더합니다. 곱하지 않고 그냥 더하면 아래 【6】【7】이 통째로 무의미해집니다. 무게를 바꿔도 순위가 안 바뀌니까요.

② red_of() — RED[name] 은 튜플입니다. RED[name][k] 처럼 이름으로 찾으면 TypeError 가 납니다. 튜플은 번호로 찾습니다. enumerate(RED_LINES) 로 번호와 이름을 함께 꺼내세요.

③ order_by() — 총점이 큰 순이므로 앞에 빼기 부호를 붙입니다. 그리고 같으면 이름으로 가릅니다. 이름을 빼면 TOPICS 에 적은 줄 순서가 등수를 정하게 되고, 줄만 위아래로 옮겨도 1등이 조용히 바뀝니다. 화면에는 아무 표시도 남지 않습니다.

④ — 아래 칸 【6】의 for 줄입니다. itertools 로 1·2·3 네 자리의 모든 조합을 만듭니다. 자리 수를 알려 주는 이름이 필요합니다. 그 이름을 빼면 네 가지만 돌아서 표가 거의 비어 나옵니다.

⚠️ 빈칸 ⑤ 를 == 로 쓰면 정반대 결론이 나옵니다

flips 는 기본 가중치의 1등과 달라진 조합을 모으는 자리입니다. != 대신 == 로 쓰면 ‘뒤집힌 조합’이 27가지가 아니라 54가지로 찍힙니다. 그러면 “대부분의 가중치에서 순위가 뒤집힌다”는, 사실과 반대되는 결론을 적게 됩니다. 오류는 나지 않습니다. 숫자를 화면의 판과 대조하는 것이 유일한 방어입니다.

💻

손으로 ③ — 우리 팀 주제를 한 줄 넣는다

오늘 22분의 마지막 3분입니다

여기까지 왔으면 이제 우리 팀 주제를 넣을 차례입니다. 아래 칸의 MINE 한 줄만 고칩니다. 견본으로 「교실 창문 열림·기온으로 냉난방 낭비 찾기」가 들어 있습니다. 그대로 실행하면 10점 · 12개 가운데 4등이 나옵니다. 이 값이 나오면 앞 칸이 제대로 돈 것입니다.

고칠 때 순서를 지키세요. 먼저 레드라인 셋을 확인하고, 그다음에 점수를 매깁니다. 순서를 바꾸면 12점짜리 주제를 들고 한 학기를 가게 됩니다.

ℹ️ 우리 주제가 레드라인에 걸렸다면

그 자리에서 주제를 통째로 버릴 필요는 없습니다. 먼저 ‘어떻게 만드는가’를 바꿔서 넘어갈 수 있는지 따져 보세요 — 횡단보도 후보에서 본 ㄱ/ㄴ 갈림길이 그것입니다. 얼굴 대신 숫자만 남길 수 있는가, 원본을 지울 수 있는가, 당사자에게 물을 수 있는가. 그래도 안 되면 같은 관심에서 나온 다른 문장을 찾습니다. ‘친구들의 학교생활’이라는 관심은 ‘위험군 선별’로도 가지만 ‘분실물 분류’로도 갑니다.

📖

정리 — 오늘 손에 남은 숫자

이 표의 값은 전부 오늘 직접 돌려서 나온 것입니다

무엇값그래서 무슨 말인가
후보16개문에 걸린 5 · 통과한 11
점수만으로 뽑은 1등12점 만점「수업 중 표정으로 집중도 자동 평가」 ⛔ 만들면 안 되는 주제
문을 켜고 뽑은 1등11점「교내 분실물 사진 자동 분류」 — 3개 동점, 지금 1등은 이름순이다
두 무리의 평균 점수8.60 : 8.64차이 0.04점. 채점기는 두 무리를 구별하지 못한다
상위 5등 중 문에 걸린 것2개1등과 4등. 위쪽일수록 안전한 것이 아니다
81가지 중 1등이 되어 본 주제2개분실물 54가지(66.7%) · 분리수거 27가지(33.3%)
1등이 뒤집힌 조합27 / 8133.3%. ‘점수가 제일 높아서 골랐다’는 근거가 못 된다
무게만 2배로 올려 뒤집히는 조건1개데이터 — (1,2,1,1) 에서 뒤집힌다
아예 빼서 뒤집히는 조건1개학기내 — (1,1,1,0) 에서 뒤집힌다. 이 단원이 이 조건을 더한 까닭
81가지 전부에서 바뀌지 않는 것레드라인어떤 무게에서도 12점짜리는 후보에 들어오지 않는다
문을 아예 빼고 81가지를 돌리면81 / 81100% 에서 사람을 재는 주제가 1등이다. 점수로는 못 막는다
어떤 가중치로도 못 가르는 짝1쌍분리수거 = 초미세먼지, (P,D,R,F) 가 통째로 (3,3,3,2)
 가정: 조건 넷은 각 0~3점, 기본 가중치 (1,1,1,1), 만점 12점. 점수는 우리가 매긴 값이고 조사 결과가 아니다. 동의하지 않으면 고치되, 고친 까닭을 적는다.

표의 마지막 줄을 눈여겨보세요. 「분리수거 사진으로 품목 가려내기」와 「학교 앞 초미세먼지 한 시간 뒤 예측」은 네 칸이 통째로 같습니다. 그래서 무게를 아무리 흔들어도 두 총점이 같이 움직이고, 영원히 갈리지 않습니다. 이런 짝은 자를 흔들어서 될 일이 아니라 자를 하나 더 붙여야 합니다. 다음 시간에 붙일 자가 바로 그것입니다 — ‘중요도’ 축.

⚠️ 오늘의 결론은 ‘분실물 분류를 하자’가 아닙니다

결론은 셋입니다. ① 점수 1등이 손대면 안 되는 주제일 수 있다. ② 무게를 바꾸면 1등이 바뀐다. ③ 그런데 레드라인만은 바뀌지 않는다. 이 표에서 주제 하나를 골라 ‘정답’으로 삼는 순간, 오늘 40분이 통째로 헛돕니다.

🏁 여기까지 못 했으면 — 이렇게 하세요

  • 파이썬 빈칸을 못 채웠다면 → 힌트 상자를 보고 ①② 두 곳만 채우세요. 그러면 ②-1 칸(후보 표 · 조건 · 레드라인)이 끝까지 돕니다. 뒤의 숫자는 화면 판에서 그대로 읽어 표에 적으면 됩니다. 판과 코드는 같은 값을 냅니다.
  • 팀 주제가 아직 없다면 → 오늘은 정하지 않아도 됩니다. 문을 통과한 11개 가운데 마음이 가는 셋에 동그라미만 치세요. 다음 차시가 요구하는 것은 ‘확정된 하나’가 아니라 ‘살아남은 몇 개’입니다.
  • 그마저도 못 골랐다면 → 견본을 그대로 쓰세요. MINE 에 이미 들어 있는 「교실 창문 열림·기온으로 냉난방 낭비 찾기」(P=3 D=2 R=2 F=3, 10점, 4등)를 우리 팀 주제로 삼고 다음 시간에 참여하면 됩니다. 견본으로도 Ⅳ-3 부터 Ⅳ-11 까지 끝까지 갈 수 있습니다.
  • 데이터를 아직 못 구했다면 → 오늘은 상관없습니다. 데이터를 실제로 찾는 것은 Ⅳ-4 의 일입니다. 오늘 D 칸은 ‘모을 수 있을 것 같은가’에 대한 우리의 짐작을 적는 칸입니다. 짐작이 틀렸다는 것을 Ⅳ-4 에서 알게 되면 그때 점수를 고치고 까닭을 적으면 됩니다.
  • 팀 안에서 레드라인 판정이 갈렸다면 → 그것이 정상입니다. 갈린 자리를 문장으로 적어 두세요. “원본 사진을 지우면 된다 / 아니다”처럼요. Ⅲ-8 「정답이 없는 회의」의 합의문 ②칸을 떠올리세요 — 포기한 것과 그 대가를 지는 사람을 비워 두면 합의문이 아니라고 했습니다. 갈린 자리를 적는 것이 그 칸입니다.
포스트잇을 붙인 벽 앞에서 플립차트를 놓고 설명하는 참가자
다음 시간에는 이 벽에서 살아남은 몇 장을 떼어 격자 위에 올려놓습니다. 오늘 갈리지 않았던 동점 셋이 그때 갈립니다 — 새 자를 하나 붙여서. 출처: Jan Dittrich (WMDE), Wikimedia Commons (CC BY 4.0)
📤 다음 시간으로 넘기는 것

문을 통과한 주제 가운데 마음이 가는 세 개와, 각 주제에 매긴 네 칸 점수, 그리고 무게를 어떻게 주었는지 이 셋을 공책에 적어 가세요. Ⅳ-3 은 이것을 카드로 옮겨 격자 위에 놓는 것에서 시작합니다.

✅

확인 문제

3번과 4번은 오늘 직접 돌린 결과를 묻습니다

✍️ 문제마다 답을 쓰고 제출하기를 누르세요. 제출하면 모범 답안이 열리고, 제출한 답은 선생님께 전달됩니다.

1. 이 차시가 쓰는 네 조건 P · D · R · F 를 각각 한 줄로 적고, R 이 낮은 후보가 두 가지로 갈린다는 것을 예를 들어 설명하시오.
📖 모범 답안

P 패턴 — 예시를 모아 놓으면 규칙이 보이는가. D 데이터 — 우리가 실제로 모을 수 있는가. R 규칙난이 — if 문 몇 줄로 적기 어려운가(어려울수록 높다). F 학기내 — 우리가 한 학기 안에 끝낼 수 있는가.

R 이 0 인 후보는 두 갈래입니다. ㈎ AI 가 필요 없는 문제 — 「교실 전등·냉난방 자동 끄기」와 「우리 학교 온실가스 배출량 계산」이 그렇습니다. 둘 다 if 문 몇 줄이나 곱셈과 덧셈으로 끝납니다. 여기에 인공지능을 대면 정확한 계산이 ‘대체로 맞는’ 계산으로 바뀌기만 합니다(Ⅰ-2 의 세금 계산과 같은 자리). ㈏ 아직 주제가 아닌 것 — 「기후 위기를 해결한다」는 네 칸이 모두 0 입니다. 점수가 낮은 것이 아니라 잴 수가 없는 것입니다. 입력과 출력을 한 줄로 적을 수 없으니까요.

2. 아래 넷을 예측 · 분류 · 탐지 · 최적화 가운데 하나로 가르고, 각각 ‘입력 → 출력’ 한 줄로 다시 쓰시오.
㈎ 급식 잔반량 요일별 예측   ㈏ 분리수거 사진으로 품목 가려내기   ㈐ 안내문에서 성차별 표현 찾기   ㈑ 교실 전등·냉난방 자동 끄기
📖 모범 답안

㈎ 예측 — 요일·메뉴·결식 인원 → 내일 잔반량(kg). 다음에 올 값을 말합니다.
㈏ 분류 — 병 사진 한 장 → 가능 / 불가. 주어진 것이 어느 갈래인지 말합니다.
㈐ 탐지 — 안내문의 문장 하나 → 성차별 표현인가 / 아닌가. 수많은 것 가운데 드문 것을 찾습니다.
㈑ 최적화 — 재실 여부·기온·시간표 → 지금 끌 것인가 / 둘 것인가. 여러 선택 가운데 나은 것을 고릅니다.

㈐과 ㈏는 헷갈리기 쉽습니다. 둘을 가르는 것은 비율입니다. 분류는 갈래가 엇비슷하게 섞여 있고, 탐지는 찾으려는 쪽이 훨씬 드뭅니다. 드물다는 것은 Ⅲ-2 에서 본 대로 ‘정확도 95%’가 쉽게 무의미해진다는 뜻이기도 합니다.

3. 오늘 직접 돌린 결과로 답하시오. 레드라인 문을 끄고 돌렸을 때의 1등과 그 점수, 문을 켜고 돌렸을 때의 1등과 그 점수를 각각 적고, 두 결과가 다른 까닭을 ‘순서’라는 낱말을 써서 설명하시오.
📖 모범 답안

문을 끄면 1등은 「수업 중 표정으로 집중도 자동 평가」 12점 만점입니다. 문을 켜면 1등은 「교내 분실물 사진 자동 분류」 11점입니다(같은 11점이 셋이라 이름순으로 1등이 된 것입니다).

같은 점수표, 같은 코드인데 결과가 다른 까닭은 거르는 순서 하나입니다. 점수를 먼저 매기면 12점짜리가 표의 맨 위에 올라오고, 그 뒤에 걸러 내려 해도 이미 그 주제에 마음을 붙인 뒤입니다. 문을 먼저 열면 12점짜리는 표에 아예 나타나지 않습니다. 그리고 이 사고는 오류를 내지 않습니다 — 프로그램은 정상 종료하고 표도 예쁘게 나옵니다. 그래서 순서를 코드에 못박아 두는 것입니다.

4. 오늘 직접 돌린 결과로 답하시오. [▶ 81가지 전수] 를 돌렸을 때 ㈎ 1등이 되어 본 주제는 몇 개였는가 ㈏ 기본 가중치의 1등과 달라진 조합은 몇 가지였는가 ㈐ 조건 하나의 무게만 2배로 올려서 1등이 바뀌는 조건은 무엇이었는가. 그리고 이 숫자들이 “점수가 제일 높아서 이 주제를 골랐습니다”라는 말에 대해 무엇을 말해 주는지 쓰시오.
📖 모범 답안

㈎ 2개입니다 — 「교내 분실물 사진 자동 분류」 54가지(66.7%)와 「분리수거 사진으로 품목 가려내기」 27가지(33.3%). ㈏ 27 / 81 가지(33.3%). ㈐ 데이터 하나입니다 — (1,2,1,1) 에서 뒤집힙니다. 패턴·규칙난이·학기내는 2배로 올려도 1등이 그대로입니다.

세 조합 중 하나꼴로 1등이 바뀐다는 뜻입니다. 그러니 “점수가 제일 높아서 골랐다”는 말은 근거가 되지 못합니다. 골랐다면 어느 조건을 더 무겁게 보았는지를 함께 말해야 합니다. 그것이 진짜 근거입니다. 점수표는 ‘무엇이 좋은가’의 답이 아니라 ‘우리가 무엇을 좋게 보았나’의 기록입니다.

5. “위험한 주제는 어차피 점수가 낮게 나올 테니 채점기가 알아서 걸러 줍니다.” 이 말이 왜 틀렸는지 오늘 나온 숫자를 들어 반박하고, 사람을 재는 문제가 왜 오히려 네 조건을 잘 만족하는지 설명하시오.
📖 모범 답안

실측은 정반대에 가깝습니다. 레드라인에 걸린 5개의 평균은 8.60점, 걸리지 않은 11개의 평균은 8.64점으로 차이가 0.04점입니다. 상위 5등 안에도 걸린 것이 2개(1등·4등) 들어 있습니다. 채점기는 두 무리를 구별하지 못합니다.

까닭은 네 조건이 재는 것이 ‘해도 되는가’가 아니라 ‘잘 되는가’이기 때문입니다. 사람을 재는 문제는 판단이 잦아 P 가 높고, 교실에 카메라만 두면 자료가 쌓이니 D 가 높고, ‘집중하고 있다’를 if 문으로 못 적으니 R 도 높습니다. 채점기는 이 셋을 전부 장점으로 셉니다. 특히 D 는 ‘모으기 쉬운가’만 셀 뿐 ‘모아도 되는가’는 세지 않습니다. 그래서 걸러 내는 것은 점수가 아니라 문이어야 합니다. 레드라인을 빼고 81가지를 돌리면 81가지 전부(100%)에서 사람을 재는 주제가 1등입니다.

6. 우리 팀 주제를 ‘입력 → 출력(꼴)’ 한 줄로 적고, 레드라인 셋 각각에 대해 ‘걸리지 않는다’고 말할 수 있는 근거를 한 줄씩 쓰시오. 그리고 만약 우리 주제가 네 칸 점수까지 똑같은 다른 후보와 동점이 된다면, 그 둘을 무엇으로 가를 것인지 제안하시오.
📖 모범 답안

보기(견본 주제) — 입력: 교실 창문 열림 여부 · 실내외 기온 · 시간표 → 출력: 지금이 냉난방 낭비 상태인가(예/아니오), 꼴 = 탐지. ① 삶을 가름: 사람이 아니라 교실 상태를 판정한다. ② 동의 없음: 얼굴·이름·위치가 아니라 창문과 온도만 잰다. ③ 되돌릴 수 없음: 틀리면 사람이 창문을 다시 열면 된다 — 기록이 남지 않는다.

동점을 가르는 방법은 자를 하나 더 붙이는 것입니다. 무게를 흔드는 것으로는 안 됩니다 — 네 칸이 통째로 같은 짝은 두 총점이 늘 같이 움직이기 때문입니다(오늘 실제로 그런 짝이 하나 나왔습니다: 분리수거 = 초미세먼지, (3,3,3,2)). 붙일 만한 새 자로는 ‘그 문제가 우리에게 얼마나 중요한가’, ‘결과를 누가 실제로 쓸 것인가’, ‘기준선을 넘길 수 있는가’ 같은 것이 있습니다. 다음 시간에 붙이는 자가 첫 번째, 중요도입니다.

🔁 되돌아보기

오늘 후보 열여섯 개를 네 조건으로 채점해 줄을 세웠고, 무게를 81가지로 흔들어 1등이 27번 뒤집히는 것을 보았습니다. 그리고 한 번도 흔들리지 않는 것이 레드라인 하나뿐이라는 것도 확인했습니다. 다음 시간에는 살아남은 주제를 카드로 옮겨 격자 위에 놓고 더 좁힙니다. 오늘 갈리지 않았던 동점 셋이 그때 갈립니다.

🔎

더 알아보기

문을 먼저 두는 방식은 법에도 있고, 더하기만으로는 왜 모자라며, 무게로도 못 올라오는 후보는 누구인가

반원형으로 층층이 놓인 좌석에 의원들이 앉아 있는 유럽의회 본회의장과 정면의 유럽연합 깃발
현장

교실 표정 인식은 법이 먼저 막았다 — 유럽연합 인공지능법

오늘 점수 1등으로 나온 「수업 중 표정으로 집중도 자동 평가」를 막는 것은 우리 반의 레드라인만이 아닙니다. 유럽연합은 2024년 「인공지능법」(AI Act)을 만들어 인공지능을 위험 정도에 따라 받아들일 수 없는 위험 · 고위험 · 제한된 위험 · 최소 위험의 네 층으로 나누었습니다. 맨 위 층은 성능이 얼마나 좋든 아예 금지되고, 이 금지 조항은 2025년 2월부터 적용되었습니다.

그 금지 목록에 ‘직장과 교육기관에서 사람의 감정을 추론하는 인공지능’이 들어 있습니다(의료·안전 목적은 예외). 표정으로 학생의 집중도를 매기는 주제가 정확히 이 자리입니다. 입학 선발이나 학습 결과 평가처럼 교육에서 사람을 가르는 일, 채용 서류를 거르는 일은 고위험으로 묶여, 만들 수는 있어도 위험 관리 · 사람의 감독 · 기록 보관 같은 무거운 의무를 집니다.

짜임을 보세요. 법도 오늘 채점기처럼 두 층입니다. 금지 층은 ‘얼마나 잘 되는가’를 묻지 않고, 그 아래 층에서만 성능과 관리를 따집니다. 우리나라도 2026년 1월부터 시행된 「인공지능 기본법」에서 사람의 생명·안전·기본권에 큰 영향을 주는 고영향 인공지능을 따로 정해 더 무거운 책임을 지웠습니다.

사진: 이 법을 표결한 유럽의회의 스트라스부르 본회의장(2014년 모습) · 출처: Diliff, Wikimedia Commons (CC BY-SA 3.0)

보상형 — 더해서 줄 세운다 12점 1등 F 3 R 3 D 3 P 3 11점 F 3 R 3 D 2 P 3 표정 집중도 분실물 위험을 잴 칸이 아예 없다 낮은 칸은 높은 칸이 메운다 비보상형 — 문부터 지난다 표정 집중도 분실물 ⛔ 레드라인 문 ✕ 탈락 12점이어도 채점 11점 → 1등 결격 한 칸은 어떤 점수로도 못 메운다
원리 더 깊이

한 칸의 약점을 다른 칸이 메운다 — 보상형 규칙과 문

오늘 채점기는 네 칸 점수에 무게를 곱해 더했습니다. 의사결정 이론에서는 이런 방식을 보상형(compensatory) 규칙이라고 부릅니다. 한 칸이 낮아도 다른 칸이 높으면 메워 주기 때문이에요. 「교실 전등·냉난방 자동 끄기」는 R 이 0점인데도 D 와 F 가 3점이라 8점을 받았지요.

보상형 규칙은 편리하지만 메워지면 안 되는 약점이 있을 때 위험합니다. 위험을 감점 한 칸으로 넣으면 그 칸도 더하기의 일부가 되어, 데이터가 넘치고 패턴이 뚜렷한 주제가 감점을 만회합니다. 그림 왼쪽처럼 표정 집중도 평가는 위험을 잴 칸 자체가 없으니 12점 만점으로 맨 위에 섭니다.

그래서 중요한 판단에는 비보상형 규칙을 겹쳐 씁니다. 모든 조건이 각자의 문턱을 넘어야 통과하는 연접(conjunctive) 규칙이 대표적이지요. 운전면허는 필기시험이 만점이어도 기능시험에서 떨어지면 나오지 않고, 약은 효과가 커도 안전성 시험을 통과하지 못하면 허가를 받지 못합니다. 오늘의 레드라인 문이 바로 이 연접 규칙이고, 문을 먼저 두고 통과한 것만 더하는 것이 두 규칙을 섞는 가장 흔한 방법입니다.

급식 잔반량 예측 (10점) 교내 분실물 분류 (11점) 3 3 P 패턴 2 2 D 데이터 2 3 R 규칙난이 3 3 F 학기내 여기만 다르다 모든 칸에서 분실물 ≥ 잔반량 무게가 모두 0보다 크면, 어떻게 흔들어도 잔반량은 분실물을 넘지 못한다
원리 더 깊이

무게를 아무리 흔들어도 1등이 못 되는 후보 — 우위와 파레토 앞줄

81가지 무게를 다 돌려도 1등이 되어 본 주제는 둘뿐이었습니다. 나머지 아홉은 왜 한 번도 못 올라왔을까요? 그림처럼 「급식 잔반량 요일별 예측」(3,2,2,3)과 「교내 분실물 사진 자동 분류」(3,2,3,3)를 칸마다 견주면, 분실물이 모든 칸에서 같거나 크고 R 한 칸에서는 더 큽니다. 이럴 때 분실물이 잔반량보다 우위(dominance)에 있다고 말합니다.

우위에 있으면 결론은 무게와 상관이 없습니다. 무게가 모두 0보다 크면 어떤 무게를 곱해 더해도 잔반량의 총점은 분실물을 넘을 수 없으니까요. 문을 통과한 11개를 이렇게 짝지어 보면 7개가 다른 후보에게 눌려 있습니다. 누구에게도 눌리지 않는 것은 분리수거 · 초미세먼지 · 분실물 · 전등·냉난방 끄기 넷뿐이고, 이 넷을 경제학자 파레토의 이름을 따 파레토 최적, 곧 누구에게도 밀리지 않는 앞줄이라 부릅니다.

무게를 흔드는 일은 결국 이 앞줄 안에서 누구를 고를지 정하는 일입니다. 그러니 팀 주제를 고를 때 “우리 후보를 모든 칸에서 이기는 다른 후보가 있는가”부터 확인해 보세요 — 단, 두 쪽 다 우리가 매긴 점수라는 것을 잊지 말고요. 또 전등 끄기는 앞줄에 있어도 81가지 가운데 한 번도 1등이 되지 못했습니다(D 와 F 를 P·R 보다 훨씬 무겁게 주어야 올라옵니다). 앞줄에 있다는 것은 ‘1등이 될 수 있는 무게가 어딘가에 있다’는 뜻일 뿐, 그 무게가 1~3 안에 있다는 보장은 아닙니다.