정답이 없는 회의
딜레마를 토론해 우리 반 규약으로

어느 학교에서 인공지능 사용에 관한 학급 회의를 열었습니다. 사십 분 동안 아주 열심히 이야기했고, 목소리도 높아졌고, 좋은 말이 많이 나왔습니다. 회의가 끝나고 칠판에 남은 문장은 이것이었습니다.

다음 주에 이 문장을 지킨 사람이 몇 명이었을까요? 아마 아무도 지키지 않았을 것입니다. 지킬 수가 없기 때문입니다. 이 문장에는 누가 해야 하는지가 없고, 언제 해야 하는지가 없고, 무엇을 하면 지킨 것이고 무엇을 하면 어긴 것인지도 없습니다. 좋은 마음만 있고 행동이 없습니다.

이 단원이 일곱 차시 동안 만든 것은 사실 이 회의를 위한 준비물이었습니다. 1차시에서는 하루에 넘긴 데이터 항목을 세었고, 2차시에서는 정확도가 높아도 사람 수를 곱하면 오류 건수가 얼마나 되는지 재었습니다. 3차시에서는 전기와 탄소를, 4·5차시에서는 업무 단위 자동화 점수를, 6차시에서는 확신도와 정답률의 어긋남을, 7차시에서는 집단별 오탈락률과 공정성 정의 셋을 다뤘습니다. 이 숫자들은 답이 아니라 논거입니다. 답은 오늘 여러분이 만듭니다.

미리 말해 둘 것이 하나 있습니다. 오늘 수업에는 정답이 없습니다. 교과서가 “얼굴인식 출입은 안 된다”거나 “채용 인공지능은 괜찮다”고 정해 주지 않습니다. 대신 이 단원은 판단을 잘하는 법을 하나만 가르칩니다 — 무엇을 포기했는지 말할 수 있어야 결정이다. 포기한 것을 말하지 않는 주장은 결정이 아니라 소원입니다.

토론에서 “그건 옳지 않다”고 말하려면 무엇에 비추어 옳지 않은지를 대야 합니다. 그 기준을 매번 각자 새로 만들 수는 없으니, 사회는 공통 기준을 문서로 적어 둡니다. 우리나라의 그 문서가 「대한민국 인공지능 윤리원칙」입니다. 2026년 8월 21일 제12회 과학기술관계장관회의에서 확정되어 8월 24일에 공개되었습니다. 바탕이 되는 3대 가치와, 그 가치를 실제로 작동시키는 7대 원칙으로 되어 있습니다.

여기서 한 가지를 눈여겨봅시다. 이 문서는 벌칙이 붙은 법이 아닙니다. 어겼다고 잡아가지 않습니다. 그런데도 왜 만들까요? 법은 이미 벌어진 일을 뒤에서 다루지만, 원칙은 만들기 전에 무엇을 살펴야 하는지를 알려 주기 때문입니다. 그리고 오늘 여러분이 만들 학급 규약도 같은 성격입니다 — 벌칙은 없지만 우리가 함께 정했다는 사실 때문에 힘을 갖습니다.

2020년의 문서와 헷갈리지 않기

인터넷에서 ‘인공지능 윤리기준’을 찾으면 다른 문서가 먼저 나옵니다. 2020년 12월 23일에 발표된 「국가 인공지능 윤리기준」입니다. 이쪽은 3대 기본원칙과 10대 핵심요건으로 되어 있었습니다. 2026년판이 그것을 이어받았지만 내용이 그대로는 아닙니다. 토론에서 인용할 때 두 문서를 섞으면 근거가 통째로 흔들립니다.

원칙을 지키는 일은 누구의 몫일까요? 2026년 윤리원칙이 앞선 문서와 달라진 점 하나가 여기 있습니다. 만들어 파는 쪽만 주체로 보지 않고 이용자도, 정부와 사회도 실천 주체로 적었다는 것입니다. 그리고 인공지능 역량과 자원을 많이 가진 나라와 기업은 그 영향력에 걸맞은 책임을 진다는 문장까지 넣었습니다.

여기까지는 깔끔합니다. 문제는 이 셋 사이입니다. 세 칸을 나란히 그려 놓으면 빈틈이 생기는데, 이것을 책임의 공백이라고 부릅니다.

자율주행차 사고가 이 공백을 가장 선명하게 보여 줍니다. 우리나라는 사고가 나면 우선 차를 운행한 쪽이 자동차손해배상 보장법에 따라 배상하고, 원인이 기계나 소프트웨어의 결함이면 제조물책임법으로 만든 쪽이 책임을 지는 이원 구조입니다. 그리고 원인을 가리기 위해 국토교통부장관 소속으로 자율주행자동차사고조사위원회를 둘 수 있게 해 두었습니다. 제도가 아예 없는 것은 아닙니다. 그런데도 공백이 생기는 까닭은 결함을 증명하는 일이 어렵기 때문입니다. 소프트웨어가 그 순간 왜 그렇게 판단했는지를 피해자가 밝혀야 한다면, 사실상 아무도 책임지지 않는 것과 같아집니다.

딜레마는 “옳은 쪽과 그른 쪽 중 고르기”가 아닙니다. 그런 것은 딜레마가 아니라 시험 문제입니다. 딜레마는 양쪽 다 지킬 만한 가치인데 동시에는 못 지키는 상황입니다. 그래서 딜레마를 다루는 방법은 정답을 찾는 것이 아니라 무엇을 포기하는지를 밝히고 고르는 것입니다. 다섯 걸음으로 나눠 봅시다.

1. 충돌하는 가치에 이름을 붙인다. “찬성 대 반대”가 아니라 “안전 대 프라이버시”처럼 둘 다 좋은 것의 이름으로 적습니다. 이름을 붙이는 순간 상대가 나쁜 사람이 아니게 됩니다.
2. 이해관계자를 빠짐없이 적는다. 그 자리에 없는 사람을 특히 찾습니다 — 잘못 판정받은 사람, 아직 태어나지 않은 세대, 이 기술을 살 돈이 없는 사람.
3. 되돌릴 수 없는 피해가 있는지 확인한다. 이것이 가장 중요한 걸음입니다. 되돌릴 수 있는 피해와 없는 피해는 무게가 다릅니다. 카드를 잃어버리면 재발급하면 되지만, 얼굴은 재발급이 안 됩니다.
4. 제3의 대안을 만든다. “한다 / 안 한다” 둘만 놓고 싸우면 반드시 한쪽이 집니다. 범위를 좁히거나, 사람이 개입할 지점을 넣거나, 되돌릴 길을 만들어 세 번째 답을 만듭니다.
5. 결정하고 그 대가를 명시한다. “우리는 A를 고른다. 그래서 B를 포기한다. 그 대가는 주로 ○○인 사람이 진다.” 이 문장을 못 쓰면 아직 결정한 것이 아닙니다.

네 번째 걸음 — 제3의 대안 — 을 조금 더 봅시다. 이 단원이 계속 만난 대안의 모양이 있습니다. 사람이 개입하는 지점을 어디에 둘 것인가입니다. 6차시에서 우리는 확신도가 낮은 것만 사람에게 돌리는 방법을 보았고, 7차시에서는 기준점 근처의 경계선 사례를 사람이 다시 보는 방법을 보았습니다. “기계에 맡긴다 / 안 맡긴다”가 아니라 어디까지 맡기고 어디서부터 사람이 보는가를 정하는 것 — 이것이 공존 방안의 실체입니다.

쟁점이 여섯인데 시간은 스물네 분입니다. 무엇부터 다뤄야 할까요? 가장 흔한 방법은 미리 찬반을 물어 평균을 내는 것입니다. 그런데 평균 하나로는 정작 알고 싶은 것을 알 수 없습니다. 두 반을 상상해 봅시다.

두 반의 평균은 똑같이 0입니다. 그러나 A반은 지금 당장 토론해야 하는 반이고, B반은 토론 전에 자료부터 읽혀야 하는 반입니다. 평균만 발표하면 이 차이가 지워집니다. 그래서 두 숫자를 더 봅니다.

• 흩어짐 — 응답이 얼마나 퍼져 있나(표준편차). A반은 크고 B반은 0에 가깝습니다. 다만 흩어짐만으로는 ‘양쪽 끝에 뭉친 것’과 ‘고르게 퍼진 것’이 갈리지 않습니다.
• 양극단비 — 강한 찬성(+2 이상)의 비율과 강한 반대(−2 이하)의 비율 중 작은 쪽을 두 배 한 값입니다. 양쪽 다 강해야만 커집니다. 한쪽만 강하면 아무리 목소리가 커도 0에 가깝습니다.

양극단비를 왜 ‘작은 쪽의 두 배’로 정했을까요? 절반이 +3, 절반이 −3이면 두 비율이 각각 0.5이고 작은 쪽의 두 배는 1.0 — 가장 갈린 상태가 1이 됩니다. 반대로 전원이 강한 찬성이면 강한 반대 비율이 0이라 값도 0입니다. “세게 말한 사람이 많다”가 아니라 “양쪽 다 세게 말했다”를 재는 자입니다.

회의 진행판은 토론을 대신하지 않습니다. 토론을 걸 자리를 고르고, 논거를 정리하는 도구입니다. 먼저 아무것도 바꾸지 말고 화면을 그대로 읽어 보세요. 여섯 쟁점의 막대 모양이 서로 얼마나 다른지 보일 것입니다.

과제 ① — 표를 채운다

진행판을 열어 두고 아래 표를 공책에 옮겨 적으세요. 칸에 바로 적어도 됩니다. 기본값(가상 학급 · 토론 전) 그대로 읽으면 됩니다.

다 적었으면 수행평가 AI와 자율주행 책임 두 줄을 나란히 보세요. 평균은 0.3도 차이 나지 않습니다. 그런데 양극단비는 한쪽이 다른 쪽보다 압도적으로 큽니다. 평균만 적힌 보고서를 받았다면 두 쟁점이 “비슷한 반응을 얻었다”고 읽었을 것입니다. 실제로는 하나는 반이 정면으로 갈렸고, 하나는 절반 가까이가 유보였습니다.

과제 ② — 문턱을 옮겨 이름표를 뒤집는다

판정 이름표를 붙이는 문턱 다섯 개는 우리가 고른 값입니다. 세상 어딘가에 “양극단비 0.40부터 갈림”이라고 적힌 법이 있는 것이 아닙니다. 7차시에서 공정성 기준점을 두고 했던 이야기가 여기서 그대로 되풀이됩니다 — 기준점은 계산이 아니라 선택이고, 고른 사람이 그 대가를 설명해야 합니다.

1. 쟁점을 잔반 예측 배식으로 바꾸고 양극단비를 적으세요. ‘모임’ 문턱은 0.20으로 두고 판정 이름표를 적습니다.
2. ‘모임’ 문턱만 0.25로 올립니다. 이름표가 어떻게 바뀌었나요? 기표는 한 사람도 바뀌지 않았는데 이름표가 바뀝니다.
3. ‘갈림’ 문턱을 0.20 → 0.30 → 0.40 → 0.55 → 0.80으로 올리며 ‘갈림’으로 찍힌 쟁점의 개수를 세어 적으세요. 문턱을 옮긴 만큼 개수가 매끄럽게 줄어드나요? 아니면 어떤 구간에서는 아무 변화가 없다가 어떤 구간에서 한꺼번에 바뀌나요?

과제 ③ — 반례 만들기: 모둠 하나로 학급을 말할 수 있는가

[✏️ 비우고 우리 반 값 넣기]를 누른 뒤, 일곱 명짜리 모둠의 응답을 직접 넣어 보세요. 예를 들어 강한 반대 여섯 명과 유보 한 명을 넣으면 평균이 크게 음수로 나옵니다. 같은 쟁점에서 가상 학급 28명의 평균은 양수였습니다. 모둠 하나의 결과가 학급 전체와 정반대로 나오는 배치를 직접 만들어 보고, 그때의 평균과 양극단비를 적으세요. 발표할 때 “우리 모둠은”과 “우리 반은”을 섞어 쓰면 안 되는 이유가 여기서 숫자로 나옵니다.

여기부터가 오늘 수업의 본체입니다. 읽는 시간이 아니라 말하는 시간입니다. 한 모둠이 쟁점 하나를 맡고, 모둠 안에서 네 역할을 나눠 맡습니다. 역할은 ‘내 진짜 생각’이 아니어도 됩니다 — 오히려 자기 생각과 반대인 역할을 맡으면 그쪽 근거가 왜 그럴듯한지 처음으로 보이게 됩니다.

미리 해 둘 것 — 지난 차시 과제

본시 스물네 분을 온전히 말하는 데 쓰려면, 준비는 앞 차시에 끝나 있어야 합니다.

본시 24분

네 역할

모둠이 다섯이면 기록자를 독립시킵니다. 여섯이면 규제기관 역할을 하나 더 만들어, 다른 나라라면 이 쟁점을 어느 위험 등급으로 볼지 말하게 합니다. 기록자와 시간지기는 겸임해도 됩니다. 시간지기는 45초를 손으로 셉니다 — 시간을 재는 사람이 없으면 목소리 큰 역할이 시간을 다 씁니다.

여섯 쟁점

네 모둠에 넷을 나눠 주고, 남은 둘은 예비이거나 자료 읽기 과제로 돌립니다. 아래 표에는 상황과 충돌하는 가치, 그리고 제3의 대안 힌트만 적었습니다. 찬반 논거는 진행판의 논거 저울에 들어 있습니다 — 거기서 골라 자기 말로 다시 쓰세요.

‘상황’ 칸의 여섯 장면과 그 안의 숫자(지원자 3,000명, 학생 서른 명, 조리량 5% 등)는 토론을 걸기 위해 우리가 꾸민 사례입니다. 실제로 조사한 사건이 아니고 어느 학교의 일도 아닙니다. 토론에서 이 숫자를 “실제로 그렇다”고 말하면 안 됩니다 — 상황을 정해 놓고 값을 따지는 데만 씁니다. 바깥 세상의 사실로 쓸 수 있는 것은 앞 차시에서 출처를 밝히고 계산한 값과 위에서 이름을 댄 제도들뿐입니다.

합의문은 우리 모둠의 생각을 적은 글입니다. 규약은 다음 주에 누가 무엇을 하는지 적은 문장입니다. 둘은 다릅니다. 아래 편집기는 세 칸을 채워야 문장이 완성됩니다 — 누가 · 언제 · 무엇을. 한 칸이라도 비면 경고가 뜹니다. 여기에 근거 원칙과 숫자 근거를 더하면 다섯 항목이 됩니다.

과제 ④ — 심사기를 속여 본다

[⚠ 낱말만 갖다 붙이기]를 눌러 보세요. 이런 문장이 들어갑니다.

심사기는 이 문장에 5/5를 줍니다. ‘우리 반’이 있으니 주어가 있고, ‘볼 때’가 있으니 시점이 있고, ‘정한다’가 있으니 평서형 동사가 있고, ‘투명성’이 있으니 원칙이 있고, ‘5kg’이 있으니 숫자가 있습니다. 다섯 항목을 전부 통과했습니다. 그런데 이 문장은 다음 주에 누가 무엇을 하는지 하나도 정하지 않았습니다.

이것은 심사기의 결함이 아니라, 자동 심사가 무엇인지 보여 주는 장면입니다. 기계는 형식을 봅니다. 낱말이 있는지 없는지는 셀 수 있지만 ‘조심해서 쓴다’가 무엇을 하라는 말인지는 세지 못합니다. 6차시에서 확신도가 높아도 틀릴 수 있다는 것을 보았고, 7차시에서 기준점을 어디에 두느냐가 계산이 아니라 선택이라는 것을 보았습니다. 오늘 그 둘이 한 점에서 만납니다 — 기계가 통과시켰다는 것은 사람이 확인했다는 뜻이 아닙니다. 마지막 판정은 학급 회의가 합니다.

1. 편집기로 5/5를 받으면서 아무것도 정하지 않는 문장을 하나 더 만들어 적으세요. (위 문장을 그대로 베끼지 말고 다른 방식으로 속여 보세요.)
2. 그 문장을 진짜 규약으로 고쳐 다시 적으세요. 누가·언제·무엇을이 실제 행동을 가리키게 바꾸면 됩니다.
3. 두 문장을 나란히 놓고, 심사기가 못 보는 것이 무엇인지 한 문장으로 쓰세요.

진행판이 화면에서 하는 계산을 파이썬으로도 해 봅니다. 이 프로그램은 토론 전 응답과 토론 뒤 응답을 둘 다 갖고 있어서, 화면이 못 하는 것을 하나 더 합니다 — 사람 단위로 무엇이 달라졌는지 세는 것입니다. ‘평균이 움직였다’와 ‘편을 바꾼 사람이 있었다’는 전혀 다른 이야기입니다.

빈칸은 다섯 곳(?????)입니다. 채우고 실행해 아래 검산 값이 나오면 맞은 것입니다.

• 빈칸 ① 양극단비 공식 → 【2】에서 ‘수행평가 AI’의 양극단비가 0.79
• 빈칸 ② ‘모임(한쪽)’ 조건 → 【3】에서 ‘자율주행 책임’이 미지근(가운데)
• 빈칸 ③ 움직인 사람 세기 → 【6】에서 ‘수행평가 AI’의 움직인 사람이 12명
• 빈칸 ④ 편을 바꾼 사람 세기 → 【7】에서 여섯 쟁점을 통틀어 2건
• 빈칸 ⑤ 숫자 인용 검사 → 【8】에서 규약 초안 7개 중 4개 통과

다 돌렸으면 【7】을 오래 보세요. 여섯 쟁점 168건(28명 × 6쟁점) 가운데 토론 뒤에 편을 바꾼 응답은 두 건입니다. 백 분의 일이 조금 넘습니다. 그런데 강도만 바뀐 응답은 서른두 건이고, 유보와 결정 사이를 오간 응답도 열네 건입니다.

이 숫자를 어떻게 읽어야 할까요? “토론해 봐야 아무도 안 바뀐다”로 읽으면 잘못입니다. 편을 바꾸는 것이 토론의 목적이 아니기 때문입니다. +3이던 사람이 +1이 되었다면 그 사람은 상대 근거의 무게를 인정한 것이고, 0이던 사람이 −2가 되었다면 모르던 것을 알게 된 것입니다. 토론의 성과는 몇 명을 넘겼느냐가 아니라 무엇을 포기했는지 말할 수 있게 되었느냐입니다.

그리고 【6】의 ‘채용 1차 AI’ 줄을 보세요. 이 쟁점만 흩어짐이 오히려 커졌습니다. 토론하면 의견이 모인다는 말이 늘 맞지는 않습니다. 쟁점에 따라서는 이야기를 나눌수록 서로 무엇이 다른지가 더 또렷해지기도 합니다. 그것도 실패가 아닙니다 — 갈린 자리를 정확히 아는 것이 규약을 쓸 때 훨씬 쓸모 있습니다.

이 단원 여덟 차시를 한 문장으로 줄이면 “인공지능에는 좋은 점과 나쁜 점이 있다”가 아닙니다. 그 문장은 아무것도 말하지 않습니다. 우리가 배운 것은 이것입니다 —

1차시에서 하루에 넘긴 데이터 항목을 셌을 때 우리는 편의를 얻고 무엇을 준 것이었고, 2차시에서 정확도 뒤의 사람 수를 셌을 때는 ‘99%’라는 말이 감춘 사람들을 본 것이었고, 3차시의 전기와 탄소, 4·5차시의 업무와 진로, 6차시의 확신도, 7차시의 공정성이 모두 같은 물음의 다른 얼굴이었습니다. 이 편의의 대가를 누가 지는가.

다음은 4단원입니다. 거기서는 여러분이 인공지능을 직접 만들어 봅니다. 만드는 쪽에 서면 오늘 정한 규약이 남의 이야기가 아니게 됩니다 — 데이터를 어디서 구할지, 무엇을 점검할지, 무엇을 못 했다고 밝힐지를 여러분이 개발·공급자로서 정해야 합니다. 오늘 만든 규약을 프로젝트 계획서 맨 앞에 붙여 두세요.

✍️ 문제마다 답을 쓰고 제출하기를 누르세요. 제출하면 모범 답안이 열리고, 제출한 답은 선생님께 전달됩니다.