포럼 전체 자료집은 PDF 파일로 첨부했습니다.
청소년인권운동연대 지음 공현 활동가의 토론문을 본문에 넣었습니다.
---
[토론문] AI 디지털교과서 도입을 둘러싼 학생의 인권 문제
공현(청소년인권운동연대 지음 책임활동가)
우리 사회의 다른 여러 분야와 마찬가지로 교육 분야에도 ‘인공지능(AI)’의 바람이 불어닥치고 있다. 그 대표격이 이른바 ‘AI 디지털교과서’로, 이를 둘러싼 논의는 향후 AI가 교육 분야에서 어떤 식으로 도입될지를 보여 주는 시금석이라 할 만하다.
AI 교과서가 추진 과정이나 적절성 측면에서 실로 다종다양한 문제가 있음은 여러 차례 각계각층에서 지적되었다. 정부교의 발제에서 그러한 문제들을 짚고 있고 지적들에 대체로 동의한다. 다만 역설적이게도, 문제점이 너무 많다 보니 AI 교과서에 대한 비판의 고갱이는 무엇인지가 잘 잡히지 않는 감도 든다. 향후 교육 분야의 AI 도입과 관련하여 기준과 원칙을 고민하기 위해서라도, 학생의 권리에 초점을 맞추어 정리해보려 한다.
교육권의 측면
교육권(right to education)은 본질적으로 모든 인간의 권리로, 학습자(학생) 입장에서의 ‘교육에 대한 권리’를 의미한다. 이는 작게는 학교 교육 제도에 대한 접근권을 뜻하지만, 더 넓고 적극적으로는 교육의 과정에서 인권을 보장받을 권리, 인격적이고 전인적인 발달이 가능할 권리, 교육 목표(인권과 기본적 자유, 자연환경에 대한 존중의 진전 등)와 방식의 적절성, 교육 정책이나 운영에 대하여 의견을 반영할 권리 등을 포괄한다.
이러한 측면에서 AI 교과서 정책 도입 과정에서 학생의 교육권은 얼마나 고려되었는가. 우선 절차에 대해 여러 문제제기가 있는 데서 알 수 있듯이 학생을 비롯한 교육주체들의 의견을 수렴하고 반영하는 과정은 매우 빈약했다. 만약 AI 교과서가 교육부 주장처럼 교육의 커다란 혁신이자 변화라면 더더욱 학생들의 의견을 경청하고 수렴해야 마땅하다.(물론 이는 대표성을 가진 학생들의 자치적 조직을 구성하지 못한 한국 학교 현실에서 거의 모든 교육 정책이 가질 수밖에 없는 한계지만, AI 교과서는 형식적으로나마 의견을 듣고 반영하는 과정조차 부족했다.) 그러나 AI 교과서는 ‘AI 도입’이 전 세계적, 전 사회적 추세이고 당위적 발전 방향이라는 인식 속에서 강행되고 있는 듯싶다.
나아가, AI 교과서가 전제하고 의도하는 교육의 형태가 학생의 교육권을 더 잘 보장하는 것인지도 따져봐야 한다. AI 교과서는 국가가 정한 교육과정을 기준으로 삼아, 그 학습을 위한 콘텐츠, AI 튜터링을 제공하는 방식으로 작동할 것으로 보인다. 이는 국가가 지정한 교과서를 넘어 다양한 자료를 활용하는 방향으로 교육이 변화해야 한다는 문제의식을 역행하여, 교육과정 및 이에 종속된 내용(기업이 디자인한 코스웨어 등)을 학습하는 것을 강조하는 교육이다. 교육부는 ‘학생 개인 맞춤형’을 내세우고 있지만, 이는 세세한 학습 방법상의 변화일 뿐, 교육의 내용이나 방향의 다양성을 확장하는 것이 아니다. 사실 이는 획일적인 평가 시스템과 경쟁적인 교육환경이 그대로인 상황에선 해결 불가능하기도 하다. 따라서 현행과 같은 방식의 AI 교과서 도입은 큰 틀에서 보면 교육을 오히려 협소하게 만들 위험이 있고, 학생들의 다양하고 전인적인 성장에 보탬이 될지 의문스럽다.
현실적으로 AI 교과서 도입이 교육 재정에 심각한 압박을 가하고 있고, 교직원의 인력 감축으로 이어지고 있다는 점도 고려되어야 한다. 충분한 인력의 적절한 협력을 통한 교육은 교육권 보장의 가장 확실하고도 보편적인 방법이다. 만약 AI 교과서의 성능이 현재보다 훨씬 더 발전하더라도, 그 도입 과정에서 교사 등 인력이 감축된다면, 종합적으로 학생들의 교육권이 신장된다고 볼 수 없다. 이는 단순히 정책상의 한계가 아니라, 교육부가 AI 교과서를 도입하려는 의도 중 적어도 일부는 (다른 모든 산업 분야에서 그러하듯) 교육 재정을 아끼고 노동자(교직원 등)에게 드는 비용을 감축하려는 것으로 추정된다는 점에서 근본적인 문제이기도 하다.
개인정보에 관한 권리, 그리고 그 이상의 정보 주권
2003년 NEIS 도입 때와 마찬가지로, AI 교과서에서도 학생의 정보인권은 주된 쟁점 중 하나다. 교육부의 가이드라인 등을 살펴보면 주로 수집된 정보가 유출되지 않게 하는 보안 강화와 비식별화가 주된 대책으로 이야기되고 있다. 그러나 정보인권은 단지 ‘민감한 개인정보가 유출될 위험이 있다’는 차원으로만 논의되어서는 안 된다.
한국 사회에서는 일상적으로 청소년들의 사생활과 정보에 대한 권리가 침해당한다. 휴대전화에 대한 일방적인 수거, 압수 등을 가능케 하는 「교원의 학생생활지도에 관한 고시」라든지, 친권자(학부모)/교사가 자녀/학생의 휴대전화 사용을 감시·통제할 수 있는 각종 어플리케이션의 존재를 보라. 그리고 학교 현장에서 수많은 정보 수집과 그에 관한 동의 절차에서 학생의 선택권이 제대로 보장되기는 매우 어렵다.(본인 대신 법정대리인 동의를 받는 것은 법적인 문제는 없겠지만 학생인권의 문제가 된다.)
사실 학교 교육 분야에서 AI의 도입이 환영받을 수 있을 법한 이유 중에는, 현재 교사들의 교육활동의 질이 균등하게 신뢰받지 못한다는 점, 교사들의 강압적이고 불합리한 통제·행위에 대한 반감이 상당 부분 있을 것이다. 하지만 실제로는 AI 교과서는 교사를 대체하는 것이 아니며, 오히려 학생에 대한 감시와 통제를 강화하는 도구가 될 위험이 있다. 특히 현재 제시된 AI 교과서의 기능 중에, 교사 또는 친권자가 학생의 데이터를 열람하고 학습 과정 및 감정 기록 등을 열람할 가능성이 있는 것은 심각한 학생인권 사안이다. 이러한 기능을 만들면서 ‘학습의 효율성’ 말고 학생 개개인의 인권 측면은 거의 고려되지 않은 것으로 보인다. 그리고 이러한 문제제기가 통용되려면, 학생들의 사생활과 개인정보가 친권자나 교사라고 해서 함부로 열람, 통제 가능한 것이 아니라는 사회적 인식의 변화가 필요하다.
소극적인 프라이버시의 문제 외에도, 더 적극적으로는 학생이 교육활동을 하고 그로써 생성된 정보가 어떻게 사용되는지를 이해하고 결정할 수 있는가 하는 문제가 존재한다. AI 교과서는 학생들의 교육활동에 관한 수많은 정보를 수집하여 빅데이터를 만들고 이를 학습함으로써 효과적으로 작동할 수 있다. 그런데 그 과정에서는 정보 수집을 위한 여러 작업과 시행착오가 필요할 것이다. 이러한 정보가 무엇을 목적으로, 어떤 식으로 사용될지를 우리는 이해하고 통제할 수 있을까?
“교육 활동 진행과 학생 성장에 대한 맞춤형 지원을 할 수 있을 정도의 데이터는 얼마만큼이나 학습이 필요할 것인가. 학생들은 이 데이터 축적 노동에 동의했는가? 데이터 활용에 대한 동의는 지금 AI 디지털교과서 도입의 대상인 초등학교 3, 4학년이 이해할 수 있는 내용과 방법으로 구해질 것인가. (중략) 교육 활동에서 데이터 눈 붙이기 노동은 학생들과 교육 노동자들의 몫이 될 것이고 데이터 활용으로 인한 이윤 창출은 교육 활동이 아닌 다른 곳, 다른 이들이 취하게 될 것이다.”(진냥, 2024, 〈위장된 혁신〉, 《오늘의 교육》, 2024년 9·10월(통권 82호))
물론 현재 교육부의 <인공지능(AI) 디지털교과서 개발 가이드라인>에서는 ‘목적 외 활용 금지’를 명시하고 있다. 수집된 빅데이터는 AI 교과서의 고도화와 발전을 위해서만 사용되어야 하며 다른 데는 사용되어서는 안 된다는 것이다. 하지만 이 원칙이 실질적으로 그리고 장기적으로도 지켜질 수 있을지는 그간의 선례에 비춰보면 여러모로 의문스럽다. 이미 수많은 기업이 불법적으로 수집한 정보를 마케팅과 알고리즘에 사용하고 있어서 문제가 되고 있다. 게다가 한국 정부는 산업의 발전을 위해서라면 비식별화된 정보를 얼마든지 제공할 용의가 있지 않던가. 학생들의 여러 교육활동에 관한 정보들이 빅데이터화되면 이는 사교육 업체에서 AI 문제집, AI 수업을 만드는 데 매우 요긴하게 사용할 수 있을 것이다. AI 교과서 도입이 장기적으로 에듀테크나 사교육 기업 등에 미칠 영향까지 고려되어야 할 이유이다.
정보와 교육의 민주주의
결국 AI 교과서 도입 과정에서 문제가 되는 것은, AI 교과서로 인해 직접적으로 영향을 받게 되는 교육주체들의 권리가 충분히 고려되었는가, 도입의 목적, 과정, 결과에 대해서 함께 이해하고 결정할 수 있었는가 하는 점이다. 그리고 이는 개인정보를 유출당하거나 민감한 정보가 도용되지 않을 권리 이상으로, 내(우리)가 만들어내는 나(우리)에 관한 정보가 어디에 어떻게 무엇을 위해 사용될지를 스스로 결정하고 통제할 수 있는가 하는 ‘정보 주권’의 문제이기도 하다. AI가 발전, 확산되고 있는 시대에 이러한 정보에 대한 주권, 민주주의는 핵심적이고 일상적인 쟁점이 되고 있다.
현재 강행되고 있는 AI 교과서 도입은 그 절차의 부적절성이나 정부의 교육예산 삭감 등과 맞물려 큰 반발에 부딪히고 있다. 그런데 그렇다면 충분한 의견 수렴과 절차를 밟았다면 AI 교과서 도입에 다른 문제는 없었을까. 앞서 AI 교과서가 교육권을 충분히 보장하는지, 학생들의 정보인권의 문제가 뭐가 있는지를 살펴봤지만, 한편으로는 AI 교과서가 없는 현재의 학교에서는 학생들의 교육권이 보장되는지, 교육 정책 결정에 민주적으로 참여할 권리가 있는지, 정보인권을 비롯해 사생활의 자유나 프라이버시 등이 보장되는지도 묻지 않을 수 없다. AI 교과서 도입이 초래할 많은 문제들은 사실 기존의 학교와 교육에서 학생들의 인권과 민주주의가 제대로 보장되지 않았던 것들의 연장선에 있기도 하다. 정보의 민주주의를 이야기하려면 교육에서의 민주주의도 함께 필요한 이유라고 하겠다.
포럼 전체 자료집은 PDF 파일로 첨부했습니다.
청소년인권운동연대 지음 공현 활동가의 토론문을 본문에 넣었습니다.
---
[토론문] AI 디지털교과서 도입을 둘러싼 학생의 인권 문제
공현(청소년인권운동연대 지음 책임활동가)
우리 사회의 다른 여러 분야와 마찬가지로 교육 분야에도 ‘인공지능(AI)’의 바람이 불어닥치고 있다. 그 대표격이 이른바 ‘AI 디지털교과서’로, 이를 둘러싼 논의는 향후 AI가 교육 분야에서 어떤 식으로 도입될지를 보여 주는 시금석이라 할 만하다.
AI 교과서가 추진 과정이나 적절성 측면에서 실로 다종다양한 문제가 있음은 여러 차례 각계각층에서 지적되었다. 정부교의 발제에서 그러한 문제들을 짚고 있고 지적들에 대체로 동의한다. 다만 역설적이게도, 문제점이 너무 많다 보니 AI 교과서에 대한 비판의 고갱이는 무엇인지가 잘 잡히지 않는 감도 든다. 향후 교육 분야의 AI 도입과 관련하여 기준과 원칙을 고민하기 위해서라도, 학생의 권리에 초점을 맞추어 정리해보려 한다.
교육권의 측면
교육권(right to education)은 본질적으로 모든 인간의 권리로, 학습자(학생) 입장에서의 ‘교육에 대한 권리’를 의미한다. 이는 작게는 학교 교육 제도에 대한 접근권을 뜻하지만, 더 넓고 적극적으로는 교육의 과정에서 인권을 보장받을 권리, 인격적이고 전인적인 발달이 가능할 권리, 교육 목표(인권과 기본적 자유, 자연환경에 대한 존중의 진전 등)와 방식의 적절성, 교육 정책이나 운영에 대하여 의견을 반영할 권리 등을 포괄한다.
이러한 측면에서 AI 교과서 정책 도입 과정에서 학생의 교육권은 얼마나 고려되었는가. 우선 절차에 대해 여러 문제제기가 있는 데서 알 수 있듯이 학생을 비롯한 교육주체들의 의견을 수렴하고 반영하는 과정은 매우 빈약했다. 만약 AI 교과서가 교육부 주장처럼 교육의 커다란 혁신이자 변화라면 더더욱 학생들의 의견을 경청하고 수렴해야 마땅하다.(물론 이는 대표성을 가진 학생들의 자치적 조직을 구성하지 못한 한국 학교 현실에서 거의 모든 교육 정책이 가질 수밖에 없는 한계지만, AI 교과서는 형식적으로나마 의견을 듣고 반영하는 과정조차 부족했다.) 그러나 AI 교과서는 ‘AI 도입’이 전 세계적, 전 사회적 추세이고 당위적 발전 방향이라는 인식 속에서 강행되고 있는 듯싶다.
나아가, AI 교과서가 전제하고 의도하는 교육의 형태가 학생의 교육권을 더 잘 보장하는 것인지도 따져봐야 한다. AI 교과서는 국가가 정한 교육과정을 기준으로 삼아, 그 학습을 위한 콘텐츠, AI 튜터링을 제공하는 방식으로 작동할 것으로 보인다. 이는 국가가 지정한 교과서를 넘어 다양한 자료를 활용하는 방향으로 교육이 변화해야 한다는 문제의식을 역행하여, 교육과정 및 이에 종속된 내용(기업이 디자인한 코스웨어 등)을 학습하는 것을 강조하는 교육이다. 교육부는 ‘학생 개인 맞춤형’을 내세우고 있지만, 이는 세세한 학습 방법상의 변화일 뿐, 교육의 내용이나 방향의 다양성을 확장하는 것이 아니다. 사실 이는 획일적인 평가 시스템과 경쟁적인 교육환경이 그대로인 상황에선 해결 불가능하기도 하다. 따라서 현행과 같은 방식의 AI 교과서 도입은 큰 틀에서 보면 교육을 오히려 협소하게 만들 위험이 있고, 학생들의 다양하고 전인적인 성장에 보탬이 될지 의문스럽다.
현실적으로 AI 교과서 도입이 교육 재정에 심각한 압박을 가하고 있고, 교직원의 인력 감축으로 이어지고 있다는 점도 고려되어야 한다. 충분한 인력의 적절한 협력을 통한 교육은 교육권 보장의 가장 확실하고도 보편적인 방법이다. 만약 AI 교과서의 성능이 현재보다 훨씬 더 발전하더라도, 그 도입 과정에서 교사 등 인력이 감축된다면, 종합적으로 학생들의 교육권이 신장된다고 볼 수 없다. 이는 단순히 정책상의 한계가 아니라, 교육부가 AI 교과서를 도입하려는 의도 중 적어도 일부는 (다른 모든 산업 분야에서 그러하듯) 교육 재정을 아끼고 노동자(교직원 등)에게 드는 비용을 감축하려는 것으로 추정된다는 점에서 근본적인 문제이기도 하다.
개인정보에 관한 권리, 그리고 그 이상의 정보 주권
2003년 NEIS 도입 때와 마찬가지로, AI 교과서에서도 학생의 정보인권은 주된 쟁점 중 하나다. 교육부의 가이드라인 등을 살펴보면 주로 수집된 정보가 유출되지 않게 하는 보안 강화와 비식별화가 주된 대책으로 이야기되고 있다. 그러나 정보인권은 단지 ‘민감한 개인정보가 유출될 위험이 있다’는 차원으로만 논의되어서는 안 된다.
한국 사회에서는 일상적으로 청소년들의 사생활과 정보에 대한 권리가 침해당한다. 휴대전화에 대한 일방적인 수거, 압수 등을 가능케 하는 「교원의 학생생활지도에 관한 고시」라든지, 친권자(학부모)/교사가 자녀/학생의 휴대전화 사용을 감시·통제할 수 있는 각종 어플리케이션의 존재를 보라. 그리고 학교 현장에서 수많은 정보 수집과 그에 관한 동의 절차에서 학생의 선택권이 제대로 보장되기는 매우 어렵다.(본인 대신 법정대리인 동의를 받는 것은 법적인 문제는 없겠지만 학생인권의 문제가 된다.)
사실 학교 교육 분야에서 AI의 도입이 환영받을 수 있을 법한 이유 중에는, 현재 교사들의 교육활동의 질이 균등하게 신뢰받지 못한다는 점, 교사들의 강압적이고 불합리한 통제·행위에 대한 반감이 상당 부분 있을 것이다. 하지만 실제로는 AI 교과서는 교사를 대체하는 것이 아니며, 오히려 학생에 대한 감시와 통제를 강화하는 도구가 될 위험이 있다. 특히 현재 제시된 AI 교과서의 기능 중에, 교사 또는 친권자가 학생의 데이터를 열람하고 학습 과정 및 감정 기록 등을 열람할 가능성이 있는 것은 심각한 학생인권 사안이다. 이러한 기능을 만들면서 ‘학습의 효율성’ 말고 학생 개개인의 인권 측면은 거의 고려되지 않은 것으로 보인다. 그리고 이러한 문제제기가 통용되려면, 학생들의 사생활과 개인정보가 친권자나 교사라고 해서 함부로 열람, 통제 가능한 것이 아니라는 사회적 인식의 변화가 필요하다.
소극적인 프라이버시의 문제 외에도, 더 적극적으로는 학생이 교육활동을 하고 그로써 생성된 정보가 어떻게 사용되는지를 이해하고 결정할 수 있는가 하는 문제가 존재한다. AI 교과서는 학생들의 교육활동에 관한 수많은 정보를 수집하여 빅데이터를 만들고 이를 학습함으로써 효과적으로 작동할 수 있다. 그런데 그 과정에서는 정보 수집을 위한 여러 작업과 시행착오가 필요할 것이다. 이러한 정보가 무엇을 목적으로, 어떤 식으로 사용될지를 우리는 이해하고 통제할 수 있을까?
“교육 활동 진행과 학생 성장에 대한 맞춤형 지원을 할 수 있을 정도의 데이터는 얼마만큼이나 학습이 필요할 것인가. 학생들은 이 데이터 축적 노동에 동의했는가? 데이터 활용에 대한 동의는 지금 AI 디지털교과서 도입의 대상인 초등학교 3, 4학년이 이해할 수 있는 내용과 방법으로 구해질 것인가. (중략) 교육 활동에서 데이터 눈 붙이기 노동은 학생들과 교육 노동자들의 몫이 될 것이고 데이터 활용으로 인한 이윤 창출은 교육 활동이 아닌 다른 곳, 다른 이들이 취하게 될 것이다.”(진냥, 2024, 〈위장된 혁신〉, 《오늘의 교육》, 2024년 9·10월(통권 82호))
물론 현재 교육부의 <인공지능(AI) 디지털교과서 개발 가이드라인>에서는 ‘목적 외 활용 금지’를 명시하고 있다. 수집된 빅데이터는 AI 교과서의 고도화와 발전을 위해서만 사용되어야 하며 다른 데는 사용되어서는 안 된다는 것이다. 하지만 이 원칙이 실질적으로 그리고 장기적으로도 지켜질 수 있을지는 그간의 선례에 비춰보면 여러모로 의문스럽다. 이미 수많은 기업이 불법적으로 수집한 정보를 마케팅과 알고리즘에 사용하고 있어서 문제가 되고 있다. 게다가 한국 정부는 산업의 발전을 위해서라면 비식별화된 정보를 얼마든지 제공할 용의가 있지 않던가. 학생들의 여러 교육활동에 관한 정보들이 빅데이터화되면 이는 사교육 업체에서 AI 문제집, AI 수업을 만드는 데 매우 요긴하게 사용할 수 있을 것이다. AI 교과서 도입이 장기적으로 에듀테크나 사교육 기업 등에 미칠 영향까지 고려되어야 할 이유이다.
정보와 교육의 민주주의
결국 AI 교과서 도입 과정에서 문제가 되는 것은, AI 교과서로 인해 직접적으로 영향을 받게 되는 교육주체들의 권리가 충분히 고려되었는가, 도입의 목적, 과정, 결과에 대해서 함께 이해하고 결정할 수 있었는가 하는 점이다. 그리고 이는 개인정보를 유출당하거나 민감한 정보가 도용되지 않을 권리 이상으로, 내(우리)가 만들어내는 나(우리)에 관한 정보가 어디에 어떻게 무엇을 위해 사용될지를 스스로 결정하고 통제할 수 있는가 하는 ‘정보 주권’의 문제이기도 하다. AI가 발전, 확산되고 있는 시대에 이러한 정보에 대한 주권, 민주주의는 핵심적이고 일상적인 쟁점이 되고 있다.
현재 강행되고 있는 AI 교과서 도입은 그 절차의 부적절성이나 정부의 교육예산 삭감 등과 맞물려 큰 반발에 부딪히고 있다. 그런데 그렇다면 충분한 의견 수렴과 절차를 밟았다면 AI 교과서 도입에 다른 문제는 없었을까. 앞서 AI 교과서가 교육권을 충분히 보장하는지, 학생들의 정보인권의 문제가 뭐가 있는지를 살펴봤지만, 한편으로는 AI 교과서가 없는 현재의 학교에서는 학생들의 교육권이 보장되는지, 교육 정책 결정에 민주적으로 참여할 권리가 있는지, 정보인권을 비롯해 사생활의 자유나 프라이버시 등이 보장되는지도 묻지 않을 수 없다. AI 교과서 도입이 초래할 많은 문제들은 사실 기존의 학교와 교육에서 학생들의 인권과 민주주의가 제대로 보장되지 않았던 것들의 연장선에 있기도 하다. 정보의 민주주의를 이야기하려면 교육에서의 민주주의도 함께 필요한 이유라고 하겠다.