과기정통부, 새 'AI 윤리원칙' 초안 공개… "규제 아닌 혁신 조력자 돼야"

과학기술정보통신부(이하 과기정통부)가 다가오는 인공지능(AI) 기본사회에 대비해 새롭게 마련 중인 '대한민국 인공지능 윤리원칙' 초안을 두고 각계의 의견을 수렴했다. 특히 이번 논의에서는 AI 윤리가 기술 혁신을 가로막는 획일적 규제가 아니라, 올바른 개발과 활용을 돕는 '조력자' 역할을 해야 한다는 데 공감대가 형성됐다.

3대 가치와 7대 원칙 담은 자율 규범

과기정통부와 정보통신정책연구원(KISDI)은 14일 서울 프레지던트호텔에서 '대한민국 인공지능 윤리원칙' 대토론회를 개최했다. 이번 토론회는 2025년 말부터 시행될 'AI 기본법'에 따라 우리 사회가 따라야 할 자율 규범의 주요 쟁점을 논의하기 위해 마련됐다.

새롭게 정비되는 윤리원칙 초안은 '인간의 존엄성', '사회의 공공선', '인류의 지속가능성'이라는 3대 가치를 기반으로 한다. 이를 실현하기 위한 7대 원칙으로는 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성이 제시됐다. 이는 에이전틱 AI와 피지컬 AI 등 급변하는 최신 기술 동향을 반영한 결과다.

"혁신 제약 넘어 조력자로"… 현장의 목소리

이날 발제를 맡은 이상욱 한양대학교 교수는 "AI 기술이 빠르게 변화하는 상황에서 윤리원칙이 혁신을 제약하는 요소가 되어서는 안 된다"며 "다양한 고려사항을 함께 살펴 바람직한 AI 개발과 활용을 돕고 이를 가능하게 하는 역할을 해야 한다"고 강조했다.

이어진 종합 토론에서도 산업계와 학계 전문가들의 구체적인 제언이 쏟아졌다. 김경훈 카카오 리더는 "윤리적 권고와 법적 의무가 혼동되지 않도록 할 필요가 있다"며 새로운 규제로 작용하는 것을 경계했다. 변순용 서울교육대학교 교수는 "AI가 사회의 기본 인프라가 된 만큼, AI를 무조건 위험하고 조심해야 하는 대상으로 보는 인식에서 벗어날 필요가 있다"고 평가했다.

시민 주권 강조… 이달 중 최종안 공표

시민사회의 적극적인 참여와 권리 보장을 촉구하는 목소리도 나왔다. 홍윤희 사단법인 무의 이사장은 "AI의 개발과 활용 과정에서 기존의 수혜자 중심 접근에서 벗어나, 시민들을 권리를 가진 주체로 보고 접근해야 한다"고 역설했다.

과기정통부는 지난 5월부터 수렴한 116건의 서면 의견과 이번 대토론회에서 제기된 현장 및 온라인 방청객의 의견을 종합적으로 검토할 계획이다. 김경만 과기정통부 실장은 "이번 토론회에서 제기된 의견을 충실히 반영해 윤리원칙을 제정하고, 모든 주체가 이를 실천해 나갈 수 있도록 적극 뒷받침하겠다"고 밝혔다. 정부는 보완 과정을 거쳐 이달 중 윤리원칙을 최종 제정 및 공표할 예정이다.