AI 신뢰성 확보한다… 정부, ‘사람 중심 AI 실현 전략’ 발표

 
 
기사공유
  • 카카오톡 공유
  • 카카오톡 공유
  • 네이버 블로그
  • 카카오스토리
  • 텔레그램 공유
  • url 공유
정부가 사람이 중심이 되는 AI를 위한 ‘신뢰할 수 있는 AI 실현전략’을 발표했다. /사진=이미지투데이
정부가 사람이 중심이 되는 AI를 위한 ‘신뢰할 수 있는 AI 실현전략’을 발표했다. /사진=이미지투데이

최근 인공지능(AI) 챗봇 ‘이루다’가 점화시킨 인공지능 윤리 관련 논의에 정부가 가이드라인을 제시했다. 스타트업 등에 대한 지원과 신뢰성 확보를 위한 기술 개발도 추진한다.

과학기술정보통신부가 지난 13일 대통령 직속 4차산업혁명위원회 제22차 전체회의에서 사람이 중심이 되는 인공지능을 위한 ‘신뢰할 수 있는 인공지능 실현전략’을 발표했다. 기술·제도·윤리 측면의 3대 전략과 10대 실행과제를 2025년까지 단계적으로 추진한다.

인공지능이 전 산업·사회에 빠르게 도입·확산되며 혁신을 창출하고 있지만 예상하지 못한 사회적 이슈와 우려도 함께 대두되고 있다. 이에 유럽(EU)은 사람에게 부정적 영향을 미칠 수 있는 고위험 인공지능을 중심으로 한 제도 정립을 선도하고 있다. 미국도 기술개발과 민간 자율규제를 중심으로 인공지능에 대한 신뢰성 확보를 추진 중이다.

이러한 흐름 속에 마련된 이번 전략은 지난해 발표한 ‘인공지능 윤리기준’의 실천방안을 구체화하고 민간 자율적으로 신뢰성을 확보할 수 있도록 지원체계를 구축하는 데 중점을 뒀다. 민간의 인공지능 서비스 구현을 체계적으로 지원하면서 이용자가 믿고 안전하게 사용할 수 있도록 제도를 보완한다. 이로써 사회 전반에 건전한 인공지능 윤리를 확산한다는 방침이다.

윤성로 4차산업혁명위원회 위원장은 이날 모두발언을 통해 “인공지능 대중화를 위해서는 ‘신뢰할 수 있는 인공지능 실현전략’에 따른 실행이 중요하다”고 강조했다.



신뢰 가능한 인공지능 구현 환경 조성


먼저 인공지능 제품·서비스 구현단계별 신뢰 확보 체계를 마련한다. 민간에서 인공지능 제품·서비스를 구현하는 단계(개발→검증→인증)에 따라 기업·개발자·제3자 등이 신뢰성 구현을 위해 참조할 수 있는 신뢰 확보 기준과 방법론을 제시하고 지원한다.

민간의 인공지능 신뢰성 확보도 지원한다. 기술·재정적 상황이 열악한 스타트업 등도 체계적으로 신뢰성을 확보해 나갈 수 있도록 인공지능 구현을 위한 ‘데이터 확보→알고리즘 학습→검증’을 통합 지원하는 플랫폼을 운영한다. 학습용 데이터와 컴퓨팅 자원을 지원 중인 인공지능 허브(AI Hub) 플랫폼에서 검증체계에 따른 신뢰 속성별 수준 분석, 실 환경 테스트 등 기능을 추가 개발·연계해 일괄적으로 지원한다.

이미 구현된 시스템에 인공지능이 판단 기준 등을 설명할 수 있는 기능을 추가할 수 있도록 돕는다. 인공지능이 스스로 법·제도·윤리적 편향성을 진단하고 효율적으로 제거할 수 있도록 인공지능의 설명가능성, 공정성, 견고성 제고를 위한 원천기술 개발도 추진한다.



안전한 인공지능 활용 기반 마련


인공지능 학습에 쓰이는 데이터의 신뢰성 확보에도 나선다. 민·관이 인공지능 학습용 데이터 제작공정에서 공통적으로 준수해야 할 신뢰 확보 검증지표 등 표준 기준을 민간과 함께 마련해 통일성 있게 구축될 수 있도록 확산한다. 디지털 뉴딜로 추진되는 ‘데이터 댐’ 사업에서는 구축 전 과정에서 저작권, 개인정보 보호와 같은 법·제도 준수 여부 등의 신뢰성 확보 고려사항을 선제적으로 적용해 품질을 향상할 계획이다.

고위험 인공지능에 대한 신뢰 확보도 중점적으로 추진한다. 국민의 안전이나 기본권에 잠재적 위험을 미칠 수 있는 고위험 인공지능의 범주를 설정한다. 서비스 제공 전에 해당 인공지능의 활용 여부를 이용자에게 고지하도록 할 계획이다. 고지 이후 해당 인공지능 기반 서비스에 대한 ‘이용 거부’, 인공지능 판단 근거에 대한 ‘결과 설명’ 및 이에 대한 ‘이의제기’ 등 제도화에 대해서는 글로벌 입법·제도화 동향, 산업적 파급력, 사회적 합의·수용성, 기술적 실현 가능성 등을 고려해 종합적으로 중장기 검토할 계획이다.

인공지능 영향평가도 실시한다. 인공지능이 국민생활 전반에 미치는 영향을 종합·체계적으로 분석하고 대응하기 위해 지능정보화기본법 제56조에 규정된 사회적 영향평가를 도입할 계획이다. 신뢰성 요소(안전성, 투명성 등)를 토대로 인공지능의 영향력을 종합 분석해 향후 인공지능 관련 정책이나 기술·관리적 조치방안 수립 시 활용한다.

인공지능 신뢰 강화를 위한 제도 개선에서 나선다. 지난해 인공지능 법·제도·규제 정비 로드맵을 통해 발굴된 과제 중 인공지능에 대한 신뢰 확보, 이용자의 생명·신체보호 등과 관련된 과제인 ▲업계 자율적 알고리즘 관리·감독환경 조성 ▲플랫폼 알고리즘 공정성·투명성 확보 ▲영업비밀 보장을 위한 알고리즘 공개기준 마련 ▲고위험 기술기준 마련 등 관련 제도를 개선할 계획이다.



사회 전반 건전한 인공지능 의식 확산


인공지능이 사회에 미치는 영향, 인간-인공지능 간 상호작용 등 사회·인문학적 관점과 윤리 기준의 사회 실천을 인식할 수 있는 내용을 담은 인공지능 윤리교육 총론을 마련하고, 이를 토대로 연구·개발자, 일반시민 등 맞춤형 윤리 교육을 개발·실시한다.

인공지능 윤리기준에 대한 구체적인 행위지침으로 연구·개발자, 이용자 등이 업무, 일상생활 등에서 윤리 준수 여부를 자율점검을 할 수 있는 체크리스트 개발해 보급한다. 기술 발전의 양상을 반영하고 인공지능 윤리기준을 기본원칙으로 삼아 개인정보보호 자율점검표 등 타 분야 자율점검표와도 체계성과 정합성을 유지해 현장의 실천 가능성을 제고한다.

최기영 과기정통부 장관은 “최근 발생했던 챗봇 사건은 우리 사회가 인공지능의 신뢰성에 대해 어떻게 대처해야 하는지 많은 숙제를 안기는 계기가 됐다”며 “기업·연구자 등이 인공지능 제품·서비스 개발 과정에서 혼란을 겪거나 이로 인해 국민이 피해 보지 않도록 인공지능 신뢰 확보 기준을 명확화하고, 기술적·재정적으로 부족한 중소기업 등이 신뢰성 기준을 준수하는 데 어려움이 없도록 지원 방안을 마련하는 등 이번 전략을 차질 없이 추진해나갈 계획”이라고 밝혔다.
 

팽동현
팽동현 dhp@mt.co.kr  | twitter facebook

열심히 하겠습니다. 감사합니다.

이 기자의 다른기사 보기 >
  • 0%
  • 0%
  • 코스피 : 3286.10상승 9.9115:30 06/24
  • 코스닥 : 1012.62하락 3.8415:30 06/24
  • 원달러 : 1134.90하락 2.815:30 06/24
  • 두바이유 : 74.50상승 0.4215:30 06/24
  • 금 : 73.43상승 0.9115:30 06/24
  • [머니S포토] 유기홍 의원 질의 답변하는 유은혜 부총리
  • [머니S포토] 국힘 대변인 선발토론배틀, 인사말 전하는 이준석 대표
  • [머니S포토] 군 부대 방문 민주당 윤호중, 유심히 코로나19 백신 살펴...
  • [머니S포토] 홍준표, 1년 3개월만에 국민의힘 복당
  • [머니S포토] 유기홍 의원 질의 답변하는 유은혜 부총리

커버스토리

정기구독신청 독자의견