과기정통부, 인공지능 윤리·신뢰성 확산 본격 시동

과학기술정보통신부, 인공지능 윤리·신뢰성 확산 본격 시동

과학기술정보통신부는 인공지능 기술의 발전과 동시에 발생할 수 있는 윤리적인 문제와 신뢰성 확보의 중요성에 대해 인식하고 있습니다. 이를 위해 과기정통부는 인공지능 윤리·신뢰성을 강화하기 위한 노력을 기울이고 있습니다.

1. 생성형 인공지능 대표기업 방문

과기정통부는 최근에는 생성형 인공지능 대표기업을 방문하고 있으며, 의료, 제조, 교육, 교통·운송, 금융 등과 같은 다양한 분야의 대표적인 인공지능 기업들을 순차적으로 방문할 계획을 가지고 있습니다. 이러한 방문을 통해 인공지능 윤리·신뢰성 준수의 중요성을 전파하고, 기업들이 윤리적인 원칙을 준수하고 신뢰성을 확보할 수 있도록 도움을 주고자 합니다.

2. 인공지능 윤리기준 수립

과기정통부는 이를 위해 인공지능 윤리기준을 수립하였으며, OECD와 EU 등에서 제시한 권고안을 참고하여 이를 반영하였습니다. 또한, 기업들이 자율적으로 윤리기준을 준수하고 점검할 수 있도록 자율점검표와 개발안내서를 제공하고 있습니다. 이를 통해 인공지능 기술의 발전과 동시에 윤리적인 문제를 해결하고, 신뢰성을 확보할 수 있는 환경을 조성하고자 합니다.
과기정통부의 노력을 통해 인공지능 기술의 발전은 윤리적인 측면에서도 적절하게 이루어질 수 있을 것으로 기대됩니다.

과학기술정보통신부는 챗봇, 영상, 작문 등 인공지능 기술이 강조되는 분야에 대한 윤리·신뢰성을 강화하기 위해 세부지침을 마련하였으며, 앞으로는 채용, 치안, 초거대 인공지능 서비스 등으로 범위를 확대할 예정입니다. 이를 통해 각 분야와 사안에 맞는 세부적인 가이드라인을 수립하여 주체들이 윤리와 신뢰성을 준수할 수 있도록 지원하고자 합니다.
박윤규 2차관은 현장방문을 통해 기업들의 인공지능 윤리·신뢰성 준수 현황을 파악하고, 과기정통부의 인공지능 윤리원칙과 가이드라인을 참고하여 기업이 자발적으로 윤리와 신뢰성을 지킬 수 있도록 독려할 계획입니다.

3. 첫번째 현장방문 기업 - 업스테이지

첫 번째 현장방문으로는 '업스테이지'를 방문하였으며, 생성형 인공지능의 환각(Hallucination) 현상을 완화하기 위한 기업의 노력과 인공지능 윤리·신뢰성 확산에 대한 의견을 나눴습니다. 환각은 인공지능 모델이 사실이 아닌 내용을 진짜인 것처럼 답변하는 현상을 말합니다.
업스테이지의 이활석 CTO는 생성형 인공지능의 윤리와 신뢰성 확보를 위해 다양한 노력을 지속할 것임을 표명했습니다.
박윤규 제2차관은 인공지능이 산업과 일상에 빠르게 확산되는 상황에서 윤리와 신뢰성의 확보가 중요하며, 기업이 기술 개발부터 활용의 모든 단계에서 윤리와 신뢰성을 고려해야 한다고 강조했습니다. 또한, 국내 기업이 제품과 서비스에 대한 인공지능 윤리와 신뢰성을 선제적으로 확보할 수 있도록 현장 방문을 통해 애로사항을 경청하고 지원할 것이라 밝혔습니다.

4. 세부일정

□ 개요

  ○ 「AI 윤리·신뢰성 강화를 위한 간담회(5.11일)」를 시작으로 AI 윤리·신뢰성을 확산하기 위해 2차관이 AI 분야별* 대표기업 방문

     * 산업분야별 특화 AI 솔루션 보유기업(총 480개사, ’21년 기준) 중 의료(115개), 제조(75개), 교육(46개), 교통·운송(41개), 금융(38개) 등 기업이 다수 소속된 분야로 선정

    - 첫번째 현장방문으로 답변과 출처를 동시 제공하여 생성형 AI의 단점인 환각(Hallucination) 현상을 완화한 업스테이지에 방문

 

□ 주요내용

  ○ (일시) ’23. 6. 15.(목) 14:30 ~ 15:30 (60분)

  ○ (장소) 업스테이지 (경기 용인시 수지구 광교중앙로 338, A동 8층 815호)

  ○ (참석자) 과기정통부 2차관, 업스테이지 CTO, TTA 등 약 8명

 

 □ 세부일정(안)

출처 : 대한민국 정책 브리핑

https://www.korea.kr/briefing/pressReleaseView.do?newsId=156575291 

과기정통부, 인공지능 윤리·신뢰성 확산 본격 시동

AI 관련 다양한 최신 기술이 궁금하시다면 AI 인사이트 유튜브로 놀러오세요 ^^

https://www.youtube.com/@aiworldinsight

AI 인사이트