이스트소프트에 방문, 콘텐츠 분야 인공지능 윤리기준 적용·확산방안 논의
과학기술정보통신부(장관 이종호, 이하 과기정통부) 박윤규 제2차관은 인공지능 윤리·신뢰성 강화를 위한 산업분야별 대표기업 연속 현장방문의 일환으로 7월 28일(금) ㈜이스트소프트에 방문하여 인공지능 윤리·신뢰성 준수 현황을 파악하고 적극적 이행을 독려했다.
㈜이스트소프트는 실사 기반의 인공지능(AI) 휴먼(인공지능 기반 가상인물)을 생성하여 방송·금융·교육 등과 관련한 영상 콘텐츠를 제공하는 기업으로서 자체적으로 수립한 5대 인공지능(AI) 윤리강령*을 인공지능(AI) 휴먼 개발 및 활용 과정에 적용하고 있다.
* ▲ 인간을 존중하는 AI, ▲ 사회에 공헌하는 AI, ▲ 공정한 AI, ▲ 윤리적 AI, ▲ 안전한 AI.
㈜이스트소프트 정상원 대표는 인공지능(AI) 휴먼 개발에 챗 지피티(GPT)를 활용하여 고객과 실시간 질의응답이 가능하도록 하되, 환각(Hallucination)현상을 완화하기 위해 신문기사와 뉴스 등 사실에 입각한 데이터를 활용하고, 인공지능(AI) 휴먼이 사람으로 오인되지 않도록 이용자들에게 인공지능(AI) 휴먼과 대화하고 있음을 표시하고 나아가 생성형 인공지능이 딥페이크 등에 활용되어 사회적 문제를 양산할 수 있는 우려에 대응하여 인공지능을 활용한 생성물 여부를 탐지하는 기술개발을 추진하고 있다고 밝혔다.
과기정통부 박윤규 제2차관은 “인공지능(AI) 휴먼은 사람과 직접 소통하고 언행에 영향을 미칠 수 있다는 점에서 인공지능 윤리·신뢰성 확보가 특히 중요한 영역이다”고 강조하며 사업자의 윤리·신뢰성 확보 노력을 독려하였다.
- ㈜이스트소프트 기업 현장방문 계획
「AI 윤리·신뢰성 강화를 위한 간담회(5.11일)」를 시작으로 AI 윤리·신뢰성을 확산하기 위해 2차관이 AI 분야별* 대표기업 방문. 산업분야별 특화 AI 솔루션 보유기업(총 480개사, ’21년 기준) 중 의료(115개), 제조(75개), 교육(46개), 교통·운송(41개), 금융(38개) 등 기업이 다수 소속된 분야로 선정. 여섯번째 현장방문으로 신뢰성 있는 데이터(뉴스 등)를 학습시켜 환각을 완화하고 AI 활용생성물인지 판별하는 기술을 개발중인 이스트소프트에 방문
(일시) ’23. 7. 28.(금) 10:00~11:00(60분)
(장소) 이스트소프트 (서울 서초구 반포대로 3)
(참석자) 과기정통부 2차관, 인공지능기반정책과장, 한국정보통신기술협회, 이스트소프트 정상원 대표이사 등 12명
