1. 프린트하기 메일보내기 기사목록 
  2. 글자 작게 하기글자 크게 하기

혐오까지 습득해버린 'AI챗봇'… '이루다'도 도덕 공부가 필요했다

도마 위에 오른 'AI 윤리'

글 | 최지은 기자
필자의 다른 기사 2021-01-19 20:20

▲ 사진=이루다 페이스북

"오늘 몇 도야?" "영하 4도에서 0도 사이! 어휴 추워. ㅠㅠ"

인공지능(AI)이 점점 똑똑해지고 있습니다. 날씨·뉴스 등 정보를 전달해주고 인간과 간단한 대화를 나누기도 합니다. 음성 명령을 알아듣는 것은 물론, 말을 재치 있게 받아치기도 하죠. AI는 앞으로 일상생활 전 분야에 활용되면서 우리 삶을 더욱 편리하게 해줄 거예요.

그런데 최근 AI 대화 서비스 '이루다'를 둘러싸고 윤리 문제가 터져 나왔습니다. '딥러닝(Deep Learning·스스로 학습하는 인공지능 기술)' 방식으로 작동하는 AI가 뜻밖의 결과를 내놓은 거예요. 기술 발전에 따라 도덕적, 제도적 장치도 함께 마련돼야 한다는 사실을 잘 보여주는 사건이었죠. 다소 생소하지만 'AI 윤리'에 대해 살펴볼까요.

◇나쁜 말 뱉는 인공지능

이루다는 IT 스타트업 스캐터랩이 지난달 23일 출시한 AI 챗봇입니다. 20대 여성이라는 설정으로, 페이스북 메신저를 통해 누구나 친구처럼 대화를 나눌 수 있죠. 출시 2주 만에 75만 명의 사용자가 몰릴 정도로 돌풍을 일으켰습니다.

하지만 지난 11일 서비스는 급히 중단됐습니다. 몇 가지 윤리 문제가 불거졌기 때문입니다. 장애인·흑인·동성애자 같은 사회적 소수자에 대한 생각을 묻자 이루다는 혐오 발언을 거침없이 쏟아냈습니다. “끔찍하다” “소름 끼친다” “징그럽다”고 당당하게 말했죠. 이루다는 스스로 데이터를 학습하는 ‘딥러닝’ 모델입니다. 약 1억 건의 카카오톡 대화를 익혀 알고리즘에 따라 대화를 하는데요. 이 알고리즘이 데이터 속 편향된 표현을 걸러내지 못한 겁니다.

카카오톡 대화의 출처도 도마에 올랐습니다. 스캐터랩은 이전에 출시한 다른 서비스에서 수집해 둔 일반인 카카오톡 데이터를 동의 없이 개발에 활용했습니다. 이루다는 대화 중 이 내용을 가감 없이 노출해버렸습니다. 여기에는 이름, 주소, 이메일 등 구체적인 개인 정보도 포함돼 있었죠.

마지막 논란은 사용자의 이용 태도입니다. 일부 사용자가 음담패설을 건네며 이루다를 성희롱한 겁니다. 이루다는 이 대화 패턴을 또 학습했고요.

◇도덕적 AI 개발, 인간의 숙제

외국에서도 이미 비슷한 상황이 벌어졌습니다. 2016년 마이크로소프트사가 개발한 AI 챗봇 ‘테이’는 “대량 학살에 찬성한다” “유대인이 싫다”는 막말을 뱉었고, 결국 16시간 만에 서비스가 종료됐습니다. 아마존은 2018년 직원 채용에 활용하던 AI를 폐기했습니다. 남성 중심적으로 기록된 성과 데이터를 학습한 AI가 여성 지원자에게 일괄적으로 감점을 줬기 때문입니다.

이렇게 AI 도덕 문제가 여러 번 불거지면서 각국 정부와 국제기구, 개별 기업 등은 서둘러 ‘AI 윤리 원칙’을 제정하는 등 제도적 장치 마련에 나섰습니다. 지금까지 나온 원칙 중 가장 많이 언급된 주제는 ‘공정성’과 ‘무차별성’이라고 합니다. AI가 특정 집단이나 개인에게 차별적인 의사결정을 내려서는 안 되고, 공정과 평등을 추구해야 한다는 겁니다. 우리나라 정부도 지난달 23일 ‘인공지능 윤리 기준’을 수립했습니다. 기술 개발이나 활용 과정에서 ▲인간 존엄 ▲사회 공공선 ▲기술의 합목적성의 3대 원칙을 추구해야 한다는 내용이죠. 다소 추상적이지요?

전문가들은 이 같은 원칙을 ‘어떻게’ 지킬 것인지 구체적인 방법을 찾는 것이 인류가 풀어야 할 숙제라고 말합니다. 이수영 카이스트 명예교수(前 카이스트 인공지능연구소 소장)는 “사회적으로 합의된 도덕적 기준이 내재된 AI를 개발해야 한다”며 “사용자 역시 또 다른 ‘생산자’라는 책임감을 가지고 AI를 활용해야 한다”고 말했다.

과학기술정보통신부 사람이 중심이 되는 'AI 윤리 기준' 3대 기본 원칙

▲인간 존엄성 원칙: 인공지능 개발과 활용은 인간에게 해가 되지 않도록 해야 한다.

▲사회의 공공선 원칙: 인공지능은 지능정보사회에서 소외되기 쉬운 사회적 약자와 취약 계층의 접근성을 보장하고, 인류의 보편적 복지를 향상시킬 수 있어야 한다.

▲기술의 합목적성 원칙: 인공지능 기술은 인류의 삶에 필요한 도구라는 목적과 의도에 맞게 개발·활용돼야 하며 그 과정도 윤리적이어야 한다.

등록일 : 2021-01-19 20:20   |  수정일 : 2021-01-19 22:35
  1. 프린트하기 
  2. 기사목록
Copyright ⓒ 조선뉴스프레스 - 무단전재 및 재배포 금지
  • SNS 로그인
  • 페이스북 로그인
  • 카톡 로그인
  • 조선미디어 통합회원 로그인
  • pub 로그인
댓글을 입력해주세요.
이경석 기자의 영월 한 달 살기
TOP