"인간과 AI 공존, 결정과정에 시민적극참여 필요"
"인간과 AI 공존, 결정과정에 시민적극참여 필요"
  • 황두연 기자
  • 승인 2019.05.21 17:33
  • 댓글 0
이 기사를 공유합니다

SPRi포럼 "개인정보 자유활용, 해를 입힐시 엄벌규정 필요"

[뉴스정론 황두연 기자] <단독> 인공지능이 발전된 사회에서 인간과 인공지능의 공존을 위서는 인공지능 철학, 윤리, 법제도 결정 과정에 시민들의 적극적인 참여가 필요하다는 의견이 제기됐다.

이와 함께 인간에 이로운 인공지능 고도화를 위해 개인정보를 동의없이 활용할 수 있도록 하고 이를 오용하고 해를 끼친 경우 엄벌하는 방향으로 활용규정을 바꿔야 한다는 주장도 나왔다.

21일 소프트웨어정책연구소가 주최한 제43회 SPRi 포럼이 '인간과 인공지능의 공존, 무엇을 준비해야하나'를 주제로 서울 양재동 엘타워에서 진행됐다

이날 포럼은 인공지능과 인간의 공존을 위한 철학과 윤리, 법제도와 거버넌스 등을 논의하고 대안을 모색하기 위해 마련됐다.

이날 포럼 토론에서 서울대 홍성욱 교수가 '인공지능 철학', 김명주 서울여대 교수가 '인공지능 윤리', 김기창 고려대 교수가 '법제도', 전길남 카이스트 명예교수가 '거버넌스, 김흡영 한국과학생명포럼 명예교수가 '신학', 김진형 인공지능연구원장이 '인공지능 기술'에 대해 각각 토론을 가졌다.

홍성욱 서울대 교수는 인공지능 철학에 관련해 '알고리즘 시민권' 도입을 주장했다.
홍 교수는 "시민이 자신의 권리를 적극적으로 쟁취하는 인간이듯이 알고리즘 시민권 개념도 적극적으로 인공지능사회의 모든 혜택을 누릴 수 있도록 투쟁속에서 권리를 찾는 시민권을 말한다"고 설명했다.

이어 "과학기술이 낳을 수 있는 혜택과 문제점의 균형점에 대해 적극적으로 개입해서 권리를 행사해야 한다"며 "이를 전문가에게 맡겨서는 안된다"고 경고했다.

소프트웨어정책연구소 주최로 제43회 SPRi 포럼이 '인간과 인공지능의 공존, 무엇을 준비해야하나'를 주제로 진행됐다.
소프트웨어정책연구소가 주최한 제43회 SPRi 포럼이 '인간과 인공지능의 공존, 무엇을 준비해야하나'를 주제로 진행됐다.

그러면서 "화학자들은 화학물질의 위험성에 대해, 원자력전문가들은 방사능의 위험성에 대해 낮게 평가하는 등 전문가들로 구성된 위원회는 위험할 수 있다"며 "시민들이 인공지능의 사회화과정에 적극적인 참여를 통해 시민에게 유리하게 조정해야 한다"고 주장했다.

홍 교수는 "알고리즘시민권은 취업, 환경, 경제 사회 등에 집단과 개인의 위험에 처하게 될때 이를 제한할 수 있고 공론화에 참여하고 합의결과를 수용해야 한다"며 "차별과 불평등의 구조적 심화를 극복하는데도 바람직한 해결의 척도가 될 수 있다"고 덧붙였다.

김명주 서울여대 교수는 "인공지능이 어떤 결정을 내렸을 때 그 부분에 대한 설명과 공정하고 편향성이 없다는 기준점을 마련해야 한다"며 "시민이 자율주행차 등 인공지능을 직접 활용할때 본인과 타인에 피해를 주는 위험요소 즉 안전문제에 대한 대안을 마련해야 한다"고 밝혔다.

이어  "AI개발자는 서비스업그레이드와 유지보수가 필요한데 상황에 따라서는 개인의 내밀한 개인정보나 프라이버시까지 클라우드에 저장돼야 하기에 이에 대해 소비자에게 정확히 고지하고 AI사업체의 비밀준수 규정도 마련될 필요가 있다"고 피력했다.

김진형 인공지능연구원장은 인공지능 기술에 대해 미국과 중국의 패권화하고 있는데 대해 "미국과 중국의 패권 다툼은 통제하기 어려운 상황"이라며 우려했다.

그는 "지금까지는 각국이 인공지능 소스코드를 공개하고 서로의 과학적 성과를 공유하는 상황이었지만 향후에는 패권주의가 득세하게 될 경우 인공지능 공유생태계가 무너질 수도 있다는 우려가 있다"고 밝혔다.

이어 "우리나라의 경우 데이터도 부족하고 소프트웨어인력 자체가 글로벌 인재로 봤을때 우리나라의 인재는 1%수준에 불과하다"며 "향후 엔지니어를 키워서 잘하는 분야에 인공지능을 활용해서 문제해결능력을 키워야 한다"고 말했다.

그러면서 "교육도 공대의 모든 학생들은 인공지능을 자유자재로 다룰 수 있도록 해야 한다"며 "다행히 초중고에서 소프트웨어를 의무적으로 배우고 있기에 고학년에 인공지능 분야를 추가하면 뒤떨어지지 않을 수 있다"고 덧붙였다.

김기창 고려대 교수는 "AI퀄리티는 데이터 퀄리티"라며 "광범위한 데이터를 활용해야 AI는 강화될 수 있다"고 말했다.

이어 "우리나라의 경우 개인정보에 대하 규제가 과도한 측면이 있다"며 "개인의 동의를 적절히 잘 활용해야 한다는 게 지금까지 법제도의 방향인데 이 개념이 잘못됐다"고 지적했다.

그러면서 "이 개념을 버리고 적극적인 개인정보활용으로 최적화된 서비스를 만들 수 있도록 사회구성원 전체가 합의해야 한다"고 주장했다.

김 교수는 "(개인정보에 대해) 동의는 묻지말고 유도하지도 말아야 한다"며 "사업자가 설명하게 하고 동의가 있건 없건 유저에게 해가 되는 방향으로 개인정보를 이용하면 엄격한 처벌규정을 마련해야 한다"고 밝혔다.

김흡영 한국과학생명포럼 명예교수는 신학과 인공지능의 관계부문에 대한 발표했다.

그는 "종교와 신학이 없는 상황에서 인공지능 담론이 전개되고 있는 것은 국소적일 수 밖에 없다"며 "창조화 피조의 관점에서 바라보는 테크노피아는 종말이후의 유토피아와 유사한 맥락을 갖추고 있다"고 밝혔다.

그는 신학적 관점에서 AI시대의 첫번째 단계로 기계와 신을 숭배하는 도구로 테크널로지, 두번째 유전자 조작 등 신놀이 하는 AI, 셋째, AI를 인간의 능력정도로 확장시켜 신의 동반자로 인간을 승격시키는 단계. 그리고 네번째 단계는 초지능을 거쳐 AI를 신으로 모시는 AI신격화 단계가 있다고 주장했다. 

그러면서 "교만과 자기탐욕의 인간이 극대화된 AI능력을 가지는 것은 위험하다. 이를 인류종말로 보고 있다"며 "참사람이 되기 위해서는 자기부정을 통한 성숙의 과정으로  유교는 수신을 통한 도덕, 불교는 수행을 통간 해탈인데 AI가 참된 사랑을 알고 이를 펼칠 수 있을까 의문"이라고 AI시대 대해 부정적인 시각을 피력했다.

황두연 기자 hdy@kuv.co.kr

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.