“AI(인공지능)라는 큰 파도가 몰려오고 있다. 두려움을 버리고 서핑하라.” 이는 AI와의 경험치를 늘려가면서 더 친숙해지라는 의미이다. 인공지능을 지닌 로봇이 일자리의 많은 부분을 차지할 시대가 머지않아 올 것이다. 4차 산업혁명의 핵심적 화두가 될 ‘AI’와 그에 따른 ‘윤리의식’에 대해 동아대학교 김종욱 교수의 이야기를 들어보았다.
현재 개발 중인 로봇 Dori(좌)와 Misoro(우)
최근 로봇의 개발과 상업적인 이용 범위가 확장되면서 로봇 윤리학자의 필요성이 대두되고 있다. 로봇과 인간이 공존하기 위해서 로봇의 윤리의식은 반드시 해결해야 할 선결과제이다. 따라서 로봇의 행동반경이 넓어질수록 적절한 제재도 반드시 뒤따라야 하며 관련 법률을 만들거나 제도를 갖출 필요가 있다. ‘AI로봇윤리’는 AI와 로봇이 사람과 상호작용하면서 발생할 수 있는 다양한 문제와 해결 기술을 다루는 분야이다. 앞으로는 인간과 로봇이 공생하는 사회가 될 것이므로 공학적인 설계와 개념만으로 이루어진 로봇의 폐해도 우리가 숙고해 봐야 할 문제임이 틀림없다.
김종욱 교수가 2006년 동아대학교에 부임한 이후 진행하고 있는 ‘인공윤리 개발 연구’는 향후 AI로봇이 증가함에 따라 발생할 수 있는 피해를 최소화하기 위한 방책과 AI로봇의 윤리적 문제들의 현실성에 중점을 두고 있다. 김 교수는 현재 미국과 중국을 중심으로 로봇인공지능 분야의 경쟁이 점점 치열해지고 있는 것에 비해 로봇윤리 연구는 아직 시작 단계에 있다고 한다. 하지만 AI의 발전 속도가 매우 빠른 현 상황을 감안한다면 향후 로봇윤리 전문가의 수요는 매우 빠르게 늘어날 것이라고 보고 있다. 기업에서도 AI로봇이나 시스템의 안정성을 확인하기 위해 윤리성 등급이 매겨져서 판매될 때가 곧 도래할 것으로 바라봤다.
하나, 로봇(인공지능) 윤리학자로서 하는 일을 소개한다면?
로봇 윤리학자로서 로봇과 AI를 개발하고 있다. 또한 AI로봇이 윤리적 기능이나 원칙을 잘 지킬 수 있는 것과 관련하여 국가과제를 수행하고 있으며 연구 결과를 국내외 학술대회와 학회에 꾸준히 발표하고 있다. 그리고 2017년에 한국로봇학회에서 로봇윤리연구회를 설립했으며, 2018년에 로봇산업진흥원 주관으로 ‘로봇윤리헌장 개정안’을 발표했다. 작년에는 국제적 로봇윤리학회인 ICRES의 조직위원으로 활동했고, 국가 AI윤리포럼의 위원으로 활동하며 AI체크리스트 작성에 참여하고 있다. 또한 동아대에 AI윤리기술센터(Center for AI Robot Ethics Technology, CAIRET)를 연구기관으로 개설했다. 이 센터는 국내 최초로 AI로봇윤리의 기술(연구개발, 인증, 컨설팅) 관련 분야를 전문적으로 다루는 센터로 자리매김할 것으로 확신한다.
둘, 로봇(AI) 분야에 관심을 가지게 된 계기는?
박사과정인 2000년도에 일본 혼다 사에서 불가능하다고 여겨졌던 이족보행로봇 아시모(ASIMO)를 출시했다. 당시 로봇공학계에서는 알파고와 같은 충격을 받았다. 이후 2004년에 카이스트 오준호 교수님이 아시모에 버금가는 휴보를 만드셨고, 저도 태권V처럼 인간에게 도움을 주고 친구 같은 로봇을 만들고 싶은 꿈이 생겼다.
셋, AI로봇의 인공윤리 개발 연구를 진행하시는 데 중점을 두고 있는 부분이 있다면?
AI와 로봇을 공학적으로 설계하고 개발하는 연구를 하고 있다. 그래서 언론이나 학계 혹은 시민사회에서 제기되는 AI로봇의 윤리적 문제들의 현실성, 실제로 일어날 수 있는 문제 등에 대해 기술적으로 분석하고 해결책을 마련하는 데 중점을 두고 있다. 앞으로는 명석한 지능을 가진 로봇들과 사람들이 함께 살게 될 텐데, 그때 엉뚱한 동작이나 말로 사고를 일으키지 않도록 개발자들이 미리 세운 원칙을 기반으로 운용하는 것에 기준을 두고 있다. 가전제품도 에너지소비효율등급이 있듯이 윤리성 등급이 매겨져서 판매될 때가 올 것이다. 이를 위해 지난해 정보통신정책연구원(KISDI)에서 제정한 AI윤리 체크리스트 항목 작성에 동참했으며, 로봇윤리 인증에 대한 연구도 센터를 통해 꾸준히 진행해 나갈 계획이다.
넷, 로봇에 윤리적인 고려와 기능이 중요한 이유는?
AI 또한 소프트웨어이고 빅데이터 안에도 잘못된 정보들이 담겨 있을 수 있어 가끔 오류가 난다. 그래서 챗GPT(인공지능 챗봇)가 기업의 중요한 판단을 하는 역할을 맡거나, 자율주행차의 코드를 작성했는데 문제나 사고를 일으켰다면 누가 어떻게 책임져야 하느냐는 문제가 제기될 수 있는 것이다. 사실 로봇윤리가 처음 제기된 것도 전쟁에서 AI가 자율적인 결정에 따라 인간을 살상해서는 안 된다는 필요성에 의한 것이었다. 이러한 문제들을 체계적으로 세워 놔야만 향후 인류가 AI와 함께 발전할 수 있지 않을까 생각하여 인권존중과 투명성, 책임성, 데이터 관리, 비편향성, 안전성 등이 AI윤리의 핵심 내용으로 성립된 것이다.
다섯, 로봇 윤리학자로서 가지고 있는 신념이 있다면?
인류의 역사는 자유, 정의, 진리 등의 가치에 기초하여 정반합의 원리, 즉 투쟁과 교류 속에서 만들어졌다. 그리고 인간의 능력을 추월하는 알파고라는 AI가 등장했다. 이제 이 알파고가 상식을 갖추게 되면서 거의 전 분야로 확장될 날이 얼마 남지 않았다. 이에 대해 인간은 두려워하거나 피하기보다는 ‘창과 방패’에서 방패에 해당하는 기술을 계속해서 만들어 나가야 한다. 즉, AI의 기능에 제한을 두고 AI의 학습 데이터가 오염되지 않도록 관리하며, 필터를 붙여 욕설이나 혐오감을 일으키는 언행을 하지 않도록 개발자와 전문가 그룹이 지속적인 노력을 기울여야 한다.
여섯, 로봇 윤리학자의 직업 전망은 어떻게 바라보는가?
로봇윤리학이라는 용어와 학문 분야는 2000년대 중반부터 등장해 아직 신생 분야이다 보니 전 세계적으로도 전문가가 많지 않다. 하지만 챗GRT를 비춰볼 때 AI의 발전 속도가 예상보다 빨라서 앞으로 산업계와 학계를 통한 로봇윤리 전문가의 수요가 지속해서 늘어날 것으로 예상된다. 로봇윤리는 AI, 로봇공학, 윤리학, 법학, 철학, 사회학 등의 모든 분야가 관련된 융합학문이다. 그래서 처음에는 교양과목처럼 관련 분야를 다양하게 공부하고 전공은 자신이 관심 있고 잘 할 수 있는 분야를 전문적으로 공부하는 것이 좋다.
일곱, 미래 진로로 고민하는 학생들에게 해주고 싶은 말은?
앞으로의 시대는 AI로봇이 잘할 수 있는 분야와 인간이 잘 할 수 있는 분야가 자연스럽게 나뉘어 협력하게 될 것이다. 따라서 인간이 월등한 분야인 예술(K-Pop)과 인문학 분야(K-Drama)는 꾸준히 발전할 것으로 생각된다. AI를 활용해서 예술에 접목하면 생산성도 엄청나게 늘어날 것으로 예상된다. 아울러 학교에서 배우는 기본과목들도 충실히 해 두는 것이 본인의 이해 영역을 넓혀가는 좋은 기반이 될 것이다.
=========
TIP BOX | 로봇 윤리학자를 위한 진로 팁
로봇 윤리학자는 로봇과 인간이 공존하는 세상에서 꼭 필요한 법률과 기준을 만드는 직업이다. 즉 로봇이 사람과 상호작용하면서 발생할 수 있는 문제들과 해결 기술을 다루는 연구를 진행한다. 관련 전공으로는 로봇윤리가 융합학문인만큼 로봇공학을 비롯하여 법학, 철학, 심리학 등 인문학 분야를 공부해도 유리하다. 로봇 윤리학자는 깊고 폭넓은 지식과 사회의 공신력이 필요한 직업이므로 높은 학력이 요구되며 후에 대학교수나 기업 연구원으로 활동할 수 있다. 관련 학회에서 연구 활동을 하는 것도 도움이 될 수 있다.
