북클러버
양심없는 AI와 함께 살기 위한 AI윤리
어릴 때 재미있게 보았던 영화가 있다. 커다란 총을 한 손에 들고 등장하는 터미네이터, 그 터미네이터를 상대로 한 인류의 싸움. 그 시리즈가 이제 3편을 넘어 속편까지 계속 나오는 시절이 지났지만, 그때 받은 인상은 굉장히 강렬했으며 그 영화의 음악은 아직도 귀에 생생하다.
아직은 그 터미네이터처럼 기계를 스스로 움직이고 인간을 위협하는 AI는 나오지 않았다. 하지만 그 오랜 세월 동안 과학기술은 나날이 발전하여, 챗 GTP, 카카오 스피커와 같은 인공지능이 우리 주변 곳곳에 널려 있고, 자율주행차가 실제 운행되기도 한다. 얼마 전에는 경우의 수가 많아 인간을 능가하기 어려우리라 여겼던 바둑에서 알파고와 이세돌 기사가 맞붙어 인공지능 알파고가 이기는 모습을 보기도 했다.
이세돌 기사가 한 판을 이기긴 했지만 결국 AI 알파고를 상대로 힘겨운 싸움을 해야 했으며 인간의 지능이 이제는 AI에게 밀릴 수도 있다는 경각심을 갖게 해주었다. 여기에 대해서 오래전부터 AI의 윤리에 대해서 이야기한 우리나라 과학자가 있었고 그 분이 쓴 책이 세상에 나온 지 오래되어서 읽어보았다. 이 책이 나온 이후, 그 짧은 기간에도 AI는 계속 발전하고 있으며 그 사이 AI의 발전으로 인한 부작용이 사회 전반에 걸쳐 경각심을 불러일으키고 이로 인해 AI의 윤리를 정립할 필요성이 점점 증가하고 있는 추세다.
[AI는 양심이 없다]책은 이런 AI(인공지능)의 성장 모습과 AI가 가져올 수 있는 부작용, 그리고 이런 부작용을 막기 위해서 AI의 윤리를 정립해야한다는 주장을 담고 있다. 뿐만아니라 일부 인공지능 전문가가 아닌 일반 대중이 AI의 윤리에 대해서 관심을 가져야한다고 말한다. AI(인공지능)이라는 어려운 분야를 담고 있어서 자칫 이해하기 어려운 책으로 여길 수도 있지만 책을 읽다보면 우리 사회에 어느 새 널리 퍼진 인공지능과 이에 대한 드라마, 영화에 대한 소개를 곁들여서 그리 어렵지 않게 다가오고 그 예를 통해 인공지능의 발달을 이해하면서 우리가 왜 인공지능 윤리에 관심을 기울여야하는지 알게 해준다.
2020년 2월 우라나라 MBC 에서 가상 현실을 근간으로 인공지능 기술을 추가하여 <너를 만났다>를 제작했다. 혈액암으로 세상을 떠난 딸을 어머니가 다시 만나도록 해준 것이다. 이어서 사별했던 아내를 다시 만나게 하는 2편이 제작되기도 했다. 영국 드라마 <블랙미러, 돌아올게>에서는 남편이 죽은 후 이를 그리워하는 아내가 인공지능을 통해 이루어진 남편을 만나고 다시 헤어지는 모습을 그린다. 이런 예들은 "죽음을 흔드는 손"으로서의 인공지능이 사람들의 사별과 그 애도의 과정에서 어떤 영향을 줄 수 있는지 알려주고 있다. 고인이 살아있을 때 남겨두었던 디지털 유산을 찾아 "디지털 페르소나(Digital Persona)"를 현실 속에서 구현함으로써 고인의 사후에 충격이 큰 남은 이들에게 일종의 노출치료 효과를 줄 수도 있다.
하지만 세상에는 항상 긍정적인 면만 존재하지 않는 법이다. 고인의 사후, 남은자들의 슬픔을 달래주는 것은 좋지만 고인에게는 어떠한 영향을 미칠까? 사후 디지털 부활을 통한 고인의 활동 재개는 고인의 이미지와 명예를 왜곡할 가능성을 안고 있다. 살아생전 깨끗한 이미지로 지냈던 배우를 인공지능으로 디지털 부활 시킨 후, 이와 다른 악역을 맡겼다고 한다면 어떨까. 문제는 이런 경우 현재 법은 대부분 살아있는 사람을 대상을 적용하고 있고 죽은 자에 대한 명예훼손은 상대적으로 덜 엄격하여, 시간이 지남에 따라 대중의 기억에서 잊혀지면서 고인의 디지털 유산을 이용한 기업만 돈을 벌고 정작 고인의 명예만 훼손된 채 남아있을 가능성이 높다. 이에 대비해 영화 <죽은 시인의 사회>에서 주연을 맡았던 로빈 윌리엄스는 자신이 죽고 나서 25년 동안 내 이미지를 상업용으로 사용하지 말라는 유언을 남기기도 했다.
오늘날 사회를 살아가는 우리들은, 페이스북과 인스타그램을 비롯한 다양한 SNS를 활용하고 때로는 블로그에 글을 남기기도 한다. 그 디지털 유산은 우리 사후에도 그대로 남아 누군가 이를 활용할 수도 있고 악의를 가진 사람이 사용하여 생전 나의 의도와 다른 모습으로 디지털 속에 남아 가상공간을 떠돌 수도 있다. 이미 페이스북을 사용하던 많은 사람들이 사망하였으며 그들의 흔적은 디지털 가상공간에 여전히 남아있다. 이를 어떻게 처리할 것인가도 큰 문제이지만 정작 우리나라에서는 크게 논의되고 있는 것 같지 않아보여서 걱정스럽다.
글쓴이가 인용한 레이 커즈 와일의 <특이점이 온다>는 책에서는 유전학 혁명, 나노기술혁명, 로봇공학 혁명의 첫 글자를 모은 GNR기술 혁명이 바로 인류에게 특이점을 가져올 세가지 핵심 혁명임을 알려준다. 이처럼 인공지능은 인류 역사에서 "특이점"을 가져올 수 있는 기술의 발전이다. 글쓴이는 "트랜스 휴머니즘에 이은 포스트 휴머니즘 시대의 도래는 범용 인공지능의 출현에 이은 초인공지능 시대의 도래와 유사하게 대비된다"는 점을 말해주고 있으며, 이것은 죽음을 초월한 인간의 출현을 예고하는 것이기도 하다. 죽음을 초월한 인류의 발전이란 멋진 미래이기도 하지만 한편으로는 이 과정에서 다가올 수 있는 부작용을 생각하지 않을 수 없다.
현재의 인공지능은 1단계 "좁은 지능"에 해당하여, 인간의 삶에 약간의 도움을 주는 정도이며 인간의 지능이나 활동에서 일부를 대체하는 수준이지만 이것이 발달하게 되면 어느 순간 2단계 인간과 대등한 지능에서 3단계 초지능의 출현으로 인간을 뛰어넘을 수 있음을 경고하고 있다. 인공지능이라는 기술은 기존의 다른 기술들과는 다르게 인간의 개입 없이도 초지능으로의 자발적인 발전 본능을 가지고 있으며 이런 점이 만일 나쁜 방향으로 진행된다고 하면 어릴 적 보았던 "터미네이터"가 그리는 인류의 멸망이 다가올 수도 있다. 이미 휠체어를 타고 다니는 과학자로 유명한 스티븐 호킹은 인공지능으로 인류가 멸망할 수 있음을 경고하기도 하였다.
글쓴이는 "책임지지 않는 인공지능"이라는 제목으로 자율주행차를 예로 들며 인공지능의 책임에 대해서 논한다. 앞서 말한 디지털 유산으로 인한 고인의 명예를 보호할 방법도 제대로 마련되지 않은 현실에서, 인공지능이 개입된 기술을 바탕으로 자율주행차가 사고를 일으켰을 경우 과연 인공지능에게 책임을 물을 수 있을지 의문스럽다. 앞서 간 공상과학 소설가인 아시모프는 이러한 인공지능이 인간에게 해를 끼치기 전에 인공지능 윤리를 새기는 것을 소설속에서 제시하기도 했다.
우리가 모르는 사이에 AI(인공지능) 또는 이를 바탕으로 한 과학의 발전은 이미 시작되었으며 우리 생활속에 자리잡고 있다. 이것은 우리 삶을 편하게 해주지만 어느 순간 초지능이 되어 우리 삶을 위협할 수도 있다. 터미네이터 영화가 현실이 될 수 있는 위험 속에서 우리는 양심없는 AI에게 윤리를 부여할 필요가 있다. 이미 유럽을 비롯한 국가들 사이에서 AI 윤리에 대해서 논하고 있으나 인공지능의 기술 발전에 비해서 윤리를 말하는 움직임은 부족한 면이 있다. 인공지능을 최초 만들고 제어하는 사람의 윤리가 올바르지 못할 경우, 혹은 진화한 AI가 인류를 적으로 생각할 경우, 이로 인해서 생성된 인공지능이 인류에 대한 편견을 갖고 인간을 공격할 수 있는 것은 비단 영화 속 이야기만이 아닌 우리의 미래가 될 수 있다.
"인공지능이 인류의 마지막 기술일 수 있다."는 경고만큼 강렬한 표현은 없으리라. 인공지능이 주는 매력과 장점은 거부하기 힘들고, 이미 우리 일상에 들어온 만큼 이를 포기하기도 어렵다. 그렇다면 인공지능이 우리의 마지막 기술이 되기 전에 AI윤리 체계를 세우고 이를 위해서 우리 모두가 양심없는 인공지능과 인공지능 윤리에 대해서 관심을 갖는 것이 필요하다. "자, 이제 인공지능의 위험을 알려주었으니 우리가 해야할 일은 무엇인가요?" 하는 것에 대한 답을 찾고자 하는 것이 이 책의 존재이유이다. 적어도 인공지능에 대한 공론의 장이 필요하며 다 같이 공감하고 깨달은 내용을 윤리적인 자산으로 남겨두어야 할 것이다. 이런 거창한 활동을 위해서 우리는 적어도 우리 사회에 양심없는 AI가 있다는 점과 이에 대한 윤리가 필요하다는 점을 확실하게 알아야 하며, 이를 바탕으로 터미네이터 세상이 오는 것을 막고 보다 바람직한 AI와 인류의 공존 사회를 그려나갈 수 있을 것이다.