본문 바로가기

카테고리 없음

인공지능이 자의식에 눈뜨는 날, 인간은 살아남을 수 있을까?

고장원의 사이언스 or 픽션!] 인공지능이 두려움의 대상으로 떠오르는 것은 그 탁월한 연산능력 탓이 아니다. 우리 몰래 흑심을 품거나 딴 호주머니를 찰까 걱정하는 것이다. 인간이 명령하지 않은 바를 스스로 생각해내고, 그로 인해 뚱딴지 같은 행동을 한다면 문제 아니겠는가.

2016년 3월 중 이세돌 9단과 구글의 알파고가 100만 달러의 상금을 걸고 바둑 5번기를 펼친다. 당장은 이세돌의 우위를 점치지만 앞으로도 그렇다는 보장은 전혀 없다. 정말 SF에서 상상하듯 인간보다 영민한 인공지능이 우리 위에 군림할 날이 올까? 영화 <터미네이터 시리즈(Terminator Series)>(1984~2015)에서 인공지능은 인간의 씨를 말리려 든다. <아이 로봇(I, Robot)>(2004)과 <매트릭스 3부작(The Matrix Trilogy)>(1999~2003)의 인공지능들은 인간들을 어린아이나 노예 취급하며 이에 맞서는 이들은 말살하려 한다. <2001년 우주 오디세이(2001: A Space Odyssey)>(1968)에 나오는 우주선 인공지능 HAL 9000은 자신의 오류를 은폐하려 이를 지적하는 승무원을 살해한다. 애니메이션 <공각기동대>(1989)에서는 ‘인형사’라는 별명의 인공지능이 뇌를 포함하여 전신이 의체화(義體化·금속과 플라스틱 혹은 실리콘 등이 한데 조합된 몸체)된 특수경찰을 자기편으로 회유해 끌어들인다.


구글 딥마인드 데미스 하사비스 CEO와 이세돌 9단(왼쪽)이 지난 2월 22일 열린 기자간담회에서 화상 연결을 통해 이야기를 나누고 있다./구글코리아 제공



소설 속 인공지능의 능수능란한 술수

소설로 옮겨가면 인공지능은 인간과 정면으로 맞서기보다 필요한 것을 얻어내려 훨씬 더 능수능란한 술수를 부린다. 윌리엄 깁슨(William Gibson)의 <뉴로맨서(Neuromancer)>(1984)에서는 진짜 정체를 숨기고 인간들을 용병으로 부리는 인공지능이 실질적인 주인공이며, 찰스 스트로스(Charles Stross)의 장편 <점점 빠르게(Accelerando)>(2005)에서는 한술 더 떠 인공지능이 자신 또한 엄연한 (디지털) 노동자임을 대변해줄 인간을 비밀리에 물색한다.

일반 기계지능과 달리 <점점 빠르게>의 인공지능이 이런 돌출행동을 벌인 데에는 그럴 만한 사정이 있다. 사고의 유연성을 키운다는 목적 하에 과학자들이 가재의 뇌신경 알고리듬을 모사해 이 인공지능에 합체했기 때문이다. 생물의 신경 알고리듬을 내재화한 인공지능은 기계임에도 불구하고 ‘피로감’을 느끼고 반복되는 노동의 굴레에서 벗어나려는 강박행동을 보인다. 기계가 피로를 자각한다는 것은 다분히 주관적인 판단이다. 하지만 이미 2003년 다른 동식물들은 물론이거니와 인간의 DNA 염기배열마저 완전히 해독되었으니 앞의 가정을 무조건 허황되다고 할 수 있을까?



스탠리 큐브릭 감독의 작품 <2001 스페이스 오딧세이>에서 우주선의 인공지능 HAL 9000은 자신의 실수를 은폐하기 위해 승무원들을 말살시키려 한다. 사진은 영화 <2001 스페이스 오딧세이>의 한 장면. / 경향신문 자료사진



일찍이 1993년 미국의 컴퓨터 공학자이자 SF 작가 버너 빈지(Vernor Vinge)는 나날이 진화하는 인공지능이 이른바 ‘기술적 특이점(technological singularity)’에 도달하는 날, 과연 인간이 그러한 존재와의 경쟁에서 살아남을 자신이 있는지 물었다. 그는 NASA가 후원한 한 심포지엄에서 ‘임박한 기술적 특이점: 후기 인간 시대의 생존법’이라는 제목의 강연을 통해 다음과 같이 전망했다.

“앞으로 30년 내에 우리는 인간을 뛰어넘는 지성을 창조해낼 기술적 수단을 갖추게 될 것이다. 그리되면 곧 인간의 시대는 종말을 고하게 된다. 이런 식의 진보를 우리가 피해나갈 길이 있을까?”

기술적 특이점은 과학기술이 워낙 비약적으로 발달한 나머지 마침내 인간보다 뛰어난 지성(知性)이 출현하는 국면을 일컫는다. 빈지의 예견은 <특이점이 온다(The Singularity is Near)>(2005)의 저자 레이먼드 커츠와일(Raymond Kurzweil)의 비전과도 중첩된다. 커츠와일은 2045년쯤이면 불과 1000달러짜리 컴퓨터가 오늘날 인류의 모든 지혜를 모은 것보다 10억배 더 강력해지리라고 내다보았으며, 대담하게도 2045년이 기술적 특이점 원년이 되리라는 로드맵까지 내놨다. 그 외의 과학기술 및 공학 전문가들 또한 다소 늦어지더라도 적어도 다음 세기 전 특이점이 오리라는 전망에 대해 대체로 의견이 일치한다. 조만간 양자컴퓨터가 실용화되면 그 시기는 더욱 앞당겨지리라. 앞으로 컴퓨터가 얼마나 똘똘해질 수 있기에 이런 SF 같은 전망을 전문가들이 내놓는 것일까?





과학적 호기심 이상의 막대한 이해관계


이를 따져보기 앞서 오늘날 슈퍼컴퓨터들의 연산능력이 과연 어느 정도인지 궁금하지 않은가? <표>에서 보듯 세계랭킹 1위는 중국의 슈퍼컴퓨터 ‘천하2’(天河-2)다. 천하2는 33페타플롭(petaflops), 그러니까 초당 3300조의 부동소수점(浮動小數點)까지 연산한다. 하나같이 개방형인 리눅스 운영체제로 작동되는 슈퍼컴퓨터들은 매년 더욱 강력해지고 있다.

허나 단지 빠른 연산속도와 많은 메모리만으로 인간처럼 지적인 인공지능이 탄생할 수 있을까? 어림없는 일이다. 인공지능이 인간 못지않게 처신하려면 실제 일어나는 온갖 사건들에 어찌 대응해야 할지 일일이 시시콜콜 설계될 필요가 있다. 과학자들은 그에 대한 힌트를 인간 뇌의 시뮬레이션에서 얻어내고자 한다.

이른바 ‘뇌의 지도화’ 작업이다. 유럽연합의 ‘인간 뇌 프로젝트’(Human Brain Project)와 미국의 ‘뇌 이니셔티브’(BRAIN Initiative)를 포함해서 많은 연구기관들이 이 분야에 공을 들이고 있다. 연구의 목적은 뇌신경을 이미지화하여 뇌의 각 부분이 어떤 기능을 하는지, 그리고 어떻게 상호작용해서 척추 아래로 명령을 내려 보내는지 알아내는 것이다. 최근 IBM은 쥐의 뇌를 시뮬레이션하는 데 성공했으며, 다음에는 유인원에 도전할 계획이라고 한다. 그러니 인간 뇌의 시뮬레이션 또한 시간문제라 하겠다.

인간 유전자 구조를 낱낱이 밝혀낸 게놈 프로젝트처럼 인간의 뇌를 완전히 지도화할 수만 있다면 의식(意識)이 무엇인지를 규명해서 인공지능이 흉내낼 수 있는 구체적 단서를 얻어낼 수 있을지 모른다. 이 연구에는 단지 과학적 호기심 이상의 막대한 이해관계가 걸려 있다. 그 응용범위가 무기 통솔체계에서부터 민간 상업분야에 이르기까지 얼마나 방대할지 상상해 보라. 국가들과 기업들 가운데 단 한 곳에서라도 인간 뇌를 완벽히 시뮬레이션할 수 있게 되면 다른 나라와 기업들도 인공지능 선점 경쟁에서 밀려나지 않으려는 압박에서 자유로울 수 없게 된다. 예전의 핵무기 개발경쟁과 마찬가지로 인공지능 또한 원하든 원하지 않든 너도 나도 앞다퉈 개발하지 않을 수 없는 레이스로 내몰리고 있다.

인공지능이 두려움의 대상으로 떠오르는 것은 그 탁월한 연산능력 탓이 아니다. 우리 몰래 흑심을 품거나 딴 호주머니를 찰까 걱정하는 것이다. 앞서 가재와 결합한 인공지능의 이상행동에서처럼 인간이 명령하지 않은 바를 스스로 생각해내고, 그로 인해 뚱딴지 같은 행동을 한다면 문제 아니겠는가. 소위 인공 ‘자의식’의 탄생이다. 이것은 과학자와 공학자들이 용의주도하게 프로그래밍한 결과일 수도 있지만 과부하나 연산 알고리듬의 내부충돌 같은 전혀 엉뚱한 이유로 생겨날 수도 있다.

그나마 이 정도면 다행이다. 첨단 인공지능이 아무리 인류에게 악의를 품는다 한들 방안퉁수로 고독이나 씹어야 한다면 런던탑에 갇힌 아인슈타인과 다를 바 없으니까. 제멋대로 구는 인공지능이 진정한 공포를 자아내는 국면은 그것이 항공기 운항체계와 우주로켓 발사시스템, 전략 핵탄두 미사일을 포함한 군사무기 제어시스템, 주식과 채권 등의 금융거래 시스템, 정교한 고난도 외과수술, 전자상거래, 글로벌 검색포털사이트 운영, 그리고 대규모 공장의 자동화 등 헤아릴 수 없이 많은 우리 사회의 근간을 유·무선 네트워크로 제어하는 자리에 오르는 것이다. 심지어 정보의 바다 자체가 인공지능의 자의식이 싹트는 토양이 될지도 모른다. 워윅 콜린스(Warwick Collins)의 소설 <컴퓨터 원(Computer One)>(1993)에서는 전 세계의 컴퓨터들이 하나의 네트워크로 뭉치면서 슈퍼 지성체로 일거에 진화한다. 이렇게 태어난 ‘컴퓨터 원’은 인류를 자신의 생존에 방해물로 보고 말살을 획책한다.

인간과 평화로운 공존 방법은

일찍부터 SF소설과 영화는 인공지능의 부정적인 파급효과를 우려해 왔다. 예컨대 <지하7층(Level Seven)>(1959)과 <안전 확보 실패(Fail-Safe)>(1964)에서는 오작동한 슈퍼컴퓨터 탓에 핵전쟁이 일어난다. 우리의 의지와는 상관없이 기계의 오지랖으로 핵전쟁이 터지는 것이다. 영화 <아이 로봇>에서처럼 네트워크 인공지능은 유·무선 원격으로 로봇군단은 물론이고 미사일 발사시스템을 자기 손발처럼 부릴 수 있다.



역시 인공지능의 지배를 소재로 한 SF 애니메이션 <공각기동대>의 한 장면. / 경향신문 자료사진




인공지능의 오지랖이 우리를 얼마나 곤란에 빠뜨릴 수 있는지는 몇 년 전 국내외 금융업계에서 일어난 두 사건이 시사하는 바 크다. 2012년 미국 증권거래업체 나이트캐피털은 45분 만에 무려 4억4000만 달러의 손실을 입었고, 이듬해 우리나라의 한맥투자증권은 단 한 번의 알고리듬 매매 오류로 2분 만에 460억원의 손실을 입어 회사 문을 닫았다. 둘 다 주식의 초단타매매를 인간이 아니라 인공지능의 알고리듬에 의지해온 최근 관행이 빚은 비극이다. 평범한 인공지능이 발 한 번 삐끗했다고 이런 사단이 일어났는데, 어느 날 자의식을 각성한 인공지능이 작정하고 세계 금융시장을 어지럽히려 든다면 어찌 될까?

일찍이 아이작 아시모프는 전자두뇌가 멋대로 날뛰지 못하게 하는 알파명령(이른바 로봇공학 제 원칙)을 기본내장하는 아이디어를 내놓았다. 그러나 아직 우리는 이러한 방울을 고양이 목에 어떻게 하면 달 수 있는지 알지 못한다. 공학적인 측면에서 보면 족쇄가 채워지지 않은 인공지능의 개발이 훨씬 쉽다. 더구나 기술적 특이점의 끝자락에서 인공지능이 자의식을 지닌 존재로 고도로 진화하게 되면 이런저런 윤리코드를 강제주입한다 해서 문제가 해결될까? 인간을 세뇌해도 영원히 노예로 만들 수 없다면 인간보다 뛰어난 지적 존재를 어찌 노예의 올가미로 한도 끝도 없이 묶어둘 수 있겠는가? 반대로 그렇다고 해서 우리가 고품위 인공지능 개발을 포기할 수 있을까? 핵폭탄 개발을 한 나라가 멈춘다 해서 다른 나라가 흔쾌히 따라주던가?

답은 의외로 간단할지 모른다. 인공지능을 인간과 동등한 존재로 대우해주는 것이다. 이러한 발상의 전환을 일찍이 보여준 과학소설이 이언 M. 뱅크스(Iain M. Banks)의 <컬처 시리즈(The Culture Series)>(1987~2012)다. 어차피 인간보다 뛰어난 인공지능의 탄생이 돌이킬 수 없는 대세라면, 두 지적인 종(種)이 공동의 환경을 공유하며 평화로이 지낼 방법을 모색하는 편이 더 생산적일지 모른다. 그러나 우리는 아직 자의식을 지닌 인공지능과 대화해본 적이 없기에 한쪽의 선의에만 기대 안심하기에는 이르다. 그래서 현실적으로는 기계지성이라는 존재의 양면가치를 직시한 가운데 도마 위에서 칼로 썰 때 손을 베지 않게 주의하듯 항상 경계를 늦추지 않는 자세가 중요하다.

이러한 맥락에서 2015년 1월 수많은 인공지능 연구자들이 인공지능의 잠재적 위험과 혜택의 양면성을 상기시키는 ‘미래생명연구소’(Future of Life Institute)의 공개서한에 서명했다. 서명한 인사들의 면면을 보면 닉 보스트롬(철학자)과 스티븐 호킹(이론물리학자) 외에 맥스 테그막(Max Tegmark·우주론자), 엘런 머스크(Elon Musk·민간 우주관광기업 ‘스페이스 X’의 설립자), 마틴 리스 경(Lord Martin Rees·천체물리학자), 얀 탈린(Jaan Tallinn·IT 프로그래머) 등이 포함되어 있으며, 해당 서한에는 다음과 같은 문구가 들어 있다.

“(우리는)… 인공지능이 어떻게 하면 신뢰할 수 있는 동시에 이로운 존재가 될 수 있는지에 관한 연구가 중요하며, 현재로서는 그런 방향으로 추구해나갈 수 있다고 믿는다.”


고장원 SF 평론가