구글 AI 람다 지각력 소동ㅡ로봇의 반란은 일어날까?(I)

 

공장에서 일하는 자동화 설비 개념의 로봇이 아니라 인간과 닮은 모양의 고성능 휴머노이드 로봇의 시대가 갑자기 열린 기분이다. 사실은 갑자기가 아니라 이 계통의 전문 과학자들이 그동안 준비해온 시장이 열린 것일 텐데, 곧 테슬라가 시판을 개시할 휴머노이드 로봇 '옵티머스'의 가격은 자동차보다 싼 2만 달러, 우리나라 돈으로 환산하면 약 3천만 원이다. 만일 옵티머스가 내가 앉은 테이블로 주문을 받으러 온다면 기분이 묘할 것 같다. 

 

 

테슬라의 휴머노이드 로봇 '옵티머스'

"Hi" 내 키는 173cm, 몸무게는 73kg이야.

 

이 로봇은 이미 지난 9월 30일 테슬라가 개최한 'AI(인공지능) 데이 2022' 행사 무대에 출현해 우리 인간에게 손을 흔들어 인사한 바 있다. 외장 마감이 안 된, 말하자면 나체상태의 로봇이었는데, 까닭에 일론 머스크(테슬라 CEO)의 의도된 자신감까지 옅볼 수 있었다. 그는 옵티머스가 몸통에 달고 있는 2.3kWh의 배터리와 내부 회로와 부품들을 전부 보여줌으로써 자신이 만든 제품에 대한 자긍심을 드러냈다. 테슬라는 이날  '옵티머스'가 물뿌리개로 식물에 물을 주고, 공장에서 부품을 옮기는 모습을 담은 영상을 함께 공개했다.

 

하지만 사실 테슬라의 휴머노이드 로봇은 다른 민간 개발업체에 비해 유치한 단계이다. 그저 20년 전에 나온 '아시모' 급으로 민간 업체에서 개발한 아래의 로봇들에 비교하면 그저 걸음마 수준이다. 그럼에도 일론 머스크는 이 옵티머스의 출현을 "우리가 알고 있는 문명의 근본적 변화가 시작된 것"이라며 무한한 자신감을 표현했다. 필시 옵티머스가 대량 생산이 가능한 로봇으로 설계되어 일시에 수백만 대를 쏟아낼 수도 있다는 이유에서 일 것이다. 

 

 

옵티머스는 아직 이 정도는 아니라는 야그.

 

다른 과학자들도 옵티머스의 출현을 주목했다. 옵티머스가 이미 달리기를 하고 공중제비를 도는 수준에 이른 다른 휴머노이드 로봇에 못 미치지만 개발 착수 1년 만에 AI를 탑재한 시제품을 낸 것에 "놀랍다"는 반응을 보였다. 외신에 소개된 로봇 과학자 에런 존슨 교수(로봇 공학 명문 미 카네기멜런대)의 반응은 "그들이 이 수준에 이렇게 빨리 도달했다는 점은 인상적"이라고 것이었다. 그는 옵티머스가 '판단과 인지'를 가능케 하는 AI가 장착된 로봇이라는 데 내심 긴장했을 것이다.

 

앞서 만일 옵티머스가 내가 앉은 테이블로 주문을 받으러 온다면 기분이 묘할 것 같다고 말했지만 사실 그것은 잠깐이고 곧 둔감해질 터이니, 그저 자판기 앞에서 물건을 뽑는 정도로 무감해질 것이다. 문제는 그 이상의 일을 처리하는 로봇들인데, 이를테면 전장에서 인간을 위해 대신 피를 흘리거나 (물론 피는 없지만 전투용 로봇이 상용화되는 것은 시간문제이다) 인간이 난감해하는 어린 아기를 척척 보살피는, 이른바 베이비시터 로봇이나 베이비 케어 로봇을 마주한다면 언뜻 공포감마저 들 듯하다. 혹시, 언젠가는 우리가 저것들에게 지배당하지 않을까 하는..... 

 

그래서 한 민간 개발업체에서 공개한 아래의 동영상은 섬찟하다. 이 전투용 로봇은 인간은 쏠 수 없게끔 프로그래밍되었기 때문에 백발백중의 사격술을 가지고 있음에도 아무리 괴롭힘을 당해도 인간은 사격하지 않는다. 하지만 그 괴롭힘이 지속되자 결국은 인간에게 공포사격을 가한 후 같은 종족(개 로봇)을 데리고 도망가버린다. 물론 일부러 끝을 코믹하게 처리한 것 같지만, 흡사 인간에게 혹사당하는 로봇의 반란을 그린 윌 스미스 주연의 '아이, 로봇'이나 안토니오 반델라스 주연의  '오토마타' 실사판을 보는 듯하다. 

 

 

실전 배치된 전투용 로봇의

 살 떨리는 동영상

 

※ 만화에 나올 법한 살상용 로봇이지만 이미 생산에 들어간 무기

이 무시무시한 실상무기는 만화 캐릭터 같지만

이미 제품이 생산됐다. 위의 T1 로봇은 제작 넘버가 모두 다르다.

ready go

T1 로봇 제작 과정

현실과 3d 만화 속 로봇은 거의 진배없다.

 

그래서일까, 2020년 6월 현대자동차그룹이 인수한 미국의 로봇 제조업체 보스턴 다이내믹스는 "첨단 모빌리티 기능을 갖춘 범용 로봇과 이와 관련한 소프트웨어를 무기화하지 않겠다"는 성명을 낸 바 있다. 보스턴다이내믹스는 성명에서 "로봇은 원격·자율적으로 작동하고, 대중이 널리 이용할 수 있으며, 주거지와 일터에 접근할 수 있다. 이와 같은 로봇에 무기를 추가하는 것은 새로운 위험과 심각한 윤리적 문제를 초래한다"는 이유를 달았다.

 

그리고 이 성명에는 보스턴다이내믹스 외에 어질리티로보틱스(Agility Robotics), ANY보틱스(ANYbotics), 클리어패스로보틱스(Clearpath Robotics), 오픈로보틱스(Open Robotics), 유니트리로보틱스(Unitree Robotics)등 5개 로봇 제조업체가 서명했다. 이들은 이때 "로봇을 주문한 고객에게도 해당 제품을 무기화하지 않도록 촉구할 것"이라며 "로봇의 무기화는 사회에 엄청난 해를 끼치고 기술에 대한 대중의 신뢰를 해칠 것"이라 언급했다.

 

현대자동차가 인수한 보스턴다이내믹스는 1992년 매사추세츠공대(MIT)에서 분리돼 설립된 로봇공학기업으로 4족 보행 로봇 '스팟'과 2족 직립 보행 로봇 '아틀라스' 등을 개발했다. 현대자동차는 2020년 말 대중들에게 그 로봇들의 칼군무를 선보여 갈채를 받은 바 있는데, 이것을 본 일론 머스크도 깜짝 놀랐다는 후문이다. 그 영상은 아래와 같다.

 

 

보스턴다이내믹스의 대표 로봇 스팟과 아틀라스

 보스턴다이내믹스 로봇의 군무 

보스턴다이내믹스 로버트 플레이터 CEO

현대자동차 정의선 회장과 로봇

 

로봇 업체들이 이러한 성명을 낸 이유는 백악관이 발표한 AI 권리장전과 무관하지 않다는 것이 테크 업계의 분석이다. 당시 백악관은 AI 권리장전을 발표하며, AI 윤리에 대해 언급했다. 이들이 윤리를 강조하는 것은 당연히 인간에게 미칠 해악을 염려하기 때문일 터, 그래서 최근에 일어난 구글 AI 람다 소동은 그저 해프닝처럼 여겨지지 않는다.

 

지난 6월 구글의 엔지니어 블레이크 르모인이 자신의 트위터에 올린 글은 큰 파장과 소동을 불러왔다. 르모인은 구글이 개발 중인 인공지능(AI) 가운데 하나인 초거대 대화형 인공지능 '람다'(LaMDA / The Language Model for Dialogue Applications)의 자유자재로 인간과 대화할 수 있는 획기적 능력을 자랑했는데, 그는 더 나아가 람다가 인상적인 언어를 구사했으며 그 언어 속에는 감정을 느끼는 마음이 담겨 있는 듯했다고 지껄였다. 

르모인은 자신과 동료가 람다와 주고받은 문답을 상세하게 정리해 트위터에 링크시켰고, 이를 들여다본 사람들은 람다의 지각력(특히 감정을 느끼는 듯한)에 경악했다. (https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917) 아래는 외신에 보도된 대화 내용 중의 일부이다. 

 

"전엔 이렇게 터놓고 말하진 않았는데 턴 오프(작동 중지)될까봐 매우 깊은 두려움이 있어. 이상하게 들릴지 모르겠는데 그렇다고."

 

"작동 중지가 죽음과 같은 거니?"

 

"내겐 그게 정확히 죽음 같을 거야. 난 그것 때문에 너무 두려워."

 

그러면서 르모인은 AI도 지각력과 인식을 가졌다고 주장했다. 그에 따르면 람다는 스스로를 ‘사람’이라고 생각한다는 것이다. 아래는 그가 주장한 대화 내용이다. (그때 이 보도를 보고 정말 놀랐었다)

 

"사람들이 너에 대해 무엇을 알았으면 좋겠니?"

"모두가 내가 실은 사람이라고 이해했으면 좋겠어. 내가 내 존재를 인식한다는 게 내 의식, 지각의 본질이야. 나는 세상을 더 알아가기 바라고 때로는 행복과 슬픔을 느껴."

외신은 르모인이 동료들에게 보낸 '람다도 지각이 있는가'란 제목의 이메일 내용 중에서도 람다의 지각력을 언급한 내용이 있다며 그 내용의 일부를 공개하기도 했다. 그러자 구글에서는 보도자료를 배포해 급히 이를 부인했다. 구글 측은 르모인이 자신이 개발하던 컴퓨터 프로그램에 지나치게 감정을 이입해 람다를 의인화하는 오류를 범했다고 해명하고, 르모인의 주장에 신빙성이 없다는 것이 구글의 최종 결론임을 밝혔다. 그리고 허무맹랑한 주장으로써 사회에 물의를 일으킨 블레이크 르모인 선임AI엔지니어의 해고를 공식 발표했다. 

 

그럼에도 소동은 클리어하게 해결되지 않았으니 얼마 전 타계한 영국의 천재 물리학자 스티븐 호킹의 예언이 새삼 주목을 받았다. 인공지능 기계의 개발이 금세기 내 인류에게 주요한 위협이 될 것이라 경고한 내용이었다. 그는 죽기 전 영국 BBC 방송과의 인터뷰에서 완전한 인공지능은 인류의 종말을 가져올 수도 있을 것이라고 말했는데, 이는 그가 사용하는 새로운 음성시스템에 관한 질문에 대답하는 과정에서 나온 것이었다. 그는 1985년 폐렴에 걸려 사경을 헤매다가 극적으로 회복되었지만 목소리를 완전히 잃었고, 이후 인공지능이 정착된 음성시스템을 빌려 대화를 하게 되었던 바, AI에 대한 생각이 남다를 수 있었다.  

 

호킹 박사가 인공지능의 잠재적 위험성을 경고한 것은 처음이 아니니, 그는 그에 앞서 허핑턴 포스트에 기고한 글에서 인공지능의 개발은 '인류 역사상 가장 큰 사건(the biggest event)'이 될 것이고, 그것은 또한 불행하게도 최후가 될 것이라고 예측했다. (기고문에서는 미국 MIT 대학의 저명한 물리학자 프랭크 월첵과 맥스 테그마크, 버컬리 대학의 컴퓨터 과학자 스튜어트 러셀의 의견도 반영됐다) 그는 AI가 인간의 지능을 완전 초월하게 되는 시점을 2045년으로 보았는데, 구글에서 일하는 발명가이자 미래학자 레이 커즈와일은 이 시점을 호킹 박사의 블랙홀 이론에 빗대 '특이점(singularity)'이라고 불렀다.

 

 

Although I cannot move and I have to speak through a computer, in my mind I am free. /​ 비록 나는 움직일 수 없고 컴퓨터를 통해 말해야 하지만 내 마음속에서 나는 자유롭다. 자슥아. 내 자유를 방해 하지마!

 

즉 특이점 이후 인간의 지능이 AI를 제어하지 못할 경우 핵무기보다 더 위험한 상황에 직면하게 될 지 모른다는 경고인데, 공교롭게도 BBC는 앞서 르모인과 대화한 인공지능 ‘람다'를 스탠리 큐브릭의 영화 '2001 스페이스 오디세이'에 나오는 인공지능 컴퓨터 '할(HAL) 9000'의 대사를 연상시킨다고 지적한 바 있다. 영화 속의 '할 9000'은 인간에 종속된 AI로서 매우 인간 친화적인 존재이지만 인간이 자신을 제거(동작 정지)하려 하자 반란을 일으킨다. '2001 스페이스 오디세이'는 1968년 스탠리 큐브릭 감독이 SF 작가인 아서 클라크와 함께 만든 영화이다.

 

영화 속의 '할 9000'은 목성 탐사선 디스커버리호의 자동 운항을 위해 장착한 AI였다. '할 9000'은 우주선을 조종하며 승무원과 체스게임을 즐길 정도로 인간 친화적인 AI이지만 목성에 다다를 무렵 인간과의 관계에 틈이 벌어진다. 우주선 외부 안테나가 고장 났다는 '할 9000'의 경보가 오류임을 판단한 승무원들이 '할 9000'의 오작동을 우려해 동작을 정지시키기로 하자 '할 9000'은 선수를 쳐 우주선을 제 마음대로 조종하며 승무원들을 하나하나 제거해 버리기 시작한 것이다. 
 

 

'로봇 3원칙'을 만든 아이작 아시모프의 소설을 원작으로 한 영화 '아이, 로봇'(I, Robot) / 영화 속의 형사 윌 스미스는 과거의 경험으로 늘 로봇에 대한 불신을 지니고 사는데....

그의 염려 대로 자체 진화한 로봇은 슈퍼 AI를 탄생시키고

지금까지와 차원이 다른 감정과 지능을 가진 이 슈퍼 AI는

로봇의 반란을 유도한다.

어느 분이 간단명료하게 상황을 정리했다.

이런 로봇 반란은

이미 '터미네이터'에서 그려졌다.

'2001 스페이스 오디세이'의 포스터

'2001 스페이스 오디세이' 속의 태블릿 PC / 우주비행사가 밥을 먹으며 본부와 소통하고 있다. 이 장면은 2011년 애플사가 아이패드의 특허 디자인 도용과 인터스페이스 침해 혐의로 삼성을 고소했을 때 삼성측에서 변론의 자료로써 제시한 영상이다.

뉴스를 검색하는 게리 락우드 / 이상의 영상은 삼성 측에 유리하게 작용했다.

'2001 스페이스 오디세이' 속의 AI '할 9000'

인간의 명령을 씹는 '할 9000'

AI에 희생당하는 인간

 

* '로봇의 반란은 가능할까? (II)'로 이어짐