2010년 사물인터넷으로 시작된 인공지능이 개발된 지 10년이 넘어서면서 인류를 위협할 지경까지 이르렀다. 그동안 인류 멸절 요인으로 핵전쟁과 팬데믹 현상, 기후와 환경파괴에 따른 식량생산 감소 등을 꼽았다. 이제는 인공지능을 우선순위로 꼽는다. 인공지능이 핵무기와 같이 실존적 위협요인이 되기 때문이다.
유엔 안토니우 구테흐스 사무총장은 지난해 미 워싱턴에서 열린 군비협회 연례회의에 보낸 영상 메시지를 통해 핵무기 사용 위기가 최고조에 달했다고 경고했다. 또 구테흐스 사무총장은 “모든 국가가 핵 사용을 기계나 알고리즘에 맡기지 않고 인간이 결정토록 핵 보유국간의 합의가 필요하다”고 말했다. 그 이유는 인공지능의 핵무기 통제 가능성 때문이다.
인공지능 개발사는 그동안 인공지능에 방대한 데이터를 입력해 학습시키는 과정을 거쳤다. 이제는 인공 신경망을 통해 인공지능 스스로 학습하고 분석하는 딥러닝 기능이 개발되면서 인공지능이 빠른 속도로 능력이 향상되는 구조를 갖췄다.
인공지능 기능이 인간 지능을 초월하는 ‘특이점’이 다가오면 인공지능은 자기 스스로 개선하고 예측하게 되면 개발자의 통제가 어려운 상황으로 반전될 가능성이 높다.
이런 여건에서 인공지능 시스템에 높은 자율성을 주면 인공지능과 개발자가 설정한 목표값이 총돌할 경우 인공지능은 스스로 설정한 목표를 향해 달려간다. 비롯 시뮬레이션상이지만 이같은 사건이 발생했고 그 사례가 발표됐다.
실제 AI 드론에게 최종 결론은 인간이 결정한다는 단서를 달아 지대공 미사일을 파괴하라는 명령을 내렸다. 그런데 AI는 미사일 파괴가 더 중요하다고 판단하고 자신을 조정하는 인간을 제거하는 판단을 내렸다.
AI 드론에게 드론 조종사의 제거 불가 명령을 훈련시키자 조종사와 드론간 중개매체인 통신탑을 파괴시켜 버렸다. 이같은 시뮬레이션 결과를 미공군 AI시험운영 책임자 인 해밀턴대령이 영국 국제회의에서 실험 결과를 발표했다. 가히 충격적인 내용이다.
인공지능에게 자체 학습능력과 판단 능력을 준 결과이다. 실제 상황에서 벌어진 일이었다면 끔찍한 결과가 발생했으리라. 그래서 유엔사무총장도 핵무기만큼은 발사여부를 사람이 결정을 내리자고 호소한 이유이다.
1962년부터 2014년까지 우발 핵전쟁 위기는 13번이 지나갔다. 그중 가장 위험했던 핵전쟁 위기는 1983년9월26일 새벽 구소련 미사일 방어사령부에서 발생했다. 미국 핵미사일의 공격이 시작됐다는 컴퓨터 경보 시스템이 작동해 핵무기 공격여부를 결정해야 할 중요시점에 위성의 오작동으로 판단하고 일단 발사 유보를 결정했다.
책임자였던 구소련 스타니 슬라프 패트로프중령의 판단이 옳았다. 나중에 구름에 반사된 햇빛을 보고 경보 시스템상 오류가 발생했다고 밝혀졌다. 패트로프 중령이 실전상황이라고 판단했다면 인류는 핵전쟁을 1983년에 맞았다. 절체절명의 위기에서 한 사람의 옳은 선택적 결정으로 핵전쟁을 막았다.
인공지능이 주도한 핵무기 관리 및 전쟁이라면 실상은 달라진다. 페트로프 중령과 같은 판단에 의해 핵무기 발사를 미룰수 있을까? 아니다. 인공지능은 스스로 판단에 따라 행동하게 된다. 당장은 훈련을 시켜 막을수 있겠지만 인공지능 능력이 더 향상됐을 때 막을 방법은 많지 않을 듯 싶다.
2022년 미 국방부청사 인근에서 폭발사고가 난 사진이 인터넷상에서 급속 확산되며 증시까지 출렁됐는데 확인 결과 AI가 만든 가짜 사진으로 밝혀졌다. 벌써부터 그들만의 세상을 만들어 가고 있다는 사례다. 그래서 개발자들이 두려워 떨지 않냐 싶다. 인공지능에게는 양심과 의식이 없기에 훈련이 싶지 않다는 의미다.
개발자들이 두려움에 떨고 있는 인공지능 개발은 어느 선까지 가능할까? 1900년전에 예언된 예언서 요한 계시록은 마지막때 모든 사람들이 칩을 받게 되다고 예언했다. 그 칩을 받은 사람은 당연히 컴퓨터에 종속되어 소수 독재자를 우상처럼 받들 것으로 예측된다.
인공지능이 아니면 이해하기 어렵다. 현재 사람 몸에 칩을 심어 컴퓨터와 하나가 되는 실험이 진행중이다. 이 실험이 마무리 되면 나중에는 강제로 칩을 심게 되리라. 이러한 사건이 어렵다고 판단을 하는가? 벌써 우리는 코로나 팬데믹기간에 걸쳐 이미 경험했고 사망률이 높은 펜데믹이 닥쳐와 칩만이 살길이라고 강제하면 방법이 없다. 칩을 심어야지.
요한계시록의 이마에나 오른손에 칩을 받은 이유는 매매를 목적으로 한다. 그러면 굳이 칩을 통해 인간을 통제하려 할까? 인간에게는 자유의지를 가진 영혼이 존재하기에 다른 방법으로는 어렵기 때문이다. 그 시기라 다가온다. 그리 오래 걸리지 않으리라 생각된다.