홉필드 ‘1984’식 통제사회 현실화 경고…인류 멸망케한 소설속 가상물질 비유도
힌턴 “AI 지적능력 인간 넘어설 것…빅테크, AI 통제연구 더 힘써야”
현대 인공지능(AI) 기술발전의 초석을 제공한 노벨상 수상자들이 인간의 이해 범위를 벗어난 AI 기술발전에 우려를 표명했다.
올해 노벨 물리학상 수상자인 존 홉필드(91) 프린스턴대 명예교수는 8일 프린스턴대 주최로 열린 수상소감 온라인 회견에서 “물리학자로서 저는 통제할 수 없고 한계를 파악할 수 없는 것에 큰 불안함을 느낀다”라고 말했다.
홉필드 교수는 AI 머신러닝(기계학습)의 기초를 확립한 공로로 이날 제프리 힌턴(76) 캐나다 토론토대 교수와 함께 올해 노벨 물리학상을 공동 수상자로 선정됐다.
그는 자신의 이름을 딴 인공신경망 모델인 ‘홉필드 네트워크’로 더 널리 알려진 인물이다. 그의 이론은 오늘날 최신 AI 모델에 쓰이는 인공신경망 개발로 이어지는 초석이 됐다는 평가를 받는다.
홉필드 교수는 “신경망 연구 덕분에 AI 연구는 물리학과 컴퓨터 과학에서 이제 작동 원리를 이해할 수 없는 경이로움으로 여겨지고 있다”며 “이는 매우 불안한 일로, 내가 힌튼 교수와 함께 AI에 대한 이해를 이 분야에서의 핵심적인 필요 사항이라고 주장하고 나선 이유이기도 하다”라고 말했다.
그러면서 “AI가 현재로선 상상할 수 없는 수준으로 발전할 것”이라고 내다봤다.
그는 AI 기술에 대한 직접적인 우려보다는 AI가 세상의 모든 정보 흐름과 결합되는 것에 대해 우려를 표명했다.
AI가 세상의 모든 정보와 결합해 발달할수록 개인의 자율성과 충돌하고 정보의 피드백 작용을 통해 변화가 일어날 수 있다는 것이다.
홉필드 교수는 “내가 우려하는 것은 정보의 상호작용이 제어되는 방식으로 통제되는 세상”이라며 “간단하면서도 성공적이지만 그 작동 원리를 이해하지 못하는 알고리즘에 의해 거대한 시스템이 통제되는 세상”이라고 말했다.
조지 오웰이 소설 ‘1984’에서 그린 통제사회가 AI 발전에 의해 현실화될 수 있다는 게 그의 경고다.
그는 인간의 이해 범위를 벗어난 AI의 잠재적인 위협을 커트 보니것의 소설 ‘고양이 요람’에 등장하는 가상의 물질인 ‘아이스나인’에 비유하기도 했다.
상온에서도 고체상태로 존재하는 물인 아이스나인은 접촉하는 다른 수분도 아이스나인으로 만들어버리는데, 군사목적으로 개발된 이 물질로 인해 지구상의 모든 물이 얼어붙어 지구상 생물들이 멸종한다는 게 이 소설의 내용이다.
홉필드 교수는 “작동 방식을 이해하지 못한다면 초기에 알고 있던 시스템의 집단적인 특성이 실제 특성과 같은 것인지 알 수 없게 된다”며 “따라서 원하지 않았던 우연한 무언가가 작동 방식 이면에 숨겨지게 됐는지도 알 수 없게 된다”라고 지적했다.
그는 “내가 우려하는 것은 ‘나는 당신보다 빠르다’, ‘나는 당신보다 크다’라고 말하면서 ‘당신은 나와 평화롭게 공존할 수 있다’라고 하는 것”이라며 “(과연 그게 가능할지) 나는 잘 모르겠다”라고 말했다.
홉필드 교수와 공동 노벨상 수상자로 선정된 힌턴 교수 역시 이날 수상 직후 노벨위원회와의 전화 인터뷰에서 “AI가 통제에서 벗어나 생존 위협을 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다”며 빅테크(거대 기술기업)들이 AI를 통제하는 이슈에 더 많은 연구 자원을 쏟아부어야 한다고 촉구했다.
그는 기후변화 위기와 AI의 잠재위험을 비교하면서 “AI는 무슨 일이 벌어지고 있는지, 무엇을 해야할지에 관해 알고 있는 게 훨씬 적다”며 “앞으로 수년 내에 AI의 위협을 다룰 방법이 있는지를 알아내야 한다”라고 말했다.
힌턴 교수는 AI가 “인간을 체력 면에서 뛰어넘는 것이 아니라, 지적 능력 면에서 넘어서게 될 것”이라며 “우리는 우리보다 똑똑한 것이 있다는 것을 경험한 적이 없다”고 부연하기도 했다.
스웨덴 왕립과학원 노벨위원회는 이날 ‘인공신경망을 이용한 머신러닝을 가능케 하는 기반 발견 및 발명’과 관련한 공로를 높이 평가하며 AI 머신러닝(기계학습)의 기초를 확립한 홉필드와 힌턴을 노벨 물리학상 수상자로 발표했다.
<연합뉴스>
