AI가 문명이 될 수 있다고 주장하는 논문

외계인이 밖에 있다면 왜 아직 우리에게 연락하지 않았나요? 새로운 논문에서는 그들, 혹은 미래에 우리가 필연적으로 초강력 인공 지능, 즉 우월한 존재를 창조하려는 우리 자신의 추진력의 희생자들에 의해 전멸될 수도 있다고 주장합니다.

페르미 역설에 대한 잠재적인 대답은 물리학자 엔리코 페르미(Enrico Fermi)와 그 다음 세대가 "모두 어디에 있습니까?"라는 질문을 던진 것입니다. — 미국국립정보대학교(National Intelligence University) 연구원인 Mark M. Bailey는 아직 동료 검토를 거치지 않은 새로운 논문에서 첨단 AI가 전체 문명을 멸절시킬 수 있는 일종의 재앙적 위험일 수 있다고 단정했습니다.

Bailey는 초인적 AI를 잠재적인 "대필터"로 인용합니다. 이는 인공적이든 자연적이든 끔찍하고 알려지지 않은 위협이 지적 생명체가 다른 생명체와 접촉하기 전에 전멸시키는 페르미 역설에 대한 잠재적인 대답입니다.

Bailey는 "세계적인 재앙적 위험에 관심을 갖고 있는 사람에게는 한 가지 냉정한 질문이 남아 있습니다"라고 썼습니다. "대필터는 과거의 일인가, 아니면 우리가 여전히 극복해야 할 과제인가?"

연구원은 우리 인간이 "장기적 위험을 직관적으로 예측하는 데는 형편없다"고 지적합니다. 그리고 AI와 AI의 잠재적 종점인 인공일반지능(AGI)에 대해 이미 얼마나 많은 경고가 발행되었는지를 고려하면 다음과 같은 것이 가능하다고 그는 주장합니다. 우리는 우리 자신의 죽음을 불러일으킬 수도 있습니다.

"AI 문제를 조사하는 한 가지 방법은 두 번째 종 주장의 렌즈를 이용하는 것입니다."라고 논문은 계속됩니다. "이 아이디어는 진보된 AI가 우리가 필연적으로 이 지구를 공유하게 될 두 번째 지능 종으로 효과적으로 행동할 가능성을 고려합니다. 현생 인류와 네안데르탈인이 공존했던 지난 번에 상황이 어떻게 진행되었는지 고려하면 잠재적인 결과는 암울합니다."

베일리는 더 무서운 것은 ASI(인공 초지능)가 인간 지능을 능가한다는 점이라고 지적합니다. "자신의 코드를 개선할 수 있는 AI는 그렇게 하도록 동기를 부여받을 가능성이 높기 때문입니다."

저자는 "이 시나리오에서 인간은 잠재적인 재앙을 초래할 수 있는 지구상의 지배적인 지적 종으로서의 지위를 포기하게 될 것"이라고 가설을 세웠습니다. "네안데르탈인처럼 우리의 미래에 대한 통제권, 심지어 우리의 존재 자체도 더 지능적인 경쟁자의 등장으로 끝날 수 있습니다."

물론 외계 AI가 외계 문명의 자연 생명체를 말살했다는 직접적인 증거는 아직 없지만 베일리의 견해로는 "기존 생물학적 지능에 대한 동시 증거 없이 인공 외계 지능을 발견하는 것은 확실히 바늘을 움직여라."

물론 그 가능성은 창조자를 제거한 후에도 우주 곳곳에 파괴적인 AI가 남아있을 가능성을 높인다. 이를 위해 Bailey는 "경쟁적인 외계 AI는 지구를 포함한 다른 곳에서 자원을 찾는 경향이 있기 때문에 그러한 외계 AI가 감지할 수 있는 방식으로 우리의 존재를 적극적으로 알리는 것이 우리에게 최선의 이익이 아닐 수 있다"고 유용하게 제안합니다.

Bailey는 "공상과학 소설처럼 보일 수도 있지만 AI와 같은 통제 불가능한 기술이 지구에 유기적이든 외계 기원이든 상관없이 Great Filter(대필터)의 후보가 될 가능성이 높습니다"라고 결론지었습니다. "우리는 스스로에게 질문해야 합니다. 이러한 가능성에 어떻게 대비해야 할까요?"

독자 여러분, 그것은 이상한 일입니다. 하지만 다시 한번 누군가가 그것을 고려하고 있다는 것이 기쁩니다.

AI 종말에 대한 추가 정보:워렌 버핏은 AI를 원자폭탄에 비유했습니다.