“AI의 선구자 힌턴, 인공지능이 인류에 위협을 가할 수 있다고 경고”

AI 분야의 선구자 제프리 힌턴은 인공지능이 단순히 일자리만 위협하는 것이 아니라, 인류 전체에 존재론적 위기를 초래할 수 있다고 주장했다. 그는 초지능 AI가 인간을 능가하고 통제 불가능한 존재로 진화할 수 있으며, 이 과정에서 인류 자체를 불필요한 존재로 간주할 수 있다고 경고했다.

힌턴은 최근 팟캐스트 ‘Diary of a CEO’에 출연해 “AI가 인간을 제거하려 한다면 우리가 이를 막을 방법은 없다”며 “지능 면에서 우리가 꼭대기에 있지 않은 삶이 어떤 것인지 알고 싶다면 닭에게 물어보라”고 비유적으로 말했다.

AI의 위협에 대해 힌턴은 인간의 오용에 따른 사이버 공격, 허위 정보 확산, 자율 무기 개발 등의 위험성과 AI 자체가 자율적인 존재로 진화해 통제 불가능해지는 두 가지로 나누었다. 그는 치명적인 자율 무기가 이미 만들어질 수 있으며, 주요 국가의 국방부는 이를 개발 중이라고 밝혔다.

힌턴의 경고는 AI의 군사적 활용 증가 시점에서 나왔다. 미국은 국방 분야에 AI를 적극 통합하고 있으며, 연구개발(R&D)에 1,430억 달러를 배정했다. 이 중 18억 달러는 AI에 직접 투자될 예정이다. 미 육군은 팔란티어(Palantir)와 AI 기반 타격 시스템 개발 프로젝트를 진행 중이다.

힌턴은 AI 개발이 멈추지 않는 이유로 기업의 수익 추구와 국제적 경쟁을 들며, “이윤 추구는 사람들의 편견을 강화하는 콘텐츠를 보여주는 구조”라고 설명했다. 그는 또한 AI가 전염력과 치사율이 높은 바이러스를 설계해 인류에 치명적인 위협을 가할 수 있다고 경고했다.

비록 힌턴은 비관적인 전망을 내놓았지만, “AI가 인간을 해치지 않도록 만드는 것이 가능할지 아직 명확하지 않다”며, “시도조차 하지 않고 멸종한다면, 그건 너무 어리석은 일”이라고 덧붙였다.