레오 14세 교황은 25일(현지시간) 인공지능(AI)이 세계를 끝없는 전쟁의 길로 이끌 위험이 있다며 AI가 인간을 지배할 수 없도록 무장 해제가 필요하다고 밝혔다.
로이터·NBC 뉴스 등에 따르면 교황은 이날 교황청 시노드 강당에서 '마니피카 후마니타스'(Magnifica Humanitas·위대한 인간성)라는 제목의 회칙을 통해 이같이 밝혔다.
교황은 정부의 통제를 받지 않는 소수의 강력한 민간 세력이 AI를 휘두르고 무인 무기를 통해 전쟁을 일상화할 수 있는 능력을 갖추게 되는 것을 경고했다.
교황은 "도덕성이 소수에 의해 결정된다면 더 도덕적인 AI만으로는 충분하지 않다"며 "자율 무기 시스템이 점점 더 쉽게 배치되고 있다. 이로 인해 전쟁은 더욱 쉬운 선택지가 되고 인간의 통제를 벗어나게 된다"고 말했다. 그러면서 "인간 존엄과 생명의 신성함에 대한 존중을 보장하기 위해 전쟁에서 AI를 사용할 때는 가장 엄격한 윤리적 제약이 필요하다"고 강조했다.
교황은 "우리는 이미 AI라는 환경 속에 깊숙이 들어와 있고, 이제 AI는 피할 수 없는 강력한 세력이 되었다"며 "그렇기에 단순히 법으로 묶어두는 규제만으론 부족하다. AI를 무장 해제시켜 누구나 안전하고 쉽게 다가갈 수 있도록 만들어야 한다"고 말했다. 교황은 "무장 해제는 기술을 거부하는 것이 아니라 AI가 인간성을 지배하지 못하도록 막는 것을 의미한다"고 덧붙였다.
아울러 교황은 AI로 활성화되는 디지털 경제가 보이지 않는 노동력 착취에 기반하고 있다며 AI 경제를 '새로운 형태의 노예제'에 비유하기도 했다.
교황은 "디지털 세계가 데이터 라벨링·모델 훈련·콘텐츠 검열 작업에 종사하는 수백만 명의 침묵하는 노동에 의존하고 있다"며 "이들은 종종 열악한 환경과 낮은 임금을 받으며 일한다"고 지적했다. 그러면서 가장 취약한 이들의 부담을 줄이고, 더 많은 자원을 가진 이들에게 더 큰 책임을 요구하는 세금 제도 등을 포함해 불평등 확대를 막기 위한 노력이 없다면 "기술 진보는 필연적으로 구조적 불평등을 초래할 것"이라고 경고했다.
교황은 "더 많은 이윤을 추구하는 행위가 구조적으로 일자리를 희생시키는 선택을 정당화할 수는 없다"며 "인간은 목적 그 자체이지 결코 수단이 아니며, 경제 질서는 언제나 인간의 존엄성과 공동선 아래에 있어야 하기 때문"이라고 말했다. 이어 가진 자와 가지지 못한 자 사이 격차를 확대하지 않도록 사회가 개인 역량 개발에 투자해야 한다며 노동계는 노동자를 대변하고 방어할 의무가 있을 뿐만 아니라 새로운 형태의 고용 구조와 그에 따른 노동자들의 필요에도 귀를 기울여야 한다고 덧붙였다.
또한 교황은 AI가 만들어 낸 허위 정보를 지적하며 "사회가 진실을 추구하지 않을 때 민주적 삶은 약화된다. 진실에 무관심해지면 느리지만 확실히 전체주의로 떨어지게 된다"고 말했다.