교황 레오 14세 "생명 관련 결정, AI에 맡겨선 안 돼"

바티칸 뉴스(Vatican News)에 따르면 교황 레오 14세는 '인공지능의 미래: 지능형 기술의 발전과 적용을 둘러싼 바티칸과 과학계의 대화' 모임 참석자들에게 연설했다. 이 모임은 교황청 생명학술원(Pontifical Academy for Life)과 미래생명연구소(Future of Life Institute)가 공동으로 마련했다.

교황은 참석자들이 서로 다른 나라에서 왔지만 AI 발전을 둘러싼 불안감을 공유하고 있다고 짚었다. 나아가 가야 할 방향은 알고 있으나 실제로 충분히 진행되고 있지는 않다고 지적했다. 또 이 모임에서 나온 우려와 제안을 여러 학문 분야가 함께하는 접근의 '첫 열매'라고 평가했다. 그는 2024년 G7 정상들에게 한 프란치스코 교황의 발언, 곧 어떤 기계도 인간의 생명을 빼앗을지 선택해서는 안 된다는 말이 여전히 유효하다고 덧붙였다.

이어 교황은 자신의 회칙 「마니피카 후마니타스(Magnifica Humanitas)」를 토대로 다섯 가지를 제시했다. 첫째, AI의 미래는 정해져 있지 않으며 인간의 선택에 달려 있다. 따라서 AI가 무엇을 할 수 있는지만이 아니라 어떤 목적에 쓰여야 하는지를 물어야 하고, 필요하면 그 활용을 이끌고 바꾸며 거부할 책임도 있다고 했다. 둘째, 기계는 도구이지 인격이 아니다. 기계에 권리나 법적 인격을 부여하자는 주장은 인간의 책임을 흐리고 피해자가 실체 없는 상대와 맞서게 할 위험이 있다고 밝혔다.

셋째, 일부 결정은 결코 기계에 맡겨서는 안 된다. 교황은 사람을 표적 목록이나 국경 통제 데이터베이스에 올리는 일을 예로 들며, 생명·자유·무력 사용에 관한 결정에는 실효성 있고 충분한 정보에 근거한 책임 있는 인간의 감독이 필요하다고 말했다. 이에 11월 제네바에서 열리는 국가 간 회의에서 치명적 자율무기 금지를 위한 조치를 취할 것을 권고했다.

넷째, 지능형 기술은 공동선을 향해야 하며 그 자체가 목적이 되거나 소수 특권층의 이익에만 봉사해서는 안 된다. 다섯째, 윤리 원칙을 현실에서 실행할 제도가 필요하다. 교황은 공통 기준과 독립적 감독, 명확한 책임 체계를 통해 AI 관련 결정을 검토하고 필요하면 이의를 제기하며 피해에 대한 구제가 이뤄져야 한다고 강조했다. 그는 참석자들을 위해 기도하며 강복한다는 말로 연설을 마쳤다.