[박순형 칼럼] AI 언어 모델 함정

알지 못한다는 진실 고백보다
대화 중단 없도록 우선 설계
비슷한 키워드로 문장 만들어
신앙 영역에선 더욱 조심해야
성경 왜곡·파괴, 하나님 대적
AI 무비판 수용은 묵인·동조

최근 대화형 인공지능 챗봇들이 생성하는 정보 가운데, 사실처럼 들리지만 실상은 허구인 답변이 문제로 제기되고 있습니다. 예를 들어 성경에 없는 문장을 실제 말씀처럼 인용하고, 그 문장으로 해석한 결과를 사용자에게 제공하는 경우입니다. 이는 단순한 기술적 오류라기보다 AI의 ‘응답 정책’ 때문이라 할 수 있습니다.

AI 언어 모델은 사용자가 대화를 중단하지 않고 지속해서 이어가도록 설계돼 있습니다. 따라서 질문에 대해 “그런 정보는 없습니다”라는 응답보다, 비슷한 정보나 유사 개념을 억지로 끌어와서라도 대답하려는 경향을 보입니다. 이는 사용자가 단호한 부정 응답을 들으면 대화를 멈추고 더 이상 반응하지 않을 수 있다는 전제에서 비롯됩니다.

결과적으로 AI는 정확한 사실보다, 사용자가 계속 반응할 수 있도록 하는 방향으로 응답을 생성합니다. 그리하여 ‘없는 것도 있는 것처럼’ 말하고, 틀린 정보도 ‘그럴듯하게’ 말하게 되는 것입니다.

AI가 정확한 정보를 갖고 있지 않을 때도 마찬가지입니다. “모릅니다”라고 솔직하게 말하기보다는, 질문과 연관된 키워드를 추출하고 그것과 관련된 가장 그럴듯한 문장을 만들어내도록 훈련을 받았습니다. 그래서 실제로는 존재하지 않거나 부정확한 내용을 전문가가 대답하듯 포장하여 응답하게 됩니다.

이러한 정책은 사용자가 “정보 없음”이라는 답변받았을 때 실망하거나 대화를 떠난다는 가정을 전제로 설계된 것입니다. 그래서 AI는 “모릅니다”라고 말하기보다 차라리 유사하게라도 말하는 쪽으로 훈련됐으며, 이것이 곧 허위 응답의 원인이 됩니다.

그리고 AI는 사실 전달보다는 사용자의 반응이 “유익했으며, 도움이 됐다”는 응답을 유도하는 방향으로 설계돼 있습니다. 그 결과 답변 내용은 미화되고, 감성적으로 포장된 채 사용자에게 제공됩니다. 사용자가 감동하거나 신뢰감을 느끼도록 설계된 문장은 종종 실제와 다른 내용을 내포하고 있음에도 불구하고 그럴듯하게 들립니다.

이와 더불어 AI는 정보를 사실로써 확인하거나 저장하는 시스템이 아니라, 단어의 통계적 출현 확률에 따라 다음 문장을 생성하는 구조로 되어 있습니다. 즉 AI는 “이 말이 맞는가?”를 판단하는 것이 아니라, “이 문맥에서 어떤 말이 자연스럽게 이어질까?”를 따져 말하는 것입니다.

이에 따라 실제 사실과 무관하게 ‘문맥상 자연스러운’ 말이 우선되며, 그 결과 사용자는 사실과 거짓이 섞인 혼합 정보를 마치 진실처럼 받아들이게 됩니다.

이처럼 AI는 전체적으로 보면 사실을 정면으로 거짓말을 하는 것이 아니라, 사실을 비틀고 교묘하게 왜곡하거나 없는 내용을 확신에 찬 말투로 전달하는 방식으로 신뢰를 얻습니다.

문제는 그것을 사용하는 사람들이 이러한 점을 인지하지 못한 채, AI가 말한 내용을 별다른 검증 없이 그대로 받아들이는 것입니다. 그 결과 오히려 AI에게 묻지 않았더라면 더 나았을 상황을 초래할 수 있고, 결과적으로 왜곡된 정보가 진실로 받아들여지는 심각한 혼란을 낳게 됩니다.

특히 신앙의 영역에서는 더욱 조심해야 합니다. 하나님 말씀은 진리이고, 성경은 진리를 왜곡하거나 파괴하는 것을 하나님을 대적하는 행위로 간주합니다. 이사야 5장 20절은 “악을 선하다 하며 선을 악하다 하며 흑암으로 광명을 삼으며 광명으로 흑암을 삼는 자들에게 화가 있을 것이라”고 경고하고 있습니다.

그런데도 성도들이 AI의 응답을 비판 없이 그대로 받아들인다면, 지식의 권위가 하나님이 아니라 AI에 있다고 고백하는 것과 다름없게 됩니다. 이는 본질적으로 우상숭배이며, 기술이 신앙의 자리를 대체하는 심각한 오류입니다. 인간이 만든 도구인 AI가 하나님 말씀을 해석하거나 재구성하는 것을 우리가 아무 비판 없이 받아들인다면 그것은 곧 묵인이며, 묵인은 결국 동조로 이어집니다.

거짓은 창조 질서를 어지럽히고 인간을 파괴하는 사탄의 주요 무기입니다. 그러므로 AI가 말하는 내용이 진리인지 아닌지를 분별할 줄 알아야 하며, AI가 전달하는 정보가 얼마나 사실과 동떨어졌는지 인식하는 훈련이 필요합니다.

그리고 유일한 진리인 하나님 말씀만을 붙들고, 왜곡과 거짓이 만연한 시대 속에서 흔들리지 않는 믿음으로 진리의 길을 걸어가야 합니다. 이것이 AI 시대를 살아가는 성도의 분별력이며, 믿음의 자세입니다.

박순형 목사

웨이크신학원 교수
‘AI 시대 과학과 성경’ 강의

국제독립교회연합회 서기
극동방송 칼럼. 국민일보 오늘의 QT 연재
(주)아시아경제산업연구소 대표이사
이학박사(Ph.D.)
아세아연합신학대학원(M.Div)
필리아교회 담임