뉴저지 전 부지사, AI 챗봇을 이용해 성희롱 혐의 무죄 주장

뉴저지 전 부지사 Dale Caldwell은 한 직원을 성희롱하고 윤리 규정을 반복적으로 위반했다는 조사 결과에 따라 9월 25일 사임했다. 그는 이후 언론에 잇달아 출연해 조사 결과에 이의를 제기하고 있으며, 적어도 한 인터뷰에서는 AI 챗봇의 출력 결과를 자신의 무죄를 뒷받침하는 증거로 인용했다.

핵심 요약

• Dale Caldwell은 성희롱 및 윤리 규정 위반 조사 결과에 따라 9월 25일 뉴저지 부지사직에서 사임했다.
• 이후 언론 인터뷰에서 Caldwell은 AI 챗봇 출력 결과를 자신의 무죄를 뒷받침하는 증거로 인용했다.
• AI 언어 모델은 통계적으로 가능성 높은 단어 순서를 예측해 그럴듯한 텍스트를 생성할 뿐이며, 사실을 조사하거나 사건 파일에 접근하거나 법적 판단을 내리지 않는다.
• 이 사건은 점점 뚜렷해지는 패턴을 보여준다. 사람들이 AI가 생성한 문장을 확률적 텍스트 출력이 아닌 권위 있고 중립적인 제3자의 판결로 받아들이는 것이다.
• 전문가와 언론인들은 AI 챗봇이 부정확하거나 조작된 정보를 자신 있게 생성한다는 점을 반복적으로 경고해 왔으며, 이 현상을 할루시네이션(hallucination)이라고 부른다.

AI 챗봇이 실제로 하는 일과 하지 못하는 일

이 전술이 충격적인 이유는 그 대담함보다, AI가 생성한 텍스트가 현실에서 어떻게 인식되고 있는지를 드러내기 때문이다. 언어 모델은 프롬프트의 통계적으로 가능성 높은 연속을 예측함으로써 출력을 생성한다. 모델은 조사 기록, 증인 진술, 사건 파일에 접근할 수 없다. 「Dale Caldwell은 부당한 대우를 받은 것 아닌가요?」와 같은 유도 질문을 받으면, 챗봇은 주로 질문 자체의 프레이밍에 의해 형성된 유창하고 자신감 있어 보이는 답변을 생성한다. 그 출력은 판결이 아니다. 그것은 거울이다.

The Verge 보도에 따르면 Caldwell은 뉴저지 지역 미디어 인터뷰에서 챗봇의 응답을 독립적인 조사 결과인 것처럼 제시했다. 그러나 그것은 그렇지 않다.

이 문제는 정치적 볼거리를 넘어선다. AI 텍스트 생성기를 이미지 캡션, 스토리 프롬프트, 캐릭터 설명 초안 작성에 유용하게 만드는 바로 그 특성 — 유창함, 겉으로 드러나는 권위 — 이 사실 분석으로 오인될 때 출력을 위험하게 만드는 요소이기도 하다. 설득력 있는 악당의 독백을 쓸 수 있는 모델은 똑같이 설득력 있는 무죄 선언도 쓸 수 있다. 어느 쪽도 진실을 반영하지 않으며, 둘 다 기술을 반영할 뿐이다.

권위의 환상과 그 미학적 논리

이 현상에는 거의 사진과 같은 무언가가 있다. 초기 인물 사진은 객관적 진실로 받아들여졌다 — 화가와 달리 카메라는 거짓말을 할 수 없다는 논리였다. 법원은 바로 그 논리에 따라 다게레오타입을 증거로 채택했다. AI가 생성한 텍스트는 대중의 인식 속에서 유사한 근거 없는 권위를 획득하고 있다. 중립적이고 사려 깊은 산문처럼 보이기 때문에, 중립적이고 사려 깊은 것으로 읽힌다.

이 유사점은 곱씹어볼 만하다. 사진가들은 수십 년에 걸쳐 객관적 렌즈라는 신화를 해체했다. AI 텍스트에서 그에 상응하는 각성은 이제 막 시작되고 있다. 매일 AI 도구로 작업하는 창작자들 — 캐릭터를 만들고, 프롬프트를 작성하고, 이미지 설명을 생성하는 이들 — 에게 「권위 있게 들린다」와 「정확하다」 사이의 간극은 이미 잘 알려져 있다. Anthropic의 Claude Sonnet 5.5와 유사한 모델들은 더 빠르고 저렴해졌지만, 유창함은 항상 사실적 신뢰성을 앞질러 왔으며 그 간극은 좁혀지지 않았다.

AI 글쓰기 특성을 연구하는 연구자들은 Opus 5.5와 같은 모델이 통계적으로 이례적인 단어 선택을 사용한다는 사실을 발견했으며, 훈련된 독자는 이를 알아챌 수 있다 — 그러나 대부분의 사람들은 AI 출력의 훈련된 독자가 아니며, 케이블 인터뷰 중 정치인의 청중은 분명 통계 분석을 요청받고 있지 않다.

AI 출력을 인용하는 모든 이에게 실질적인 문제

AI 아트 창작자들에게 교훈은 더 좁지만 실재한다. 이미지 프롬프트 생성, 캐릭터 배경 스토리 작성, 크리에이티브 브리프 초안 작성에 사용되는 바로 그 모델들은, 요청을 받으면 논쟁적인 사실에 대해 자신감 있게 들리는 주장을 생성할 것이다. 이것은 패치로 수정될 버그가 아니다 — 구조적인 문제다. 모델은 정확성이 아닌 일관성을 위해 최적화되어 있다.

캡션, 작가 노트, 캐릭터 설정 등 공개적인 맥락에서 AI가 생성한 텍스트를 사용하는 사람은 누구나 모델이 생성한 내용을 검증할 편집 책임을 진다. 챗봇은 초안 작성 도구다. 증인이 아니다.

Caldwell의 도박은 면밀한 검토를 버텨내기 어려울 것이다. 조사관과 언론인들은 어떤 챗봇도 본 적 없는 원본 문서를 읽을 수 있기 때문이다. 그러나 이 사건은 새로운 임계점을 표시한다. AI가 생성한 텍스트가 공개적으로, 공직자에 의해, 공식적인 무죄 증거로 활용된 것이다. 이 임계점은 다시 넘어질 것이다.