미 대법원장 "AI 사용 주의·겸손 필요"

존 로버츠 미 대법원장 (자료사진)

 

존 로버츠 미 연방 대법원장은 2023 연말 보고서를 통해 법조계가 AI 기술을 사용하는 데 있어 “주의와 겸손(caution and humility)”이 필요하다고 강조했습니다

진행자) 미 연방 대법원장이 인공지능(AI)에 관해 언급했군요?

기자) 네, 존 로버츠 대법원장은 지난달 31일 발표한 2023년 연말 대법원 보고서에서 AI의 양면성에 관해 언급했습니다. 로버츠 대법원장은 “AI는 법조계에 혼합된 축복을 가져다준다”며 진화하는 기술이 판사와 변호사들의 업무 방식을 변화시키는 만큼, “주의와 겸손”이 필요하다고 강조했습니다.

진행자) 그러니까 AI가 법조계에 도움이 될 수 있지만, 부정적인 영향도 줄 수 있다는 건가요?

기자) 맞습니다. 로버츠 대법원장은 13쪽에 달하는 보고서에서 AI는 가난한 소송 당사자들의 사법 접근성을 높이고, 법률 연구에 혁명을 일으키는 한편, 더 신속하고 저렴한 비용으로 법원이 사건을 해결하는 데 도움을 줄 가능성이 있다고 밝혔습니다. 하지만 AI 사용 증가로 인해 개인정보 보호에 어려움이 있고 인간의 재량을 따라올 수 없는 기술적 한계가 있으며, AI로 인한 진위 논란 역시 커지고 있음을 지적했습니다.

진행자) 요즘 AI 기술을 보면 워낙 정교해서요. 이게 진짜인지 가짜인지 구별하기 힘든데, 이런 기술이 법정에서도 쓰인다는 건가요?

기자) 그렇습니다. 로버츠 대법원장은 일부 변호사들이 AI를 활용해 법원 기록에 존재하지 않는 판례를 인용하고 있는 사례가 있다고 언급했습니다. 그러면서 AI가 거짓 정보를 사실인 양 지어내는 ‘환각 현상(hallucination)’은 “올해 헤드라인을 장식했다”고 말했습니다. 이에 대한 자세한 설명은 하지 않았지만, 도널드 트럼프 전 대통령 관련 재판 과정에서 나온 AI 논란이 대표적인 예라고 하겠습니다. 한때 트럼프 전 대통령의 개인 변호사였던 마이클 코언 씨는 최근 공식 재판 과정에서 자신의 변호사에게 전달한 서류에 실수로 AI가 만든 가짜 판례가 포함됐었다고 밝힌 바 있습니다.

진행자) 법정에서도 이제 AI 기술을 규제해야 할 때가 된 것 같군요?

기자) 맞습니다. 이에 지난달 뉴올리언스 연방항소법원은 ‘챗GPT’ 같은 생성형 AI 도구의 사용을 규제하는 규칙을 제정했습니다. 변호사들이 법률 문건을 작성하는 데 AI에 의존하지 않은 점, AI가 작성한 텍스트의 정확성을 인간이 검토했음을 증명해야 하는데요. 미국 13개 항소법원 가운데 AI 규제와 관련해 나온 첫 제안이라 화제가 됐습니다.

진행자) 일각에서는 AI 기술이 발달하면 판사도 없어질 것이다, AI가 데이터를 바탕으로 판결을 내릴 것이다, 이런 말도 있거든요?

기자) 맞습니다. 하지만 로버츠 대법원장은 사실에 관한 한 이른바 ‘회색지대’가 존재한다며, AI의 기술로는 판단할 수 없는, 사람인 판사만 진실성을 간파할 수 있는 부분이 있다고 말했습니다. 따라서 인간 판사가 한동안 존재할 것으로 확신했는데요. 하지만 동시에 사법 업무, 특히 재판은 AI의 영향을 크게 받을 것으로 예측된다고 밝혔습니다.

美대법원장 “AI 활용 장점 있지만 ‘인간 판사’만의 역할 존재”

 

존 로버츠 미국 연방대법원장(사진)이 “인공지능(AI)이 법조계에 혼합된 축복을 가져다준다”며 AI 사용 시 ‘신중함’과 ‘겸손’이 필요하다고 강조했다. AI가 서민의 사법 접근성을 높이고 시간과 비용을 단축시켜 주는 장점이 있지만 콘텐츠 진위 논란, 개인정보 미보호 등의 우려가 크고 인간 판사만이 할 수 있는 역할 또한 분명히 존재한다는 것이다. 이에 AI 활용이 확산돼도 판결의 영역은 인간이 맡을 것으로 예상했다.

로버츠 대법원장은 지난해 12월 31일 발표한 2023년 연례 연말 대법원 보고서에서 AI 사용의 양면성을 짚었다. 그는 AI가 가난한 소송 당사자의 사법 접근성을 높이고, 법원이 사건을 더 빠르고 저렴하게 해결하는 데 도움을 줄 수 있는 잠재력을 가지고 있음을 인정했다. 복잡한 법률 관련 서류를 어디에서 찾고, 어떻게 찾아야 하는지에 관해 쉽게 답해줄 수 있으며 각종 법률 연구에도 긍정적인 효과를 끼칠 것으로 내다봤다.

동시에 그는 AI가 만든 콘텐츠의 진위 논란이 계속된다는 점을 우려했다. 도널드 트럼프 전 대통령의 최측근이었다가 각종 소송 등으로 결별한 마이클 코언은 최근 구글의 AI 챗봇 ‘바드’로 만든 판례 인용문을 법원에 제출했다가 가짜 판례임이 확인돼 결국 모든 사실이 들통났다. 이처럼 일부 변호사가 AI를 활용해 존재하지 않는 판례를 인용하는 사례가 속출하고 있다.

 

이로 인해 최근 루이지애나주 뉴올리언스의 연방 항소법원은 ‘챗GPT’ 같은 생성형 AI의 사용을 규제하는 규칙을 제정했다. 이 규칙에 따르면 변호사는 법률 문건 초안을 작성하기 위해 AI에 의존하지 않았고, AI가 생성한 텍스트의 정확성을 인간이 검토했다는 점을 증명해야 한다.

아울러 로버츠 대법원장은 “법적 결정은 종종 인간의 판단을 적용해야 하는 ‘회색 영역’을 포함한다”며 판사만이 선고 시 피고인 발언의 진실성을 평가할 수 있다고 했다. 피고인의 떨리는 손과 목소리, 억양 및 표정의 변화, 땀방울, 순간의 망설임, 눈맞춤 등의 미묘한 차이는 오직 인간 판사만이 간파할 수 있다는 주장이다. AI 사용 증가로 사생활 침해가 늘어나고 법을 비인간화할 수 있다는 위험 또한 존재한다고 우려했다.

 

美대법원장 “AI 활용 장점 있지만 ‘인간 판사’만의 역할 존재”｜동아일보 (donga.com)

美대법원장 “AI 활용 장점 있지만 ‘인간 판사’만의 역할 존재”