추천 피드의 래빗홀, 법률 대화형 검색에서도 생길까
EU 집행위원회의 TikTok 래빗홀 예비 판단을 원문 범위로 정리하고, 대화형 법률 검색에서도 비슷한 쏠림이 생길 수 있다는 가설을 어떻게 시험하고 평가할지 살펴봅니다.
초록 EU 집행위원회는 2026년 11월 TikTok 의 'For You' 피드가 이른바 '래빗홀 효과' 때문에 디지털서비스법(DSA)을 위반했다고 예비적으로 판단했습니다. 사용자가 특정 유형의 콘텐츠와 상호작용할수록 비슷한 콘텐츠를 더 추천하는 설계가, 슬픔·고립·신체 이미지 같은 콘텐츠에 끝없이 노출될 때 해로울 수 있다는 것이고, 예비 판단은 위험 평가와 완화 조치 모두를 다룹니다. 이 칼럼은 이 판단이 법률 AI 에 관해 무엇을 말해 주는지가 아니라, 대화형 법률 검색에도 비슷한 되먹임 구조가 생길 수 있는지를 검증 전 설계 가설로 검토합니다. 법률 RAG 에서 같은 현상이 관찰됐다는 자료는 원천에 없습니다.
추천 피드의 래빗홀은 사용자의 반응이 다음 추천을 정하고, 그 추천이 다시 반응을 끌어내는 고리에서 생깁니다. 대화형 법률 검색도 앞선 질문과 답이 다음 검색어를 바꾸는 구조를 가질 수 있습니다. 예컨대 사용자가 한쪽 주장에 유리한 판례만 거듭 묻는다면, 대화 맥락을 많이 반영하는 검색일수록 그 방향의 자료가 계속 앞에 올 수 있습니다. 다만 이것은 구조가 닮았다는 데서 출발한 가설입니다. 소셜 피드와 법률 검색은 목적도, 사용자도, 결과의 쓰임도 다르고, EU 의 판단은 TikTok 에 관한 예비 판단일 뿐입니다. 이 글은 그 가설을 어떻게 시험할지에 초점을 둡니다.
핵심 기술 개념
래빗홀 효과 (Rabbit Hole Effect)
사용자가 어떤 유형의 콘텐츠와 상호작용할수록 추천 알고리즘이 비슷한 콘텐츠를 더 보여 주어, 반복적이고 끝없는 노출로 이어지는 현상을 EU 집행위원회가 부른 말입니다. 이번 예비 판단은 TikTok 'For You' 피드에 관한 것입니다.
대화 맥락 반영 검색 (Context-conditioned Retrieval)
앞선 대화 내용을 반영해 다음 검색어나 검색 결과의 순위를 정하는 방식을 이 칼럼에서 부르는 말입니다. 구현마다 맥락을 반영하는 정도와 방법이 다릅니다.
반대 자료 탐색 (Counter-evidence Retrieval)
사용자가 찾는 결론과 반대되거나 그 결론을 제한하는 판례·조문도 함께 찾아 보여 주는 설계를 이 칼럼에서 부르는 말입니다. 효과는 직접 재 보아야 하는 가설입니다.
기술 심층 분석
EU 가 문제 삼은 것은 무엇인가
집행위원회의 발표에 따르면 TikTok 'For You' 피드는 개인화된 영상을 끊임없이 보여 주는데, 그 영상이 정신 건강의 어려움이나 신체 이미지와 관련된 경우에도 그렇습니다. 사용자가 특정 유형의 콘텐츠와 더 많이 상호작용할수록 알고리즘이 비슷한 콘텐츠를 더 추천하고, 그런 콘텐츠에 끝없이 반복 노출되는 것이 해로울 수 있다는 것이 판단의 요지입니다. 예비 판단은 위험 평가와 완화 조치 양쪽을 다룹니다. 아직 최종 결정이 아니라는 점, 그리고 대상이 초대형 온라인 플랫폼의 추천 피드라는 점을 먼저 확인해 둘 필요가 있습니다.
법률 대화형 검색과 닮은 점, 다른 점
닮은 점은 되먹임 구조입니다. 대화 맥락을 많이 반영하는 검색에서는 사용자가 앞서 강조한 사실이나 주장이 다음 검색의 방향을 정할 수 있습니다. 다른 점도 분명합니다. 법률 검색의 사용자는 대개 특정 문제의 답을 찾고 있고, 시간을 끄는 것이 아니라 끝내는 것이 목적입니다. 결과도 영상 시청이 아니라 판단의 근거로 쓰입니다. 그래서 같은 위험이 같은 크기로 생긴다고 볼 근거는 없습니다. 실제로 생기는지, 생긴다면 어떤 질문에서 생기는지는 대화 기록을 두고 따로 재야 합니다.
가설을 시험하는 방법
시험은 비교로 설계할 수 있습니다. 같은 사안에 대해 한쪽 결론을 거듭 강조하는 대화와 중립적인 대화를 만들고, 각 단계에서 검색된 판례·조문이 어느 쪽 결론을 뒷받침하는지 사람이 분류합니다. 대화가 길어질수록 한쪽 자료의 비중이 늘어나는지, 그리고 그것이 최종 답변의 결론과 근거에 영향을 주는지를 보는 것입니다. 비중이 늘어난다는 것만으로 문제라고 할 수는 없습니다. 사용자가 실제로 그 방향의 자료를 원했을 수도 있기 때문입니다. 핵심은 반대 자료가 필요한 질문에서 그것이 빠졌는지입니다.
반대 자료를 보여 주는 설계와 그 한계
가설이 맞는다면 대응으로는 반대되거나 결론을 제한하는 자료를 함께 찾아 보여 주는 설계를 생각할 수 있습니다. 예컨대 사용자가 채무가 소멸했다고 주장하면 소멸을 막는 사유에 관한 자료도 함께 확인하는 식입니다. 그러나 반대 자료를 기계적으로 끼워 넣으면 사안과 무관한 법리가 섞일 수 있고, 어떤 자료가 '반대'인지 분류하는 일 자체가 틀릴 수 있습니다. 또 자료가 다양해진다고 결론이 정확해지는 것도 아닙니다. 그래서 이 설계는 다양성이 아니라 최종 답변의 정확성으로 평가해야 합니다.
기술적 트레이드오프
긴장 관계 대화 맥락을 많이 반영하면 사용자의 상황에 맞는 자료를 찾기 쉬워지지만, 사용자가 이미 기운 방향으로 검색이 쏠릴 수 있습니다. 반대로 맥락을 덜 반영하면 쏠림은 줄어도 관련성이 떨어질 수 있습니다.
실무적 해소 어느 쪽이 나은지는 미리 단정하지 않고, 질문 유형별로 나눠 재는 편이 현실적입니다. 특히 결론이 갈리는 쟁점에서는 반대 자료가 함께 검색됐는지와 최종 답변의 오류율을 함께 보고, 맥락 반영의 정도는 그 측정 결과에 따라 정해야 합니다. 측정 없이 특정 비율을 정해 두는 것은 근거가 없습니다.
이 주장이 틀리는 조건
반증 조건 한쪽 결론을 거듭 강조하는 대화와 중립적인 대화를 비교했을 때, 대화가 길어져도 검색 자료의 쏠림이 나타나지 않거나, 쏠림이 있어도 최종 답변의 결론과 근거의 정확성에 차이가 없다는 결과가 충분한 사례에서 나온다면, 법률 대화형 검색에서 래빗홀을 걱정해야 한다는 이 칼럼의 가설은 근거를 잃습니다. 또 반대 자료를 함께 보여 주는 설계가 정확성을 높이지 못한다면 그 설계를 쓸 이유도 약해집니다.
법마디 OS에 적용한다면
법마디 OS 는 답변 속 조문·판례 인용을 국가법령정보센터 원문과 대조해 확인되지 않은 인용은 내보내지 않도록 설계돼 있습니다. 이 장치는 인용이 실재하고 문구가 맞는지를 확인하는 것이므로, 인용 원문 대조만으로 검색 자료의 편향 여부나 답변의 정확성까지 확인됐다고 볼 수는 없습니다. 판례·조문 조회 도구(MCP)는 외부 이용자가 쓰는 조회 표면이고 이 내부 대조와는 별개입니다. 이 칼럼의 가설을 확인하려면 먼저 위에서 말한 비교 시험으로 쏠림이 실제로 있는지부터 재야 하며, 그 전에 특정 설계를 도입한다고 말할 근거는 없습니다.
기술적 함의
- EU 의 래빗홀 판단은 TikTok 추천 피드에 관한 예비 판단이다. 법률 대화형 검색에 같은 현상이 있다는 증거는 아니다.
- 대화 맥락이 검색을 한쪽으로 쏠리게 하는지는 대화를 비교하는 시험으로 직접 재야 하는 가설이다.
- 반대 자료를 함께 보여 주는 설계는 다양성이 아니라 최종 답변의 정확성으로 평가해야 한다.
"다른 분야의 경고를 가져올 때는 닮은 구조에서 출발하되, 그 위험이 정말 있는지부터 재는 것이 순서입니다."
