“알고리즘을 길들인다”… 이용자의 ‘AI 조작 의도’ 선행요인 첫 실증 분석
- 2026.09.03
[사진. (왼쪽부터) 경영대학 김태영 박사, 임일 교수]
온라인 플랫폼 이용자는 추천 결과를 그대로 받아들이는 데 그치지 않고, 원하는 콘텐츠를 더 많이 추천받기 위해 알고리즘에 의도적인 신호를 보내기도 한다. 특정 목적을 가지고 일부러 실제 관심이 크지 않은 콘텐츠를 클릭하거나 원하지 않는 콘텐츠에는 싫어요나 ‘관심 없음’으로 반응하는 식이다.
경영대학 임일 교수와 김태영 연구원은 추천 결과를 바꾸기 위해 이러한 신호를 보내는 행위를 ‘AI 조작 행동’으로 정의하고, 이용자의 알고리즘 지식과 플랫폼 상호작용 인식이 향후 이러한 행동을 하려는 의도와 어떻게 연결되는지 분석했다. 여기서 조작은 해킹이나 공격이 아니라 더 나은 개인화 결과를 얻기 위해 입력 신호를 전략적으로 조정하는 행동을 뜻한다.
AI 추천 플랫폼에서 클릭과 좋아요는 보통 콘텐츠에 대한 관심이나 선호의 표시로 해석된다. 그러나 같은 행동이라도 콘텐츠 자체에 대한 평가가 아니라 이후 추천 결과를 바꾸기 위한 목적으로 이뤄질 수 있다. 예를 들어 이용자는 비슷한 주제의 영상을 더 많이 보기 위해 관심이 크지 않은 영상에도 좋아요를 누르거나 특정 채널을 팔로우할 수 있다.
연구팀은 AI 조작 행동이 이용자의 목적과 기대를 포함한다는 점에서 일반적인 플랫폼 이용과 다르다고 설명했다. 기존 연구가 적대적 공격이나 알고리즘의 기술적 취약성 등에 주로 주목했다면, 이번 연구는 일상적인 플랫폼 환경에서 일반 이용자가 AI를 조작하려는 심리적 선행요인과 행동 유형별 차이를 실증적으로 살폈다.
연구팀은 마케팅과 소비자 행동 분야의 ‘설득 지식 모델(Persuasion Knowledge Model)’을 AI 추천 시스템에 적용했다. 이번 연구에서 설득 지식은 추천 알고리즘의 작동 방식과 개인화 원리를 얼마나 잘 이해하고 있다고 인식하는지를 뜻한다. 연구팀은 이러한 지식이 알고리즘의 개인화, 통제 가능성, 반응성에 대한 인식인 ‘지각된 상호작용성’과 조작 의도에 연결될 것으로 봤다.
조사는 2022년 9월 국내 온라인 리서치 패널을 대상으로 진행됐다. 참여자 364명 가운데 응답 충실도 테스트를 통과하지 못한 131명을 제외하고, 유튜브 이용자 119명과 인스타그램 이용자 114명 등 총 233명의 응답을 분석했다. 연구팀은 부분 최소제곱 구조방정식 분석으로 설득 지식, 지각된 상호작용성, 지각된 편익과 비용, 조작 의도 사이의 관계를 검증하고 지식 수준별 행동 의도도 비교했다.
분석 결과, 설득 지식은 지각된 상호작용성과 뚜렷한 정적 관계를 보였다. 자신이 알고리즘을 잘 이해한다고 평가할수록 추천 결과가 개인화돼 있고, 자신의 행동으로 시스템에 영향을 줄 수 있으며, 알고리즘이 자신의 입력에 반응한다고 인식하는 경향이 나타났다. 지각된 상호작용성이 높을수록 조작을 통해 얻을 편익은 크게, 필요한 시간과 노력 등 비용은 낮게 평가했다.
AI 조작 의도에 대한 직접효과는 편익 인식이 가장 컸다. 지각된 비용은 조작 의도와 부적 관계를, 설득 지식은 정적 관계를 보였으며, 연구모형은 조작 의도 변동의 41.9%를 설명했다. 즉 이용자는 알고리즘을 이해하고 자신의 행동으로 추천 결과에 영향을 줄 수 있다는 것에 더해, 그 행동으로 더 나은 추천을 받을 수 있다고 판단할 때 조작 의도를 높이는 것으로 나타났다.
설득 지식 수준을 낮음·중간·높음으로 나눠 비교한 결과, 네 가지 행동 의도 모두 집단별 차이가 나타났다. 낮은 지식 집단보다 높은 지식 집단에서 팔로우 의도는 유의미하게 높아졌다. 특히 좋아요를 누르거나 팔로우할 의도는 높은 지식 집단이 중간 집단보다도 유의하게 높아, 알고리즘 지식 수준에 따른 차이가 더 뚜렷했다.
추가 분석에서는 전반적인 AI 조작 의도가 클릭, 좋아요, 팔로우 의도와 직접적으로 연결됐다. 싫어요를 누를 의도와의 직접적인 유의 관계가 나타나지 않았지만, 클릭 의도를 거치는 간접 경로는 확인됐다. 이는 클릭이 단순한 콘텐츠 관심 표현을 넘어 이후 추천을 조정하기 위한 전략적 상호작용의 출발점이 될 수 있음을 시사한다.
이번 연구는 AI 조작을 기술적 취약성이나 결과의 왜곡만으로 보지 않고, 이용자가 알고리즘을 이해하고 상호작용하는 방식에서 출발해 설명했다. 또한 광고와 소비자 행동 연구에서 활용돼 온 설득 지식 모델을 AI 추천 시스템에 적용해, 설득 지식이 상호작용 인식, 편익과 비용 평가를 거쳐 조작 의도와 연결되는 경로를 제시했다.
연구 결과는 클릭, 좋아요, 싫어요, 팔로우 같은 반응이 언제나 실제 콘텐츠 선호만을 뜻하지는 않는다는 점을 보여준다. 같은 행동도 추천 결과를 바꾸려는 전략적 신호일 수 있으므로, 플랫폼은 이용자 반응을 해석하고 추천 시스템을 설계할 때 행동의 맥락과 목적을 함께 고려할 필요가 있다. 알고리즘 이해도가 높아지면 조작 의도도 높아진다는 점도 중요한 시사점이다.
다만 이번 연구는 자기보고식 설문으로 실제 행동이 아닌 행동 의도를 측정했으며, 유튜브와 인스타그램 이용자만을 대상으로 했다. 따라서 연구 결과를 실제 플랫폼 행동이나 다른 서비스에 그대로 일반화하는 데에는 주의가 필요하다.
연구팀은 “향후 전자상거래 플랫폼과 대화형 AI 등 다른 환경에서도 유사한 전략적 상호작용이 나타나는지 추가로 검증할 필요가 있다”고 말했다.
기사 작성: JSC 남경수(산업공학 23)·조아현(경영 20)·정수빈(불어불문 21) 학생