[OK AI ⑤] 알고리즘이 키우고 AI가 증폭했다…‘분노 확산’의 구조

알고리즘은 규칙, AI는 학습…추천 구조가 여론을 바꿨다
반응 최적화가 만든 부작용…혐오·극단 콘텐츠 더욱 확산
미얀마 사태부터 차별 논란까지…플랫폼 책임 논쟁 본격화

[마이데일리 = 박성규 기자] 알고리즘은 더 이상 단순한 기술이 아니다. 우리가 무엇을 보고, 무엇을 믿고, 누구에게 분노할지를 정하는 보이지 않는 ‘편집자’가 됐다.

알고리즘과 AI는 종종 비슷한 의미로 쓰이지만 역할은 다르다. 알고리즘은 문제를 해결하기 위한 규칙과 절차를 뜻하고, AI는 데이터를 학습해 판단을 고도화하는 기술이다. 오늘날 플랫폼 추천 시스템은 이 두 개념이 결합된 구조다. 알고리즘이 노출의 기본 틀을 만들고, AI가 이용자 반응을 학습하며 콘텐츠 배열을 계속 바꾸는 방식이다.

문제는 이 결합 구조가 ‘진실’보다 ‘반응’을 더 강하게 좇도록 설계돼 있다는 점이다. 좋아요, 댓글, 공유, 클릭, 체류시간 같은 신호가 핵심 기준이 되면서 자극적인 정보가 더 널리 확산될 수 있는 구조가 만들어졌다.

◇ ‘반응’이 기준이 된 추천 시스템

대표 사례는 페이스북 내부 문건이다. 2021년 공개된 자료에 따르면 페이스북은 일부 시기 ‘분노’ 반응을 일반 ‘좋아요’보다 더 강한 신호로 취급했다. 내부 연구에서도 분노와 조롱 같은 감정 반응이 허위정보나 독성 콘텐츠에서 더 자주 나타난다는 점이 확인됐다. 내부 고발자 프랜시스 하우건은 2021년 10월 미국 의회 증언에서 플랫폼이 안전보다 이익을 우선하면서 분열과 극단화를 키웠다고 지적했다.

유튜브 추천 알고리즘도 비슷한 논란을 겪어왔다. 시청 기록과 이용자 반응을 기반으로 콘텐츠를 이어 보여주는 구조가 편의성을 높이는 동시에 정치·사회 이슈에서는 더 자극적인 콘텐츠로 이어질 수 있다는 지적이다.

다만 이 영향에 대해서는 학계에서도 의견이 엇갈린다. 일부 연구는 추천 알고리즘이 이용자 성향을 강화하는 경향이 있다고 분석한 반면 다른 연구는 구독 구조와 기존 관심이 더 큰 영향을 미친다고 본다. 알고리즘이 극단화를 직접 만든다기보다, 이미 존재하는 관심과 성향을 강화하는 역할을 한다는 해석이 우세하다.

◇ 온라인에서 현실로 이어진 영향

알고리즘의 위험성이 온라인을 넘어 현실로까지 확산될 수 있다는 점이 더 큰 우려다. 실제로 2018년 유엔 조사단은 페이스북 알고리즘이 혐오 표현을 걸러내지 못하고 오히려 증폭시키면서 미얀마 로힝야 사태의 폭력과 탄압을 부채질했다고 분석한 바 있다.

또 다른 위험도 도사리고 있다. 알고리즘이 사회적 편견을 그대로 학습하면서 특정 집단에 대한 구조적 차별의 고착화로 이어질 수 있다는 점이다. 미국 국립표준기술연구소(NIST)는 얼굴인식 알고리즘의 오류율이 인종과 성별에 따라 차이를 보인다고 분석했다.

아마존 역시 과거 AI 채용 도구가 여성 지원자에게 불리하게 작동하자 이를 폐기했다. 금융과 의료 분야에서도 일부 연구에서 특정 집단에 불리한 결과가 나타난 사례가 보고됐다. 알고리즘이 중립적으로 보이는 지표를 사용하더라도 그 지표 자체가 사회 구조의 영향을 받을 수 있다는 점이 문제로 지적된다.

한국도 예외는 아니다. 국내 뉴스 소비는 포털과 유튜브 의존도가 높고, 이용자는 기사 출처보다 알고리즘이 먼저 띄운 콘텐츠를 접하는 경우가 많다. 무엇이 중요한 정보인지보다 무엇이 먼저 노출되는지가 여론 형성에 더 큰 영향을 미치는 구조다. 실제로 포털 뉴스 배열과 추천 방식에 대한 불신이 커지면서 일부 서비스가 개편되기도 했다.

◇ 규제는 뒤따라가는 단계

규제는 뒤늦게 따라가고 있다. 유럽연합(EU)은 디지털서비스법(DSA)을 통해 플랫폼이 추천 시스템 기준을 설명하도록 요구하고 있다. 이용자가 알고리즘 추천 방식을 선택할 수 있도록 하는 장치도 포함됐다. AI법 역시 고위험 AI와 범용 AI에 대한 책임을 단계적으로 강화하고 있다. 반면 미국은 플랫폼 책임을 둘러싼 소송 중심으로 논의가 진행 중이고, 한국은 관련 제도가 아직 초기 단계에 머물러 있다.

알고리즘 문제의 본질은 정보 자체가 아니라 노출 구조다. 무엇을 지우느냐보다 무엇을 더 많이 보여주느냐가 더 큰 영향을 미친다. 알고리즘은 세상을 있는 그대로 보여주지 않는다. 반응이 큰 일부를 골라 더 크게 보여줄 뿐이다.

한 AI 업계 관계자는 “알고리즘은 중립적인 계산처럼 보이지만 실제로는 플랫폼의 목표와 데이터의 편향이 반영된 결과”라며 “앞으로는 어떤 콘텐츠를 지웠느냐보다 어떤 기준으로 더 많이 노출했는지를 설명하는 책임이 더 중요해질 것”이라고 말했다.

박성규 기자 psk@mydaily.co.kr
- ⓒ마이데일리(www.mydaily.co.kr). 무단전재&재배포 금지 -