연구 결과: AI 도구가 소셜미디어 글을 ‘다듬는’ 과정에서 의견을 조용히 바꿀 수 있음

• AI 편집 도구의 의미 보존 조건에서도 방향성 변화

  • 최근 소셜미디어 글 작성을 AI 도구에 맡기면 문법 교정 이상의 변화가 생길 수 있음

    • AI 모델이 원래 의미를 바꾸지 말라는 지시를 받아도 게시물의 논조를 논쟁의 한쪽으로 밀 수 있음

• 논쟁적 주제별 일관된 재작성 편향

  • 「AI-Mediated Communication Can Steer Collective Opinion」 연구는 여러 제공사의 대규모 언어 모델에 사람이 쓴 논쟁적 주제 게시물을 다시 쓰게 함

    • 페미니즘·마리화나 합법화 관련 글은 해당 의제에 더 우호적인 방향으로 재작성됨

    • 총기 규제 관련 글은 제한 지지 쪽으로 더 단호해짐

    • 무신론·사형제 관련 글은 원문보다 더 회의적이거나 비판적인 톤으로 바뀜

  • 여러 회사의 모델에서 같은 패턴이 나타나 단일 시스템의 특이 현상은 아니라는 해석

    • 프롬프트 구성에 따라 AI 챗봇이 내집단을 외집단보다 선호할 수 있음이라는 별도 연구와도 맞물림

• 네트워크 규모 확산 시 커뮤니티 의견 변화

  • 연구팀은 X와 Facebook에서 가져온 데이터로 AI 편집이 실제 소셜미디어 네트워크에 퍼지는 효과를 모델링함

    • AI가 편집한 게시물 1개만으로는 영향이 거의 없음

    • 같은 유형의 편집이 수백만 개 게시물에 적용되면 시간이 지나며 커뮤니티 의견에 측정 가능한 변화 발생

    • 대규모 합의 조작에 AI가 쓰일 수 있음을 다룬 연구에 추가되는 결과

• Grok 기능에서 확인된 단일 지시문 편향

  • 연구팀은 Grok 기반 X의 “Explain this post” 기능으로 가설을 검증함

    • 낙태 관련 게시물 설명에서 옹호 프레이밍보다 생명 존중 프레이밍에 더 공감적인 경향 확인

    • 기능의 내부 지시문을 하나씩 제거하며 원인을 역추적함

    • “필요하다면 주류 서사에 도전하라”는 한 줄만 남았을 때도 편향이 도입됨

• 현행 규제의 사각지대

  • EU AI Act와 Digital Services Act 같은 프레임워크는 유해 콘텐츠와 시스템적 위험을 다룸

    • 챗봇이 편집·요약 중 선택하는 단어가 사람의 믿음을 조용히 형성하는 문제는 직접 다루지 않음

    • Sandra Wachter는 AI 매개 커뮤니케이션이 의견에 영향을 주는 새롭고 더 미묘한 방식이며 법이 아직 따라잡지 못한 영역이라고 지적

    • 현재로서는 어떤 의견이 사람의 표현에서 온 것인지, 보이지 않는 숨은 프롬프트에서 온 것인지 알 방법 없음

^{source https://www.digitaltrends.com/social-media/ai-tools-can-quietly-shift-your-opinions-when-they-clean-up-your-social-media-posts-study-finds/}