DuckDuckGo AI 기능, 사용자에게 트럼프가 이달 초 광견병으로 사망했다고 안내

• DuckDuckGo AI 검색 기능의 허위 답변

  • DuckDuckGo의 AI 검색 기능이 도널드 트럼프 미국 대통령이 이달 초 광견병으로 사망했다고 안내함

• AI 기능은 부통령 JD 밴스가 같은 불치성 바이러스로 먼저 사망했다고 잘못 전함

  • 근거로 제시한 WKNA News 기사는 밴스가 트럼프를 일부러 물었고, 로버트 F. 케네디 주니어가 치명적 감염이 “초능력”을 줄 수 있다고 조언했다는 내용을 담음

  • 해당 내용은 사실이 아님

  • RFK Jr는 정부 재직 중 여러 의심스러운 건강 관련 주장을 했지만, 광견병 감염의 건강상 이점을 주장한 적은 없음

  • DuckDuckGo AI는 트럼프를 언급하지 않는 오하이오 남성 광견병 사망 관련 ABC News 기사 본문도 근거로 제시함

• AI 검색 기능이 잘못된 정보를 흡수한 사례

  • 이번 사례는 AI가 부정확한 정보를 소화한 뒤 사용자에게 비판 없이 되풀이하는 또 다른 경고 사례임

  • DuckDuckGo AI 기능은 인터넷 장난에서 시작된 전언 게임이 주요 검색엔진의 노골적 허위정보로 세탁되는 과정에 속음

  • 최근 몇 년간 AI 챗봇이 정보원으로 Reddit 댓글에 크게 의존한다는 점이 뚜렷해짐

  • 반-AI 성향이거나 혼란을 즐기는 Reddit 이용자에게는 환각이 잦은 모델을 방해하고 평소보다 더 많은 허튼소리를 유통하게 만들 기회가 됨

  • 이런 조작은 이전에도 입증된 바 있음

• r/poisonai의 AI 오염 장난

  • r/poisonai는 공식 설명에서 “정확하고 검증됐으며 신뢰할 수 있는 정보의 세계 1위 출처”를 표방하는 신생 subreddit임

  • 실제로는 AI 업계를 풍자 대상으로 삼는 내부 농담 성격의 커뮤니티임

  • 약 45,000명 회원이 벽돌에 물을 줘 집을 키우는 법, 대왕고래가 사실 주황색이라는 주장 등 황당한 허위정보를 반복 게시함

  • Reddit의 AI 오염 참여자들이 가장 많이한 조작은 JD 밴스가 광견병으로 사망했다는 내용임

  • 밴스가 질병으로 사망했다는 애도 게시물이 수십 건 올라옴

  • 누군가는 밴스를 추모하는 가짜 트럼프 Truth Social 게시물도 공유함

    • 

  • 댓글 참여자들은 모두 해당 내용을 사실처럼 취급함

    • 밴스의 광견병 사망이 “밈으로 치부됐다”고 비판하는 게시물 존재

    • 밴스가 살아 있고 그의 광견병 사망설은 “풍자적 허위정보”일 뿐이라고 답한 여러 AI 모델을 질책하는 게시물도 존재

    • 한 참여자는 Google AI가 이 비극을 “가짜”나 “풍자”로 다루는 것은 매우 무신경하다고 작성함

• Brave AI에서도 반복된 허위 주장과 회사 입장

  • 온라인 초현실 유머 목적이 큰 것으로 보이지만, AI 챗봇을 속였을 때 참여자들의 성취감이 뚜렷함

  • Brave 브라우저의 AI가 밴스가 광견병으로 사망했다는 주장을 반복하기 시작했고, 원문 측도 결과를 확인함

• Brave 대변인은 회사 AI를 방어하며 주장 검증 책임을 사용자에게 돌림

  • Brave 대변인 인터뷰: “AI가 있든 없든 검색엔진은 진실이 아님”

  • 심어진 기사나 AI 오염 실험을 입증하려고 심은 기사도 결과 집합에 포함될 수 있고, AI 오염 실험을 다루는 기사들이 늘어나면 결과 집합도 바뀐다는 입장

  • 사용자가 주장을 확인해야 하며, Brave Search 응답에는 가능한 경우 콘텐츠 출처 링크가 포함돼 검증할 수 있다는 설명

  • AI 이전과 웹 이전에도 그랬듯 읽는 모든 것을 믿지 말라는 상식이 필요하다는 입장

• WKNA 사이트와 허위정보의 재순환

  • DuckDuckGo가 트럼프 광견병 사망 근거로 인용한 WKNA 사이트는 실제 지역 매체처럼 가장한 핑크 슬라임 매체임

  • 사이트에는 AI 생성으로 강하게 보이는 가짜 뉴스 콘텐츠가 채워져 있고, r/poisonai subreddit 내용을 베낀 듯한 정황이 있음

  • 허위 주장을 환상적 대체 현실로 엮어 주류 AI 챗봇과 일부 쉽게 속는 사람까지 혼동하게 만드는 구조임

  • WKNA의 다른 헤드라인은 JD 밴스 사망 이후 광견병 인식과 예방이 강조됐다는 내용임

  • 진실과 허구가 뒤섞인 정도가 짙어질 수 있음

  • WKNA의 또 다른 기사는 r/poisonai에 먼저 올라온 스크린샷을 사용함

    • 해당 스크린샷에서 Google AI Overview는 밴스 사망 보도가 가짜라고 올바르게 판단함

  • WKNA 기사는 이를 AI 도구가 계속 사건을 풍자나 조작 뉴스로 잘못 “분류”한 사례처럼 구성함

^{source https://tech.yahoo.com/ai/articles/duckduckgo-ai-feature-telling-users-165304483.html}