대부분은 평생 쓸 일 없을, ChatGPT의 가장 좋은 신기능

• ChatGPT를 둘러싼 가장 큰 화제는 오랫동안 "무엇을 할 수 있나"였음.

  • 웹 탐색, 문서 분석, 앱 연결, 리서치 수행, 점점 더 많은 대리 작업까지 가능해졌음.

  • 하지만 AI 시스템의 역량이 커질수록, AI 비서가 속아서 넘기면 안 되는 정보를 내보내는 상황을 어떻게 막을지가 더 피하기 어려운 질문이 됐음.

• OpenAI의 새 Lockdown Mode는 그 문제에 대한 최신 대응책임.

  • 모든 ChatGPT 계정 유형에서 사용할 수 있는 선택형 보안 설정임.

  • 민감한 정보를 다루는 개인과 조직을 위한 기능임.

  • 대가도 분명함. 특정 데이터 탈취 방식에 대한 보호는 더 강해지지만, ChatGPT의 가장 강력한 기능 일부는 쓸 수 없게 됨.

ChatGPT - Lockdown Mode

• Lockdown Mode의 핵심 목적은 프롬프트 인젝션 공격으로 인한 데이터 유출 위험 축소임.

  • 프롬프트 인젝션은 AI 시대에서 가장 까다로운 보안 문제 중 하나로 떠올랐음.

  • 소프트웨어를 직접 공격하는 대신, 악성 지시를 문서, 웹사이트, 스프레드시트, 이메일, 그 밖에 AI가 처리할 수 있는 콘텐츠 안에 숨기는 방식.

  • 모델이 그 숨겨진 지시를 따르면 공격자가 동작을 조작할 수 있음.

• Lockdown Mode가 콘텐츠 안에 프롬프트 인젝션이 나타나는 것 자체를 막지는 않음.

  • 악성 지시는 업로드한 파일 안이나 캐시된 웹페이지 안에 여전히 들어 있을 수 있음.

  • Lockdown Mode가 막으려는 대상은 마지막 단계, 그리고 잠재적으로 가장 피해가 큰 단계인 민감 정보의 외부 반출임.

  • 이를 위해 OpenAI는 ChatGPT가 자기 환경 밖과 통신할 수 있는 범위를 크게 제한함.

• 기능을 켜면 실시간 웹 브라우징은 사실상 꺼짐.

  • ChatGPT는 캐시된 콘텐츠에만 접근할 수 있어서 검색 결과가 제한되거나, 오래됐거나, 아예 나오지 않을 수 있음.

  • Deep Research는 사라지고, Agent Mode는 비활성화되며, Canvas가 생성한 코드를 통한 네트워크 접근도 차단됨.

  • 파일을 내려받아 분석하는 기능도 없어짐.

• 지원되는 환경에서는 이미지를 업로드하거나 AI 생성 비주얼을 만드는 일은 계속 가능함.

  • 다만 웹에서 이미지를 가져오거나 일반 응답 안에 이미지를 표시하지는 못함.

• 결과적으로 Lockdown Mode는 고도로 연결된 AI 비서를 훨씬 더 고립된 도구로 바꿔 놓음.

대부분에게는 필요 없는 기능

• 이 점 자체가 비판거리는 아님.

• Lockdown Mode에서 흥미로운 대목 중 하나는, OpenAI가 인정하듯 이 기능이 모두를 위한 설계가 아니라는 점을 꽤 공개적으로 드러낸다는 데 있음.

  • 보안 업계에서는 보호 수준이 강해질수록 편의성은 대체로 줄어든다는 점을 오래전부터 받아들여 왔음.

  • 가장 가까운 비교 대상은 몇 년 전 Apple이 도입한 Lockdown Mode로 보임.

  • Apple도 이 기능을 일반 iPhone 사용자가 아니라, 매우 정교한 사이버공격 위험에 놓인 사람들을 위해 만들었음.

  • OpenAI도 여기서 비슷한 접근을 취하는 것으로 보임.

• 매우 민감한 정보를 다루는 사용자라면 네트워크 요청을 줄이는 대가를 감수할 가치가 있을 수 있음.

  • AI 시스템이 외부 서비스와 자유롭게 상호작용하지 못하면, 기밀 정보가 환경 밖으로 빠져나갈 기회 자체가 줄어듦.

• 이번 조치는 AI 업계 전반의 더 큰 변화도 보여 줌.

  • 예전에는 AI가 더 많은 데이터와 더 많은 서비스에 접근할 수 있는지가 중심 화제였음.

  • 이제는 애초에 이런 시스템에 어느 정도 접근권을 줘야 하는지를 기업들이 묻기 시작함.

• 이 질문은 AI 비서가 웹사이트 탐색, 업무용 소프트웨어 연결, 내부 문서 읽기, 여러 서비스에 걸친 작업 수행 능력을 갖출수록 더 중요해짐.

  • OpenAI의 답은 그런 기능을 없애는 것이 아님.

  • 대신 사용자가 선택 가능함.

AI 보안 통제의 부상

• Lockdown Mode가 특히 눈에 띄는 이유는, AI 제품의 미래에 대해 무엇을 말해 주는지에 있음.

  • 소프트웨어 보안은 오랫동안 악성 프로그램으로부터 사람을 보호하는 데 초점을 맞춰 왔음.

  • AI는 다른 과제를 들이밀었음. 악성 프로그램이 아니라 악성 정보로부터 AI 시스템을 보호해야 함.

• 이 문제는 훨씬 더 지저분함.

  • 프롬프트 인젝션은 웹페이지 안에 숨을 수 있고, 문서 안에 삽입될 수도 있고, 평범한 텍스트로 위장할 수도 있음.

  • 가능한 모든 공격을 탐지하기는 어려워서, OpenAI도 프롬프트 인젝션을 이미 해결된 문제가 아니라 진행 중인 연구 과제로 설명함.

• Lockdown Mode는 그 현실을 인정함.

  • 완전한 보호를 주장하는 대신, 기존 방어를 뚫고 무언가가 들어왔을 때 발생 가능한 피해를 줄임.

• 엔터프라이즈 고객에게는 이 기능이 더 세밀해짐.

  • 워크스페이스 관리자가 맞춤형 Lockdown Mode 역할을 만들 수 있음.

  • 앱과 커넥터를 제한할 수 있음.

  • 직원이 수행할 수 있는 작업을 신중하게 결정할 수 있음.

  • OpenAI는 쓰기 권한이 있는 통합을 제한하라고도 권고하는데, 이런 통합은 정보가 신뢰된 환경 밖으로 나갈 기회를 만들기 때문임.

• 여러 면에서 Lockdown Mode는 AI 보안이 향하는 방향을 보여 주는 신호처럼 보임.

  • AI 비서가 더 강력해질수록, 필요할 때 그 힘을 줄일 수 있는 도구에 대한 수요도 커질 것임.

  • 새 추론 모델이나 항공편 예약까지 해 주는 AI 에이전트만큼 흥미롭지는 않을 수 있음.

  • 그러나 민감한 정보를 다루는 조직에는 훨씬 더 중요할 수 있음.

• 때로 가장 똑똑한 AI는 모든 것을 할 수 있는 AI가 아닐 수 있음.

  • 하지 말아야 할 때를 아는 AI임.

^{source https://www.digitaltrends.com/cool-tech/the-best-new-chatgpt-feature-is-one-most-people-will-never-use/}