AI시대일 수록 컴퓨터 구조론은 익혀야
뭐 아래 분쟁에서 어쩌고 하긴 했지만
현실적으로 AI를 아예 안쓸 수는 없습니다.
특히 프론트의 경우는 html 확장자로 빈 파일 만들어서
프롬프트(질문글) 던져서 1차 작업하고, 몇 가지 수정과 주석 달라고 던져주면서 2차 작업 시키면
html 은 어느정도 가독성이 나오는데다, 프론트엔드 파트라 위험성이 비교적 덜해서
초보자가 검토하기도 어렵지 않습니다.
설정 잘 하실 수 있는 분은 에이전트도 괜찮다고 생각합니다.
저도 생각이 바뀔수가 있어요. GPT 5.5부터는 추론도 꽤 쓸만 해져서 저도 토이플젝부터 사용범위를 넓혀쓰고 있습니다.
(실제 서비스 유지보수는 아직 플러그인으로만.)
뭐 그건 그렇다 치고 본론으로 넘어와서
문제는 백엔드인데
지금의 AI 서비스가 어떤 원리로 동작하는지 정도는 알아야 합니다.
일단 이 글의 주제는,
어떤 AI 기능을 썼을 때,
어떤 값들이 어디로 전송이 되는지 정도는 알고 써야 된다는 겁니다.
OpenAI 의 GPT 에 프롬프트(질문글)를 날린다는 건
님의 컴퓨터는 프롬프트 던지고, 결과 받아오는 역할밖에 안해요.
실제 AI 머리굴리는 건 AI 서비스가 돌아가는 데이터 센터에 있는 서버들입니다.
(에이전트나 스킬 넣었으면 실제 조작을 할 수는 있지만 여하튼 그 결정권은 AI 서버에서 결정되어 내려오는 것이죠.)
다른글에서도 사례를 얘기했지만
DB툴로 코덱스 쓰신다는 분을 봤습니다.
DB툴로 써먹는다는 건, 가령 조회를 한다는 건
조회 대상 DB 데이터들이 AI 서비스 서버들로 모조리 전송이 된 다음
답변글로 바뀌어 다시 다운로드가 된다는 뜻입니다.
운영DB에, 주민등록번호나 CI값을 사용하는 서비스라면?
주민등록번호들이 모조리 OpenAI의 서버로 전송이 된다는 뜻입니다.
DB가 아니더라도 문제는 있는데
가령 SI의 흔하디 흔한 전자정부프레임워크
마찬가지로 흔하디 흔한 globals.properties
이거 암호화하는 곳이어도, 로컬에서는 귀찮다며 별도 파일 만들어서 적어놓는 곳 많죠.
이거 별다른 조치 안하고 에이전트 돌리면 어떻게 되겠습니까?
운영DB 계정 정보가 모조리 AI 서비스로 전송이 된다는 겁니다.
물론 제대로 쓰고계신 분들은 권한 설정을 해서 특정 파일과 서버에는 접근 못하게 막아놓고 쓰실 겁니다.
그런데, 이걸 세팅하는 방법 관련 글은 강의에서나 알려주지 공공으로 글 쓰는 사람은 거의 못봤습니다.
뭐 사실 누군가는 쓰고있지만, 조회수가 떨어져서 검색순위에 낮게 노출이 된거겠죠. 그야 재미없으니까요.
이게 위험한 게 초보자 분들입니다.
먼저 사전지식을 알고 써야 위험성을 이해할 수 있는데
저거 몰라도 그냥 대충 이거 만들어 쓰면 알아서 뚝딱 나오니까
내가 마치 잘하는 것 같고 도파민이 뿜뿜 하잖습니까.
특히나, OKKY는 가끔이지만, 유튜브는 심각합니다. 비개발자도 하루면 웹서비스 뚝딱 이런 글 비일비재 합니다.
하나 더
OpenAI나 클로드와 같은 쟁쟁한 AI 서비스들이 있는데
왜 오픈소스 모델들이 계속 나오고 있을까요?
중국이야 그렇다 쳐도 메타, 구글 같은 회사들도 오픈 모델을 계속 내놓고 있죠?
이것도 이 문제와 관련이 있습니다. 로컬 LLM 구축이 가능하다는 장점.
그리고 로컬 LLM이라면 프롬프트나 데이터가 로컬 LLM이 도는 컴퓨터로만 전송이 된다는 것.
