AI 활용 시 주의할 사항

이전에도 썼지만

워낙 AI 사용이 보편화되고 있어서, 아는 사람은 다 압니다.

지금 AI는 프로그래밍에만 쓰이지 않습니다. 글작성, 문서작업에도 쓰이고, 구글 검색 대신 AI한테 물어보고, 그걸 믿는 시대가 됐습니다.

부동산에 투자할 때도 AI한테 물어보고, 주식 종목 선택할 때도 AI한테 물어보는 시대에 있습니다.

AI서비스가 정치에도 영향이 갑니다. 그야 검색 대신 AI한테 물어보고, 그걸 믿어버리니까요.

이제는 약 복용도 AI한테 물어본답니다.

서울아산병원 연구결과인데요

해커가 마음만 먹으면 임산부 낙태시키는 거 일도 아니라는 연구 결과입니다.

읽어보면 알겠지만, 이 취약점은 AI 프롬프트 인젝션 문제입니다.

이건 해커가 인젝션을 한 것이기 때문에 (프롬프트에 해커가 원하는 내용 끼워넣음)

사용자가 백날 가이드 해봤자 소용 없어요.

프롬프트로 통제 못합니다. 결과물을 갖고 직접 검증해야지.

그리고 현재의 AI 서비스들이 어떤 자료를 가지고 딥러닝 하는지 알잖습니까.

인터넷 블로그들, 커뮤니티 게시글들. 다 영향 받습니다.

그거 작성자들이 다 맞는 말만 썼나요? 아니죠.

애초 근거자료들 자체가 부실하면 AI가 성능 좋아봤자 뭔 소용이 있어요?

다시 돌아와서 제목에 대한 답을 해야죠.

AI 결과물을 그대로 믿어서는 안되고

그냥 참고자료 나왔구나 생각하고, 읽어서 좋은 것만 옮겨오거나 해야됩니다.

사실 개발자 대다수는 이미 이걸 하고 있습니다. 자동완성 코드도 회색으로 미리보일 때, 맘에 안들면 거절할 수 있죠.

일반인들은 그렇게 안쓰니까. 그리고 그렇게 안하니까 문제지.

다시 강조하는 부분

AI 서비스 사용 시 프롬프트만으로 다 통제할 수 있다?

아뇨. 없습니다. 절대로.

제 아무리 프롬프트 잘 써봤자

결과물이 어떻게든 잘못 나올 수 있다는 건 상시 명심해야 합니다.

(아 물론 프롬프트 작성법 공부는 필요합니다. 적어도 실패횟수는 줄여야죠)