loading
본문 바로가기 메뉴 바로가기
AI 에이전트에게 일을 맡길 때 생기는 사고, 프롬프트 인젝션 정리

브라우저에게 "이 페이지 요약해 줘"라고 했을 뿐인데 내 메일 주소가 모르는 서버로 넘어갔다면 어떨까. 가정이 아니라 보안 연구팀이 실제로 재현해 보인 장면이다. AI 브라우저를 다루는 글을 쓰면서 가장 마음에 걸렸던 부분이 보안이었다. 편리한 건 분명하다. 자료를 읽다가 바로 요약을 시키고, 여러 탭을 비교하게 하고, 양식까지 채우게 할 수 있다. 그런데 그 편리함의 근거가 되는 구조가 그대로 위험의 통로가 된다. 기존 브라우저는 웹페이지를 화면에 그려 줄 뿐이다. 페이지에 적힌 문장을 읽고 따르지는 않는다. AI 브라우저는 다르다. 페이지의 내용을 읽고 이해해서 행동한다. 문제는 그 AI가 사용자의 명령과 웹페이지에 적힌 문장을 같은 무게로 처리한다는 점이다. 누군가 페이지에 명령문을 숨겨 두면 AI..

업무자동화 2026. 10. 24. 07:25
이전 1 다음
이전 다음

티스토리툴바

운영자 : Wealthcanvas
제작 : 아로스
Copyrights © 2022 All Rights Reserved by (주)아백.

※ 해당 웹사이트는 정보 전달을 목적으로 운영하고 있으며, 금융 상품 판매 및 중개의 목적이 아닌 정보만 전달합니다. 또한, 어떠한 지적재산권 또한 침해하지 않고 있음을 명시합니다. 조회, 신청 및 다운로드와 같은 편의 서비스에 관한 내용은 관련 처리기관 홈페이지를 참고하시기 바랍니다.