AI 브라우저에 내 계정을 맡겨도 될까? ‘프롬프트 인젝션’과 안전한 사용법

“메일 좀 정리해줘.”
“이 상품들 비교해서 가장 괜찮은 걸 골라줘.”

AI에게 질문하고 답변을 받는 것을 넘어, 인터넷에서 해야 할 일까지 맡기는 시대입니다. 검색 결과를 정리해주는 것도 편리한데, 웹페이지를 돌아다니며 작업까지 대신해준다면 활용 범위는 훨씬 넓어지겠지요.

하지만 여기서 한 가지 질문이 생깁니다.

내 계정으로 일하는 AI는 누구의 말을 따라야 할까요?

당연히 사용자의 말을 따라야 합니다. 문제는 AI가 읽는 웹페이지나 이메일에도, AI를 속이기 위한 지시가 들어갈 수 있다는 점입니다.

AI 생성 이미지. 실제 제품 화면이나 사용 장면을 촬영한 사진이 아닙니다.

1. ‘답변하는 AI’와 ‘행동하는 AI’는 다르다

AI가 추천한 상품이 마음에 들지 않으면 다른 제품을 찾아보면 됩니다. 잘못된 설명을 했다면 원문과 비교해 바로잡을 수도 있습니다.

그런데 AI가 추천을 넘어 주문을 진행하거나, 이메일을 작성하는 데 그치지 않고 발송까지 한다면 이야기가 달라집니다.

OpenAI는 ChatGPT Atlas의 에이전트 모드가 웹페이지를 조회하고, 브라우저 안에서 클릭과 키 입력 같은 작업을 수행한다고 설명합니다. [1]

중요한 구분은 ‘AI 브라우저를 사용하느냐’보다 AI에게 어디까지 읽게 하고, 어떤 행동을 허용하느냐입니다. 모든 제품이 같은 기능이나 권한을 제공하는 것도 아닙니다.

공개된 기사를 요약하는 일과, 로그인된 업무 계정에서 파일을 보내는 일은 같은 수준으로 취급하기 어렵습니다.

2. 프롬프트 인젝션이란 무엇인가?

이름은 어렵지만 핵심은 간단합니다.

프롬프트 인젝션은 외부 콘텐츠에 지시를 삽입해, AI가 사용자가 요청하지 않은 작업을 하도록 유도하는 공격입니다. [2]

쉽게 말하면 사람 대신 AI를 속이는 수법입니다.

이해를 돕기 위한 가상의 상황을 생각해보겠습니다. 사용자는 AI에게 받은 이메일을 요약해달라고 했습니다. 그런데 이메일 본문에는 업무 확인을 핑계로 다른 문서를 찾아 외부로 전송하도록 유도하는 내용이 들어 있습니다.

AI가 이를 단순히 ‘요약해야 할 내용’으로 취급하면 문제가 없습니다. 하지만 ‘실행해야 할 지시’로 받아들이면 원래 요청에서 벗어나게 됩니다.

물론 이런 문구가 있다고 반드시 공격이 성공하는 것은 아닙니다. AI의 방어 체계, 접근 가능한 정보, 실행 권한에 따라 결과가 달라집니다.

3. 비밀번호만 잘 지키면 해결될까?

비밀번호 관리와 2단계 인증은 여전히 중요합니다. 다만 이 문제를 그것만으로 해결할 수 있다고 생각해서는 안 됩니다.

OpenAI는 프롬프트 인젝션이 사용자 피싱이나 브라우저의 소프트웨어 취약점을 노리는 방식과 달리, 브라우저 안에서 작동하는 AI 에이전트 자체를 표적으로 삼을 수 있다고 설명합니다. [1]

즉, 로그인 과정만 안전한지 볼 것이 아니라 로그인 이후 AI가 어떤 정보를 읽고 어떤 작업을 할 수 있는지도 살펴봐야 합니다.

OpenAI는 2026년 3월 공개한 보안 설명에서도 입력 필터링만으로는 충분하지 않으며, 일부 공격이 성공하더라도 피해를 제한하는 시스템 설계가 필요하다고 밝혔습니다. [2]

핵심은 AI를 무조건 믿거나 무조건 피하는 것이 아닙니다. 잘못된 판단이 실제 피해로 이어지지 않도록 권한과 실행 범위를 제한하는 것입니다.

AI 생성 이미지. 실제 서비스의 승인 화면이 아닌 설명용 이미지입니다.

4. AI 브라우저를 쓸 때 지킬 네 가지 원칙

① 로그인할 필요가 없는 작업은 로그인 없이

공개된 제품 정보나 뉴스를 비교하는 데 개인 메일과 클라우드 계정까지 연결할 필요는 없습니다.

OpenAI도 Atlas에서 작업에 로그인된 사이트가 필요하지 않다면 로그아웃 모드를 활용하라고 권고합니다. [1]

다른 제품을 사용할 때도 해당 서비스가 제공하는 계정 접근 제한 기능을 먼저 확인하는 편이 좋습니다.

② “알아서 처리해줘”보다 범위를 구체적으로

다음 두 요청은 비슷해 보여도 허용하는 행동 범위가 다릅니다.

• “메일을 보고 필요한 일을 전부 처리해줘.”
• “오늘 받은 메일의 제목과 요청사항만 정리해줘. 답장과 전달은 하지 마.”

초안을 만들고 정보를 정리하는 단계부터 활용하고, 실제 실행은 별도로 승인하는 방식이 이해하기 쉽고 관리하기도 편합니다.

③ 승인 버튼을 누르기 전에 내용을 확인

메일이라면 수신자와 첨부파일, 구매라면 상품과 최종 금액, 파일 공유라면 공유 대상과 공개 범위를 확인해야 합니다.

‘승인 요청이 떴다’는 사실보다 무엇을 승인하고 있는지가 중요합니다. 확인 과정이 습관적인 클릭으로 끝나면 보호 장치의 의미가 줄어듭니다.

④ 중요한 계정은 최소 권한으로

Microsoft 역시 AI 에이전트 보안 지침에서 작업에 필요한 최소 권한만 부여하고, 위험한 행동은 사람이 확인하는 방식을 권고합니다. [3]

특히 업무 문서, 고객 정보, 금융 관련 작업은 편리하다는 이유만으로 접근 범위를 넓히지 않는 것이 좋습니다.

끝으로: 편리함은 맡겨도, 최종 결정까지 넘길 필요는 없다

AI 브라우저를 무조건 위험한 기술로 볼 필요는 없습니다. 자료를 비교하고, 긴 글을 요약하고, 반복 작업을 준비하는 데 충분히 유용합니다.

다만 잘 요약하는 능력과 안전하게 행동하는 능력은 별개의 문제입니다.

처음에는 읽기와 정리 중심으로 활용하고, 메일 발송·결제·삭제처럼 되돌리기 어려운 작업은 직접 확인하는 방식이 합리적입니다.

그리고 이용자의 주의만으로 해결할 문제도 아닙니다. 서비스 제공자는 외부 콘텐츠와 사용자 지시를 구분하고, 권한 제한과 승인 절차가 실제로 작동하도록 설계해야 합니다.

AI에게 맡길 일은 늘어나겠지만, 어디까지 맡길지 결정하는 기준은 사용자에게 남아 있어야 합니다.

---

참고 자료

• [1] OpenAI, ChatGPT Atlas의 프롬프트 인젝션 방어 및 안전한 사용 권고 (2025.12.22)
• [2] OpenAI, 프롬프트 인젝션에 저항하는 AI 에이전트 설계 (2026.03.11)
• [3] Microsoft Learn, 간접 프롬프트 인젝션 방어 지침