5. AI 도우미의 안전한 실행 원칙

5.1 자동으로 움직이되 마음대로 결정하지 않는다

행동	기본 방식
정보 검색·정리	자동 수행 가능
일정 후보 비교	자동 수행 후 설명
장바구니 구성	자동 수행, 결제 전 확인
무료 예약	조건에 따라 사전 동의 또는 최종 확인
유료 예약·주문·결제	금액과 조건을 제시하고 최종 확인
건강정보 전송	수신자·목적·항목을 제시하고 명시적 동의
계약·대출·투자	자동 확정 금지, 별도 보호 절차
비밀번호·OTP 입력	사용자 기기 또는 공식 인증 화면에서만

5.2 공식 연결을 먼저 사용하고, 화면 자동 조작은 제한한다

IROA는 서비스 제공자가 공개한 API, 병원·공공기관 표준 연동, Model Context Protocol(MCP) 도구, Apple의 App Intents, Android AppFunctions와 같은 공식 기능 노출 방식을 우선한다. 공식 연동이 없는 서비스는 격리된 화면 자동 조작 실행환경에서 화면을 조작할 수 있다.

개인 브라우저 전체가 아니라 요청별 분리된 이용 공간 사용
허용한 도메인과 행동만 실행
웹페이지의 지시를 신뢰하지 않고 사용자 요청과 분리
결제·계약·민감정보 전송 전에 사용자 확인
비밀번호·OTP·결제키를 중앙 실행 공간에 저장하지 않음
화면 변화와 결과 증명을 함께 검사
실패 시 즉시 중단하고 사람에게 전환

OpenAI의 공식 화면 자동 조작 가이드도 격리된 브라우저·가상환경과 고위험 행동의 사람 개입을 권고한다. IROA는 이러한 원칙을 제품의 기본 보안 경계로 사용한다.

5.3 플랫폼 현실을 반영한 모바일 전략

모바일에서 AI 도우미가 다른 앱을 임의로 조작하는 것은 운영체제 보안정책 때문에 제한된다. 따라서 앱 바로가기 연결·공식 API, Apple의 App Intents·Siri·Shortcuts, Android AppFunctions 및 허용된 시스템 기능, 안전한 웹 흐름을 우선 사용한다. 그래도 불가능하면 사용자 승인 후 IROA 보안 실행 공간으로 요청을 이전한다. 사용자가 원하고 로컬 자료가 필요한 경우에만 개인 PC를 선택할 수 있다.

Android AppFunctions는 Android 16 이상을 대상으로 하는 실험적 시험판이며 모든 앱이 즉시 지원하는 기능이 아니다. IROA 초기 서비스의 필수 전제로 삼지 않고 지원 범위가 넓어질 때 공식 연동 계층으로 추가한다.

5.4 설명 가능성과 취소 가능성

사용자는 지금 무엇을 하는지, 왜 해당 옵션을 선택했는지, 어떤 개인정보가 누구에게 전달되는지, 비용이 발생하는지, 멈추거나 되돌릴 수 있는지, 사람이 대신 확인할 수 있는지를 물을 수 있어야 한다. AI 도우미는 사용자가 결정에 필요한 근거와 실행 결과를 쉬운 말로 제공한다.