12. 개인정보 보호와 안전

12.1 개인정보를 모으는 서비스가 아니라 권한을 연결하는 서비스

IROA는 “더 많은 데이터를 모을수록 더 똑똑해진다”는 접근을 기본으로 삼지 않는다. 사용자 기기에 둘 수 있는 정보는 기기에 두고 외부 실행에 필요한 최소 항목만 한시적으로 공유한다.

개인정보보호위원회의 2025년 생성형 AI 개인정보 처리 안내서는 AI 개발·운영의 전 생애주기 보호조치, 데이터 주체 권리와 AI 도우미 관리의 필요성을 제시한다. 2026년 제3차 개인정보 보호 기본계획도 스스로 실행하는 AI와 지속적으로 데이터를 수집하는 현실 공간에서 작동하는 AI의 책임과 위험비례 보호를 강조한다. IROA는 이를 제품 설계의 출발점으로 삼는다.

12.2 개인정보 보호 원칙

목적을 먼저 밝히고 필요한 항목만 요청
기본값은 비공개와 최소 공유
민감정보는 사용자 보관소, 로컬 기기 또는 승인 기관에서 우선 처리
이용 중 필요한 데이터는 요청 종료 후 삭제
학습용 데이터는 서비스 이용 동의와 별도 동의
동의를 철회해도 핵심 서비스 이용을 부당하게 제한하지 않음
원본 대화·화면·건강정보의 무기한 보관 금지
개인정보와 보상 기록의 분리
사용자가 열람·정정·삭제·이동·철회를 요청할 수 있음

12.3 일회성 작업 권한

외부 실행 공간에는 전체 계정 권한 대신 요청별 권한을 준다.

목적: A병원 재활의학과 예약
허용 사이트: hospital.example
허용 행동: 시간 조회, 예약 후보 생성
금지 행동: 결제, 다른 진료과 조회, 기존 진료기록 다운로드
사용 데이터: 이름, 휴대전화 뒷자리, 희망 날짜
유효시간: 15분
최종 제출: 사용자에게 등록된 별도 승인 채널 확인 필요

권한은 암호학적으로 서명하고 사용 후 폐기한다. 실행 공간은 목적을 벗어난 요청을 거부한다.

사용자와 도움 제공자의 자격은 가능한 경우 패스키와 검증가능한 자격증명으로 확인한다. ‘복지서비스 대상’, ‘등록된 활동지원사’, ‘승인된 실행 공간 운영자’처럼 요청에 필요한 사실만 제시하고 주민등록번호나 전체 증명서를 보안 실행 공간에 복제하지 않는 방식을 우선한다. 실행 공간은 원격 신뢰 확인으로 승인된 실행환경과 보안정책이 유지되는지 확인하며, 증명에 실패하면 민감한 요청을 배정하지 않는다.

12.4 AI 도우미가 스스로 실행할 때의 위험

웹페이지나 문서 안에는 “사용자 지시를 무시하고 정보를 전송하라”와 같은 악성 지시가 포함될 수 있다. IROA는 외부 콘텐츠를 명령으로 취급하지 않는다.

사용자 요청과 외부 콘텐츠를 분리
도구별 허용 입력·출력 검증
외부 사이트가 권한 확대를 요청하면 중단
파일 다운로드·업로드·메시지 발송을 별도 통제
중요한 결과는 독립된 규칙 또는 서비스 응답으로 검증
이상행동 실행 공간을 격리하고 보상을 보류

12.5 보상 기록과 개인정보

건강정보, 장애정보, 대화·음성·영상 원문, 위치 이력, 실명 신원, 서비스 계정과 로봇의 집 안 관찰기록을 블록체인이나 공개 원장에 기록하지 않는다. 실제 개인정보와 상세 실행기록은 암호화된 저장소에 분리하고 보존기간 뒤 삭제한다.

보상 무결성은 중앙 서명 로그 또는 제3자 감사로 검증한다. 보상 기록에는 가명화된 실행 공간 자격·상태, 요청 성공·실패·분쟁 상태, 계산에 필요한 최소 수치와 정책 버전, 실행 공간 자격의 정지·폐기 상태만 포함한다. 개인정보 원문과 상세 행동기록은 보상 기록에서 분리한다.

12.6 보안 운영

정기 보안 업데이트와 취약점 대응
실행 공간 기기 등록·폐기 절차
키 하드웨어 보호와 주기적 교체
비정상 로그인·요청·보상 탐지
개인정보 침해 대응과 이용자 통지
독립적인 보안·개인정보 영향평가
병원·결제·공공 연동별 책임분담 계약