개인정보보호위원회는 9월 23일 은행회관 국제회의실에서 인공지능(AI) 프라이버시 민·관 정책협의회 제2차 전체회의를 열고 에이전틱 AI 환경에서의 합리적 규율 체계 마련을 논의했다.
개인정보위, 에이전틱 AI 시대 합리적 개인정보 규율체계 모색
인공지능 프라이버시 민·관 정책협의회는 인공지능 시대의 개인정보 보호와 데이터 활용 간 조화를 위해 구성된 협력체계다. 지난 2월 에이전틱 AI 등 새로운 기술 환경에 대응하기 위해 2기 협의회가 출범했다.
이 날 회의에서는 김병필 카이스트 교수가 에이전틱 AI의 프라이버시 이슈를 주제로 발표했다. 김 교수는 국내외 15개 기관을 대상으로 실시한 현장 인터뷰 결과를 바탕으로 기술적 위험 요인을 진단했다.
김병필 교수는 '프롬프트 인젝션과 에이전틱 AI에 부여되는 과도한 권한 등이 주요 위험 요인으로 꼽혔다'고 설명했다. 이어 자율과 승인의 경계 설정, 주체별 책임, 로그 및 메모리 관리 기준 마련 등이 필요하다고 강조했다.
발표에 나선 최윤정 개인정보보호정책과장은 인공지능 시대의 개인정보 제도 혁신 방향을 제시했다. 정부는 국민 권리 보호에 영향이 적은 형식적 규제는 개선하고, 인공지능 시대에 필요한 규범은 신속히 마련한다는 방침이다.
종합 토의에서는 데이터 처리 근거 유연화와 개인정보 활용 특례의 운영, 실질적인 안전장치 마련 등이 핵심 의제로 다뤄졌다. 논의 결과는 올해 말 공개될 가칭 에이전틱 인공지능 개인정보 처리 안내서에 반영된다.
송경희 개인정보위 위원장은 '국민 편익을 가져오는 기술 발전은 충분히 뒷받침하면서 국민의 프라이버시 보호를 비롯한 권리와 안전을 함께 지켜나가야 기술이 지속 가능할 수 있다'고 말했다.
송 위원장은 이어 '민관이 협력하여 합리적이고 균형 잡힌 인공지능 개인정보 규율체계를 마련해 나가겠다'고 덧붙였다.
권창환 공동의장은 '스스로 과업을 수행하는 에이전틱 인공지능은 개인정보의 영역에서도 새로운 과제를 제기하고 있다'고 진단했다.
권 공동의장은 '산업 현장의 목소리를 정부에 충실히 전달하고 민관이 함께 합리적인 규율 방안을 모색함으로써 사업자의 책임 있는 혁신과 정보주체의 실효적인 권리 보호가 조화를 이룰 수 있게 되기를 기대한다'고 밝혔다.
