대화형 AI가 이전 대화의 맥락을 기억하면 매번 같은 설명을 반복하지 않아도 된다. 업무 목표나 선호하는 문체를 이어갈 수 있어 생산성이 높아진다. 반면 어떤 정보가 저장되고 다음 대화에 활용되는지 사용자가 이해하지 못하면 불편과 오해가 생길 수 있다.
메모리는 대화 기록과 같지 않다
대화 기록은 과거 채팅의 목록이고, 메모리는 향후 답변에 활용할 수 있도록 선택된 정보다. 따라서 채팅 하나를 삭제했다고 관련 메모리까지 반드시 사라진다고 가정해서는 안 된다. 설정에서 저장된 메모리와 관련 요약을 별도로 확인하는 것이 안전하다.
저장하지 말아야 할 정보
주민등록번호, 금융 비밀번호, 인증번호, 회사의 비공개 고객정보, 의료기록 원문처럼 유출 시 피해가 큰 정보는 입력하지 않는 것이 원칙이다. 편리한 개인화를 위해 필요한 정보와 민감정보를 구분해야 한다.
계정 세션도 함께 점검해야 한다
서비스가 개인화될수록 계정 탈취의 피해도 커질 수 있다. 사용하지 않는 기기나 낯선 지역의 로그인 세션이 있는지 확인하고, 의심되는 세션은 종료해야 한다. 2단계 인증과 고유한 비밀번호를 사용하는 기본 보안도 중요하다.
실용적인 점검 순서
- 메모리 설정에서 저장된 내용을 정기적으로 확인한다.
- 더 이상 필요 없는 항목은 삭제한다.
- 활성 세션에서 모르는 기기를 로그아웃한다.
- 민감한 업무는 조직의 보안 정책과 승인된 도구를 따른다.
주요 출처
이 글은 공개된 원자료를 바탕으로 미캉뉴스가 배경과 영향을 분석한 콘텐츠입니다. 제품과 서비스의 제공 범위는 지역과 시점에 따라 달라질 수 있습니다.
미캉뉴스 
Leave a comment