이 글은 AI와 망각기술 잊을 줄 아는 인공지능의 시대에 관한 이야기 입니다.
왜 AI에게도 ‘망각’이 필요한가
사람은 태어나서부터 수많은 정보를 접하지만, 그 모든 것을 다 기억하지는 않는다. 어떤 기억은 오래 남고, 어떤 기억은 의도치 않게 사라진다. 망각은 불완전함처럼 보이지만 사실은 인간의 생존을 돕는 필수 능력이다. 불필요하거나 고통스러운 기억을 걸러내고, 중요한 정보에 집중할 수 있게 해주기 때문이다.
그런데 인공지능은 다르다. 한 번 학습한 데이터는 지우지 않는 이상 그대로 남아 있는 경우가 많다. 거대한 언어 모델인 GPT 계열도, 한 번 학습에 쓰인 정보가 모델 내부의 가중치에 스며들면 완전히 제거하기가 쉽지 않다. 문제는 여기서 발생한다.
예를 들어, 특정 개인의 이름과 전화번호가 훈련 데이터에 포함되었다고 하자. 시간이 흘러 그 정보가 더 이상 공개되어서는 안 되는 상황이 되었을 때, AI는 여전히 그 데이터를 기억하고 있을 수 있다. 이는 곧 개인정보 유출 문제로 이어질 수 있다. 또한 AI가 잘못된 사실을 학습했을 때, 그것을 ‘지워내는’ 방법이 없다면 오류는 계속 반복된다.
이 때문에 연구자들은 이제 “AI도 인간처럼 망각할 줄 알아야 한다”라는 새로운 과제를 마주하고 있다. 망각은 단순히 기억을 없애는 문제가 아니라, AI가 더 공정하고 윤리적으로 작동하도록 만드는 핵심 능력으로 주목받고 있다.
망각 기술의 현재 연구 동향
AI의 망각 기술은 크게 세 가지 접근 방식으로 나눌 수 있다.
첫째, 데이터 삭제 기반 접근이다. 사용자가 삭제를 요청한 데이터를 추적해 모델 내부에서 직접 지워내는 방식이다. 하지만 이건 생각보다 간단하지 않다. 대형 언어 모델의 파라미터 수는 수천억 개에 달하기 때문에, 특정 데이터가 어디에 반영되었는지 정확히 찾아내는 것이 어렵다.
둘째, 지식 편집(Knowledge Editing) 기법이다. 이는 모델이 특정 사실을 더 이상 ‘알지 못하도록’ 수정하는 방법이다. 예를 들어, GPT가 “플루토는 태양계의 행성이다”라고 계속 대답한다면, 지식 편집을 통해 그 부분을 “플루토는 왜소행성이다”로 덮어씌울 수 있다. 대표적으로 ROME(Rewriting Knowledge in Language Models) 같은 알고리즘이 여기에 속한다. 다만 이 방식은 완벽히 지우는 것이 아니라, 사실을 교체하거나 덮어쓰는 것에 가까워 여전히 ‘흔적’이 남을 수 있다.
셋째, 망각을 모방한 학습(Forgetting by Design)이다. 인간의 뇌처럼 일정 시간이 지나면 덜 중요한 정보는 자동으로 잊히도록 설계하는 것이다. 이를 위해 연구자들은 ‘가중치 감쇠(weight decay)’나 ‘선택적 기억 강화’ 같은 기술을 사용한다. 이런 방식은 아직 초기 단계지만, 장기적으로는 AI가 필요 없는 정보를 스스로 걸러내는 길을 열어줄 수 있다.
실제로 2022년 유럽연합(EU)은 ‘잊혀질 권리(Right to be Forgotten)’를 디지털 영역에서 강화하면서, AI에도 동일한 원칙을 적용해야 한다는 논의를 진행했다. 이는 단순히 기술적 문제를 넘어서, 사회·법률적 영역으로까지 확장되는 화두임을 보여준다.
잊는 AI가 불러올 사회적 변화
망각 기술이 본격적으로 도입된다면 사회는 어떻게 변할까? 우선 개인정보 보호가 획기적으로 강화될 수 있다. 지금은 한 번 인터넷에 올라간 정보가 영원히 남는다는 말이 있을 정도인데, AI가 망각 기능을 가진다면 개인의 민감한 데이터가 더 이상 무한히 복제되지 않고, 일정 시점에서 사라질 수 있다.
또한 지식의 갱신 속도가 빨라진다. 지금의 AI는 과거에 학습한 사실을 잘못된 상태로 계속 반복하는 경우가 많다. 하지만 망각 기술이 정착된다면, 오래된 지식을 지우고 새로운 정보로 빠르게 교체할 수 있다. 이는 AI가 보다 정확하고 시의성 있는 도구로 자리 잡게 만드는 핵심 요소가 될 것이다.
그러나 동시에 윤리적 딜레마도 발생한다. 만약 AI가 특정 역사적 사실이나 사회적 비극을 ‘망각’한다면 어떨까? 기술적으로는 가능하겠지만, 이는 집단적 기억과 충돌한다. 사람들은 과거를 기억함으로써 교훈을 얻는데, AI가 그런 기억을 의도적으로 지우게 되면, 책임성과 투명성 문제가 불거질 수 있다.
결국 중요한 것은 균형이다. AI의 망각 기술은 사생활 보호와 오류 수정에 큰 도움이 되지만, 동시에 망각이 악용될 가능성도 내포하고 있다. 따라서 기술 발전만큼이나, 사회적 합의와 법적 제도가 함께 발전해야 한다.
AI는 이제 단순히 ‘똑똑한 기계’가 아니라, 사회 전반에 영향을 미치는 존재가 되었다. 그런 의미에서 “잊을 수 있는 능력”은 단순한 편의 기능이 아니라, 인류와 AI가 함께 살아가기 위한 필수 조건에 가깝다. 인간이 망각을 통해 균형을 유지하듯, AI도 망각을 통해 보다 안전하고 윤리적인 방향으로 나아갈 수 있다.
앞으로 “기억하는 AI”에서 “잊을 줄 아는 AI”로의 전환은 인공지능 기술 발전의 중요한 전환점이 될 것이다. 이는 단순한 기술 혁신을 넘어, 우리가 AI와 맺는 관계의 방식을 근본적으로 바꾸게 될 것이다.