아무도 말하지 않는 기억의 문제
인공지능 도우미는 기억하는 데 정말로 능해지고 있습니다. 즐겨 쓰는 출력 형식. 일하는 기술 구성. 시간대, 팀의 짜임, 언제나 출처를 원한다는 사실. 이 이어지는 맥락이 인공지능을 크게 쓸모 있게 만듭니다——세션마다 자신을 다시 설명하지 않게 되고, 도우미는 검색 칸이 아니라 동료처럼 느껴지기 시작합니다.
그러나 그 쓸모 곁에서 의존이 조용히 자랍니다. 도우미는 당신에 관한 것을 기억하는데, 무엇을 기억할지는 당신이 쥐고 있지 않습니다. 쉽게 살펴볼 수 없고, 옮길 수 있는 형식으로 내보낼 수 없으며, 공급자가 기억 제품을 바꾸기로——또는 그냥 접기로——정하면 당신에게 방도가 없습니다. 잃는 것은 편리함만이 아니라 여러 달의 대화로 쌓은 맥락 그 자체입니다.
이는 가정이 아닙니다. 오늘 돌아가는 모든 큰 인공지능 플랫폼의 기본 상태입니다.
흥정거리가 되어서는 안 될 세 가지 권리
자료의 권리를 둘러싼 다툼은 새롭지 않습니다. GDPR, CCPA, 그리고 사회적 플랫폼을 둘러싼 십 년의 소송이, 서비스를 쓰는 사람에게 자기 자료에 대한 정당한 청구권이 있음을 세웠습니다. 인공지능의 기억도 같은 잣대 아래 있어야 합니다. 특히 세 가지 권리가 중요합니다.
살펴볼 권리. 당신에 관해 저장된 모든 사실을 평문 목록으로 볼 수 있어야 합니다. 흐릿한 요약도, 홍보물의 「맞춤 프로필」도 아니라, 실제로 간직된 사실을 요구하면 볼 수 있어야 합니다. 그 체계가 당신을 뒤쪽 개발자이고, 간결한 답을 좋아하며, 수동태를 못 견디는 사람으로 여긴다면, 바로 그렇게 읽을 수 있어야 합니다.
잊힐 권리. 저장된 모든 사실을 낱개로든 통째로든 당신이 즉시 효력이 생기도록 지울 수 있어야 합니다. 삭제는 진짜여야 합니다——안쪽에서 모델의 움직임에 계속 영향을 주는 부드러운 감춤이 아니라——그리고 확인할 수 있어야 합니다. 「그건 지웠다」는 모델이 더는 그에 따라 움직이지 않는다는 뜻이어야 합니다.
내보내고 옮길 권리. 한 공급자에게서 한 해 동안 쓸모 있는 기억의 맥락을 쌓았고 옮기고 싶다면, 그것을 가져갈 수 있어야 합니다. 기억의 옮길 수 있음은 다른 어떤 분야의 자료 옮김과 같은 문제입니다. 표 계산이 아니라 벡터 임베딩이나 JSON 덩어리라는 점은 개념적으로 아무것도 바꾸지 않습니다.
이 권리들 가운데 어느 것도 제품의 질을 내놓으라고 하지 않습니다. 서비스를 쓰는 사람을 자료의 원천이 아니라 이해 당사자로 대하라고 할 뿐입니다.
왜 플랫폼은 버티는가
버팀은 주로 기술이 아니라 구조의 문제입니다. 기억의 맥락은 붙잡아 두는 기반입니다. 당신의 취향을 깊이 배운 플랫폼은 그러지 못한 곳에 견주어 갈아타는 비용에서 앞섭니다. 기억을 옮길 수 있게, 또는 쉽게 지울 수 있게 만들면 그 붙잡음이 약해지고, 관여 지표를 맞추는 제품 팀 대부분은 이용자의 통제를 조용히 뒤로 미룹니다.
인식의 문제도 있습니다. 기억 체계를 짓는 팀조차 모델이 무엇을 붙들었는지 정확히 모르는 일이 잦습니다. 기억이 말끔한 구조화된 목록이 아니라 임베딩 공간이나 부드러운 미세 조정에서 솟아난 성질일 때가 많기 때문입니다. 또렷한 감사 자취를 내놓으려면 분명한 구조적 결정이 필요합니다——기억을 불투명한 모델 상태가 아니라 구조화되고 살펴볼 수 있는 사실로 간직하는 것——그리고 그 결정은 일찍 내려야 합니다.
불투명한 체계에 나중에 추적 가능성을 덧대는 일은 비쌉니다. 처음부터 짜 넣는 일은 그렇지 않습니다. 이 선택은 우선순위를 비춥니다.
ToRun이 선 자리
ToRun의 기억은 분명하고 읽을 수 있는 사실로 간직됩니다. 그것이 당신에 관해 아는 모든 것을 나열하고, 낱개든 전부든 지울 수 있으며, 삭제는 즉각적이고 진짜입니다——다음 차례에 모델이 보는 것에 곧바로 작용합니다. 기억 체계는 언어에도 매이지 않습니다. 믿음직하게 기억되기 위해 영어로 쓸 필요 없이, 플랫폼의 29개 언어 모두에서 작동합니다.
그래야만 해서 그렇게 지은 것이 아닙니다. 다른 길——물어볼 수 없는 검은 상자로 기억을 간직하는 것——이 이 제품이 딛고 선 정직한 사용 원칙과 어울리지 않기 때문에 그렇게 지었습니다. 누군가 「나에 대해 무엇을 아느냐」고 물으면, 그 체계는 어림이 아니라 온전하고 정확하게 답할 수 있어야 합니다.
내보내기의 옮길 수 있음은 이미 나왔습니다. 자료 요청은 당신의 다른 개인 자료와 함께 기억을 돌려주며, 직접 내려받는 파일이 됩니다——사실은 이미 구조화되어 있었으므로, 저장소를 다시 짜는 것이 아니라 그 종단을 짓는 일이었습니다.
이것은 좁은 주장입니다. 당신의 인공지능 기억은 당신의 것이고, 당신이 읽을 수 있고, 당신이 지울 수 있어야 한다는 것. 다툴 자리는 아닙니다. 업계는 지금보다 빨리 그리로 가야 합니다.