Vấn đề trí nhớ mà không ai nói tới
Trợ lý trí tuệ nhân tạo đang giỏi ghi nhớ lên thật. Định dạng đầu ra bạn ưa. Ngăn xếp công nghệ bạn làm việc trong đó. Múi giờ của bạn, cách đội bạn được tổ chức, việc bạn luôn muốn có dẫn nguồn. Ngữ cảnh bền bỉ ấy khiến trí tuệ nhân tạo hữu ích hơn hẳn — bạn thôi phải giải thích lại về mình ở mỗi phiên, và trợ lý bắt đầu giống một đồng nghiệp hơn là một ô tìm kiếm.
Nhưng bên cạnh cái hữu ích ấy, một sự lệ thuộc đang lặng lẽ lớn lên. Trợ lý nhớ những điều về bạn, còn bạn không nắm việc nó nhớ gì. Bạn không dễ soát lại, không xuất ra được ở một định dạng mang đi được, và nếu nhà cung cấp quyết đổi sản phẩm trí nhớ của họ — hay đơn giản là dẹp nó — bạn chẳng có đường nào cứu vãn. Bạn mất không chỉ sự tiện lợi mà cả cái ngữ cảnh tích lũy đã tốn hàng tháng trò chuyện mới dựng nên.
Đây không phải giả định. Đây là trạng thái mặc định của mọi nền tảng trí tuệ nhân tạo lớn đang vận hành hôm nay.
Ba quyền không nên đem ra mặc cả
Cuộc tranh luận về quyền đối với dữ liệu không mới. GDPR, CCPA và cả thập niên kiện tụng quanh các nền tảng xã hội đã xác lập rằng người dùng dịch vụ có những đòi hỏi chính đáng với dữ liệu của chính mình. Trí nhớ trí tuệ nhân tạo lẽ ra phải chịu cùng những thước đo ấy. Ba quyền đáng kể hơn cả:
Quyền được xem. Bạn nên thấy được một danh sách chữ rõ liệt kê từng dữ kiện đã lưu về bạn. Không phải một bản tóm mờ, không phải «chân dung cá nhân hóa» kiểu tờ rơi — mà là những dữ kiện thật sự được giữ, hiện ra khi bạn hỏi tới. Nếu hệ thống nghĩ bạn là người phát triển phía sau, ưa câu trả lời ngắn gọn và không chịu nổi lối bị động, bạn nên đọc được đúng điều đó.
Quyền được quên. Mọi dữ kiện đã lưu đều nên xóa được bởi chính bạn, từng cái một hay xóa cả loạt, có hiệu lực tức thì. Việc xóa phải là thật — không phải kiểu che mềm mà bên trong vẫn tác động lên hành xử của mô hình — và phải kiểm chứng được. «Tôi đã xóa cái đó» nên có nghĩa là mô hình không còn hành xử theo nó nữa.
Quyền xuất và mang đi. Nếu bạn đã dựng được một ngữ cảnh trí nhớ hữu ích suốt một năm ở một nhà cung cấp rồi muốn chuyển, bạn nên mang nó theo được. Khả năng mang đi của trí nhớ cũng là bài toán ấy như khả năng mang đi của dữ liệu trong bất cứ lĩnh vực nào khác. Việc nó là một vector nhúng hay một khối JSON thay vì một bảng tính không làm nó khác đi về mặt khái niệm.
Không quyền nào trong số này đòi hy sinh chất lượng sản phẩm. Chúng đòi đối xử với người dùng dịch vụ như một bên có lợi ích, chứ không như một nguồn dữ liệu.
Vì sao các nền tảng chống lại
Sự chống lại không chủ yếu về kỹ thuật mà về cấu trúc. Ngữ cảnh trí nhớ là hạ tầng giữ chân. Một nền tảng đã học sâu sở thích của bạn có lợi thế về chi phí chuyển đổi so với nền tảng chưa học. Làm cho trí nhớ mang đi được, hay dễ xóa, sẽ làm yếu sự giữ chân ấy, và phần lớn đội sản phẩm chỉnh theo chỉ số tương tác sẽ lặng lẽ đẩy quyền kiểm soát của người dùng ra sau.
Còn có một vấn đề nhận thức nữa: các đội dựng hệ trí nhớ thường không biết chính xác mô hình đã giữ lại gì, bởi trí nhớ nhiều khi không phải một danh sách có cấu trúc gọn ghẽ mà là một tính chất nổi lên từ không gian nhúng hay từ việc tinh chỉnh nhẹ. Muốn có một vết kiểm toán rõ ràng thì cần những quyết định kiến trúc dứt khoát — lưu trí nhớ thành những dữ kiện có cấu trúc, xem được, thay vì thành trạng thái mờ đục của mô hình — và những quyết định ấy phải đưa ra sớm.
Gắn khả năng truy vết vào một hệ mờ đục sau khi mọi thứ đã xong thì tốn kém. Dựng nó vào từ đầu thì không. Lựa chọn ấy phản chiếu thứ tự ưu tiên.
ToRun đứng ở đâu
Trí nhớ trong ToRun được lưu thành những dữ kiện rành mạch, đọc được. Bạn liệt kê được mọi thứ nó biết về bạn, xóa từng mục hay xóa hết, và việc xóa là tức thì và thật — nó tác động lên chính điều mô hình thấy ở lượt kế tiếp. Hệ trí nhớ còn không lệ thuộc ngôn ngữ: nó chạy ở cả 29 ngôn ngữ của nền tảng, không buộc bạn phải viết bằng tiếng Anh mới được nhớ cho chắc.
Chúng tôi không dựng như vậy vì buộc phải thế. Chúng tôi dựng như vậy vì lối còn lại — lưu trí nhớ thành một hộp đen không hỏi được — không dung hợp với những nguyên tắc giao tiếp trung thực mà sản phẩm này tựa vào. Nếu ai đó hỏi «bạn biết gì về tôi», hệ thống nên trả lời được câu ấy đầy đủ và chính xác, chứ không phải đại khái.
Khả năng mang đi khi xuất đã được giao. Một yêu cầu dữ liệu trả về trí nhớ của bạn cùng với phần dữ liệu cá nhân còn lại, dưới dạng một tệp bạn tự tải xuống — các dữ kiện vốn đã có cấu trúc, nên đó là chuyện dựng một điểm cuối, chứ không phải vẽ lại kho lưu.
Đây là một khẳng định hẹp: trí nhớ trí tuệ nhân tạo của bạn nên thuộc về bạn, đọc được bởi bạn và xóa được bởi bạn. Đó không phải một lập trường gây tranh cãi. Ngành lẽ ra nên tiến về phía ấy nhanh hơn hiện nay.