AI nhớ cuộc trò chuyện như thế nào và vì sao vẫn có lúc quên?

Bạn từng nói muốn nhận câu trả lời ngắn gọn. Vài ngày sau, trợ lý vẫn viết theo cách đó. Nhưng ngay trong một cuộc trò chuyện dài, nó lại bỏ sót điều kiện quan trọng mà bạn đã nhắc. AI đang nhớ điều gì, và tại sao điều vừa trao đổi vẫn có thể bị “quên”?

Với các trợ lý dùng mô hình ngôn ngữ lớn, hay LLM, từ “nhớ” có thể chỉ nhiều cơ chế khác nhau. Có thông tin gắn với năng lực đã học của mô hình, có thông tin đang được đưa vào lượt xử lý, và có thông tin do ứng dụng lưu bên ngoài. Chúng phối hợp để tạo trải nghiệm liên tục, nhưng không có cùng cách lưu, cách sử dụng hay giới hạn.

1. Ba dạng thông tin thường bị gọi chung là trí nhớ

Kiến thức trong tham số là những quy luật và thông tin được hình thành qua huấn luyện. Tham số là các giá trị số định hình cách mô hình xử lý đầu vào và tạo đầu ra. Nhờ đó, mô hình có thể sử dụng tiếng Việt, giải thích khái niệm hoặc nhận ra những mẫu quen thuộc ngay cả khi người dùng chưa cung cấp tài liệu về chúng trong cuộc trò chuyện.

Đây không phải một kho hồ sơ được sắp sẵn theo từng lần trò chuyện. Mô hình có thể ghi nhớ một số nội dung đã gặp khi huấn luyện, kể cả nguyên văn, nhưng không vì thế mà chứa một bản sao đầy đủ, có thể tra cứu chính xác của mọi dữ liệu đã học. Kiến thức trong tham số cũng không tự cho mô hình biết sở thích riêng mà một người vừa nói lần đầu.

Thông tin trong ngữ cảnh là dữ liệu thực sự có sẵn cho lượt xử lý hiện tại. Nó có thể gồm câu hỏi, chỉ dẫn cho trợ lý, các lượt hội thoại được gửi kèm, nội dung tài liệu và kết quả từ công cụ. Nếu ứng dụng tiếp tục đưa một yêu cầu trước đó vào ngữ cảnh, mô hình có thể dựa vào yêu cầu ấy ở những lượt sau.

Bộ nhớ ứng dụng là thông tin được lưu bên ngoài mô hình để sử dụng về sau. Ứng dụng có thể lưu sở thích, một ghi chú về công việc hoặc trạng thái đang làm dở. Khi phù hợp, dữ liệu đó được đưa vào ngữ cảnh, trực tiếp hoặc sau khi tìm lại. Lưu một ghi chú như vậy không cần đồng nghĩa với thay đổi tham số.

Ba dạng này có thể cùng tham gia một câu trả lời. Chẳng hạn, năng lực viết tiếng Việt đến từ huấn luyện; yêu cầu sửa một đoạn văn có trong ngữ cảnh; sở thích viết ngắn gọn có thể đến từ ghi chú mà ứng dụng đã lưu. Biết cách viết, biết việc đang làm và biết sở thích của người dùng là ba điều khác nhau.

2. Lịch sử trên màn hình khác với ngữ cảnh mô hình nhận được

Giao diện có thể giữ nhiều tháng hội thoại để người dùng xem lại. Nhưng khi tạo một câu trả lời, ứng dụng phải quyết định những phần nào được gửi đến mô hình. Một tin nhắn vẫn nhìn thấy khi cuộn màn hình không chứng minh rằng toàn bộ tin nhắn ấy có trong đầu vào của lượt hiện tại.

Cửa sổ ngữ cảnh là giới hạn lượng nội dung mô hình có thể xử lý trong phạm vi một lượt, thường được đo bằng token, tức các đơn vị biểu diễn văn bản. Token không luôn tương ứng với một từ, và số lượt trò chuyện không cho biết chính xác lượng token đã dùng.

Một cuộc trao đổi ít lượt nhưng có tài liệu dài có thể chiếm nhiều ngữ cảnh hơn một cuộc trao đổi nhiều lượt chỉ gồm các câu ngắn. Chỉ dẫn cho trợ lý và kết quả công cụ cũng có thể chiếm chỗ. Với nhiều mô hình sinh văn bản, nội dung đầu vào và phần trả lời được tạo ra cùng phải nằm trong giới hạn ngữ cảnh; cách tính và giới hạn đầu ra cụ thể phụ thuộc mô hình, hệ thống.

Khi lịch sử tăng lên, ứng dụng có thể bỏ bớt phần cũ, chọn những phần liên quan hoặc thay nhiều lượt bằng bản tóm tắt. Không phải mọi ứng dụng đều xử lý giống nhau. Có hệ thống chủ động quản lý lịch sử; có hệ thống báo lỗi hoặc yêu cầu giảm đầu vào khi vượt giới hạn.

Quan trọng hơn, đủ chỗ chứa không đồng nghĩa với sử dụng thông tin chính xác. Mô hình có thể nhận được một chi tiết nhưng không liên kết đúng chi tiết ấy với câu hỏi. Độ dài, vị trí, thông tin gây nhiễu và độ khó nhiệm vụ đều có thể ảnh hưởng kết quả; không có một mốc số lượt chung mà mọi AI bắt đầu “quên”.

Trong nghiên cứu Lost in the Middle: How Language Models Use Long Contexts công bố năm 2023, các mô hình được thử với 2.655 câu hỏi. Mỗi đầu vào chứa 10, 20 hoặc 30 đoạn tài liệu, trong đó một đoạn có đáp án. Nhóm nghiên cứu đổi vị trí đoạn này, sinh đầu ra bằng cách chọn token có xác suất cao nhất ở từng bước, rồi đo tỷ lệ câu trả lời chứa đáp án đúng. Với GPT-3.5-Turbo phiên bản tháng 6/2023, kết quả thường tốt hơn khi đoạn cần dùng nằm ở đầu hoặc cuối, kém hơn khi nằm giữa.

Đây là thử nghiệm hỏi đáp tài liệu bằng tiếng Anh trên mô hình thời điểm đó, không phải tỷ lệ “quên” của mọi chatbot hiện nay. Nó cho thấy thông tin có mặt trong ngữ cảnh vẫn chưa bảo đảm được sử dụng đúng.

Vì vậy, hai hiện tượng cần được phân biệt: thông tin không được cung cấp cho lượt xử lý và thông tin đã được cung cấp nhưng bị sử dụng sai hoặc bỏ sót. Chỉ nhìn một câu trả lời sai thường chưa đủ để biết hiện tượng nào đã xảy ra.

3. Tóm tắt giúp tiếp tục công việc, nhưng có thể làm mất điều kiện

Một cách duy trì hội thoại dài là rút gọn ngữ cảnh, thường gọi là compaction: thay phần lịch sử dài bằng bản tóm tắt rồi tiếp tục với bản tóm tắt cùng những thông tin được giữ lại. Mô hình không cần đọc lại mọi câu để biết công việc đã đi đến đâu.

Bản tóm tắt hữu ích có thể giữ mục tiêu, quyết định đã chốt, điều còn chưa giải quyết và những ràng buộc quan trọng. Tuy nhiên, nó là một bản chọn lọc. Chi tiết không được giữ lại sẽ không tự xuất hiện đầy đủ khi người dùng hỏi đến, trừ khi hệ thống còn có thể lấy lại thông tin gốc hoặc nhận thông tin bổ sung.

Tình huống giả định: Bạn nhờ trợ lý hỗ trợ một báo cáo, với ba điều kiện: gửi trước 17 giờ thứ Năm, dùng số liệu đã xác nhận và dời hạn sang thứ Sáu nếu thứ Năm là ngày nghỉ. Sau nhiều lượt trao đổi, bản tóm tắt chỉ giữ câu “Báo cáo cần gửi vào thứ Năm bằng số liệu đã xác nhận”.

Nếu lượt tiếp theo chỉ nhận bản tóm tắt đó, mô hình vẫn biết mục tiêu và loại số liệu, nhưng thiếu mốc 17 giờ và ngoại lệ ngày nghỉ. Đây là mất chi tiết trong quá trình rút gọn, không phải bằng chứng kiến thức trong tham số vừa bị xóa. Một bản tóm tắt dài hơn cũng chưa chắc tốt hơn nếu vẫn bỏ đúng điều kiện cần dùng.

Có một giới hạn đặc biệt với các yêu cầu cần nguyên văn. Bản tóm tắt “người dùng đã duyệt câu mở đầu” không chứa chính câu mở đầu ấy. Nó có thể giúp biết việc duyệt đã xảy ra, nhưng không đủ để phục hồi chính xác từng chữ. Hiểu ý chính và giữ nguyên bản là hai mục tiêu khác nhau.

Nếu bản tóm tắt ghi sai một con số hoặc giữ quyết định đã bị thay thế, các lượt sau có thể tiếp tục dựa vào thông tin sai đó. Những câu trả lời nhất quán với nhau vì cùng dùng một bản tóm tắt không chứng minh rằng bản tóm tắt đúng với trao đổi gốc.

Khi thông tin gốc còn được lưu và hệ thống có khả năng lấy lại, việc bổ sung đoạn liên quan có thể khôi phục căn cứ đang thiếu. Nếu chi tiết chưa từng được giữ ở nơi nào còn truy cập được, mô hình không có cơ sở chắc chắn để tái tạo nó chỉ từ một bản tóm tắt đã lược bỏ.

4. Bộ nhớ ứng dụng tạo sự liên tục qua các cuộc trò chuyện

Hội thoại trước có thể kết thúc trong khi một số thông tin vẫn được ứng dụng lưu. Ở lần trao đổi khác, ứng dụng có thể đưa lại ghi chú đó để trợ lý tiếp tục dùng sở thích hoặc trạng thái công việc đã biết. Không cần mỗi lần đều gửi toàn bộ cuộc trò chuyện cũ.

Ghi chú có thể được tạo ngay khi trao đổi hoặc sau đó qua một quá trình xử lý riêng. Có ứng dụng lưu một hồ sơ ngắn; có ứng dụng lưu nhiều ghi chú rồi lựa chọn theo câu hỏi. Bộ nhớ được lưu lâu hơn một cuộc trò chuyện vẫn có thể chỉ giữ một phần thông tin, không phải bản ghi mọi chi tiết.

Truy hồi ký ức là tìm lại thông tin đã lưu để sử dụng ở thời điểm cần thiết. Một ghi chú đúng có thể chưa giúp được nếu không được chọn cho lượt hiện tại. Ngược lại, ghi chú được chọn nhưng đã lỗi thời có thể khiến câu trả lời tiếp tục dùng trạng thái cũ. Được lưu, được đưa vào ngữ cảnh và được sử dụng đúng là ba việc riêng.

Tình huống giả định: Ứng dụng lưu sở thích “báo cáo định kỳ nên trình bày ngắn gọn”, đồng thời lưu trạng thái “tuần này gửi báo cáo vào thứ Sáu”. Sở thích có thể hữu ích trong nhiều lần trao đổi. Mốc thứ Sáu gắn với một tuần cụ thể, cần giữ đúng phạm vi thời gian; biến nó thành lịch gửi cố định sẽ làm thay đổi ý ban đầu.

Một thông tin mới cũng có thể thay thế thông tin cũ. Nếu người dùng chuyển lịch gửi từ thứ Sáu sang thứ Tư, ứng dụng cần xử lý cập nhật hoặc chọn bản ghi phù hợp. Chỉ thêm một ghi chú mới mà vẫn lấy ghi chú cũ có thể tạo mâu thuẫn. Việc mô hình đọc đúng từng câu riêng lẻ chưa bảo đảm nó đã nhận được đúng trạng thái mới nhất.

Điều này giải thích vì sao cùng một mô hình có thể “nhớ” khác nhau trong hai ứng dụng. Cách lưu, lựa chọn và đưa thông tin trở lại có thể khác. Ngược lại, nếu ứng dụng chuyển sang mô hình khác nhưng vẫn cung cấp được ghi chú phù hợp, một số sở thích và trạng thái có thể tiếp tục được sử dụng. Sự liên tục ấy thuộc cả hệ thống, không chỉ thuộc một phiên bản mô hình.

Việc một cuộc trò chuyện mới nhắc đúng chuyện cũ cũng chưa tự chứng minh đã có bộ nhớ riêng được lưu. Thông tin cũ có thể được đưa lại qua lịch sử, một bản tóm tắt hoặc dữ liệu mà người dùng cung cấp. Cần biết đường đi của thông tin để xác định cơ chế; câu nói “tôi nhớ” của trợ lý không phải bản xác nhận kỹ thuật.

5. AI có học sau mỗi cuộc trò chuyện không?

Câu trả lời phụ thuộc vào việc “học” đang chỉ điều gì.

Thích ứng trong ngữ cảnh là sử dụng thông tin đang có để thay đổi cách trả lời. Mô hình có thể làm theo một quy ước vừa được giải thích, nhận ra mẫu từ vài ví dụ hoặc sửa cách hiểu sau khi được bổ sung dữ kiện. Hiện tượng này thường được gọi là học trong ngữ cảnh, hay in-context learning. Trong cách vận hành thông thường của nhiều LLM, nó không cần cập nhật tham số ở từng lượt chat.

Ví dụ giả định: Một nhóm quy ước rằng báo cáo có ba mục “Đã xong”, “Đang làm” và “Cần hỗ trợ”. Sau khi nhận quy ước cùng vài mẫu, mô hình dùng ba mục đó để trình bày công việc mới. Nó đang áp dụng thông tin trong ngữ cảnh bằng năng lực đã được huấn luyện. Kết quả này tự nó chưa chứng minh quy ước đã trở thành kiến thức bền vững của mô hình.

Nghiên cứu Language Models are Few-Shot Learners về GPT-3, công bố năm 2020, đã đánh giá việc thực hiện nhiệm vụ khi chỉ đưa chỉ dẫn hoặc thêm ví dụ vào ngữ cảnh. Trong các thử nghiệm đó, tham số không được cập nhật hay tinh chỉnh cho từng nhiệm vụ. Đây là bằng chứng cụ thể rằng khả năng thích ứng theo thông tin vừa nhận có thể diễn ra mà không huấn luyện lại ở thời điểm sử dụng.

Cập nhật bộ nhớ ứng dụng là ghi lại một thông tin để có thể dùng trong những lần sau. Nếu sở thích được lưu rồi đưa lại, trợ lý có thể tiếp tục đáp ứng sở thích đó dù cuộc trò chuyện mới không chứa lời nhắc của người dùng. Thứ đã thay đổi có thể là bản ghi bên ngoài, trong khi tham số mô hình vẫn giữ nguyên.

Học bằng cập nhật tham số là quá trình huấn luyện hoặc điều chỉnh mô hình. Cần xác định có cơ chế cập nhật này, bởi cùng tham số vẫn có thể tạo kết quả khác khi đầu vào đổi. Việc sửa đúng câu trả lời ngay trong chat có thể được giải thích bằng thông tin mới trong ngữ cảnh.

Không nên từ đó kết luận mọi hệ thống AI đều ngừng học sau triển khai. Có những hướng học liên tục và hệ thống được thiết kế để cập nhật mô hình. Dữ liệu tương tác cũng có thể được xử lý cho một đợt huấn luyện về sau, tùy hệ thống và chính sách áp dụng. Đó là một quá trình riêng, không đồng nghĩa với việc mỗi tin nhắn lập tức huấn luyện lại mô hình đang trả lời bạn.

Nếu một trợ lý nói “tôi đã học được điều này”, câu đó có thể chỉ việc đang làm theo thông tin mới. Nếu nó nói “tôi sẽ nhớ”, câu đó cũng chưa bảo đảm thông tin đã được ghi vào bộ nhớ và sẽ được lấy lại đúng lúc. Cách lưu và sử dụng dữ liệu phải được xác định từ tính năng, cơ chế và chính sách của ứng dụng.

Khi đánh giá khả năng nhớ của AI, điều cần hiểu là thông tin nằm ở đâu, có được cung cấp cho lượt hiện tại không và đã được dùng đúng chưa. Năng lực đã học giúp mô hình xử lý; ngữ cảnh cho biết điều đang cần xử lý; bộ nhớ ứng dụng giúp mang một phần thông tin sang những lần trao đổi sau. Chúng tạo ra sự liên tục có ích, đồng thời mỗi lớp đều có giới hạn riêng.