Khi 25 nhân vật AI gặp nhau trong một thị trấn ảo

Một người muốn tổ chức tiệc Valentine. Tin tức lan ra; vài người quen nhau, có người rủ nhau đi cùng, rồi một số nhân vật tìm đến bữa tiệc đúng giờ.

Khung cảnh nghe giống một câu chuyện đời thường. Nhưng những người tham gia ở đây là các nhân vật phần mềm trong một thị trấn ảo. Và đằng sau bữa tiệc ấy là câu hỏi mà một nhóm nghiên cứu muốn khám phá: nếu AI có thể ghi nhớ, lập kế hoạch và tương tác với nhau, điều gì sẽ xảy ra?

Ngày 7/4/2023, nhóm tác giả từ Stanford và Google công bố bản nghiên cứu sơ bộ Generative Agents, mô tả một môi trường với 25 nhân vật AI. Trong ví dụ về bữa tiệc, ý định tổ chức ban đầu được con người đặt vào; theo nhóm nghiên cứu, các nhân vật sau đó lan truyền lời mời và phối hợp trong quá trình mô phỏng. [1]

Đây là một thí nghiệm, không phải một thị trấn có người thật. Nhưng nó giúp ta nhìn thấy một câu hỏi đang lớn dần trong thế giới AI: sau khi trò chuyện được với máy, chúng ta sẽ giao cho nó bao nhiêu bước tiếp theo?

Những nhân vật có “ký ức”

Thị trấn này được thiết kế theo cảm hứng từ trò chơi The Sims. Các nhân vật có thể thực hiện những sinh hoạt được mô phỏng như thức dậy, đi làm và trò chuyện. Nhóm nghiên cứu gọi chúng là generative agents — có thể hiểu gần đúng là những tác nhân AI tạo sinh.

Một chatbot thông thường có thể trả lời khi được hỏi. Trong thí nghiệm này, các tác giả muốn nhân vật làm thêm một số việc: lưu lại những sự kiện dưới dạng văn bản, tìm lại thông tin liên quan khi cần, tạo ra những nhận định từ trải nghiệm đã lưu và dùng chúng để lập kế hoạch. [1]

Hãy hình dung một nhân vật được báo về bữa tiệc. Nếu thông tin ấy được lưu lại, nó có thể trở thành một phần dữ liệu mà hệ thống xem xét khi tạo kế hoạch tiếp theo. “Ký ức” ở đây là thông tin được phần mềm ghi và truy xuất; từ này không có nghĩa nhân vật nhớ hay cảm nhận như một con người.

Điều hấp dẫn là câu chuyện không dừng ở một câu trả lời đơn lẻ. Những gì một nhân vật tạo ra có thể trở thành thông tin đầu vào cho nhân vật khác. Trong môi trường do các nhà nghiên cứu xây dựng, một ý định ban đầu có thể dẫn đến nhiều cuộc tương tác.

Nhưng sự giống thật cũng dễ khiến chúng ta đi quá xa trong cách diễn giải. Nhóm tác giả đánh giá liệu hành vi có có vẻ hợp lý hay không trong điều kiện thí nghiệm. Kết quả không chứng minh các nhân vật có ý thức, có cảm xúc hay có thể xử lý đáng tin cậy những nhiệm vụ ngoài đời. Bản nghiên cứu xuất hiện ngày 7/4 là một bản công bố sơ bộ; bài hội nghị được công bố sau đó, vào tháng 10/2023. [1][2]

Từ câu trả lời đến hành động

Ở kỳ trước, chúng ta đã gặp câu hỏi về việc kết nối chatbot với các công cụ bên ngoài. Thí nghiệm ở thị trấn ảo mở thêm một góc nhìn: thay vì chỉ hỏi AI một câu rồi nhận lại một đoạn văn, con người có thể thiết kế một hệ thống để AI sử dụng thông tin từ các bước trước và tiếp tục tạo ra hành động trong một môi trường.

Sự khác biệt ấy đáng chú ý vì một chuỗi hành động có thể đem lại cả tiện ích lẫn sai sót nối tiếp. Nếu thông tin ban đầu sai, hoặc hệ thống chọn nhầm điều cần “nhớ”, các bước sau có thể dựa trên nền tảng sai đó. Trong nghiên cứu, các tác giả cũng mô tả những trường hợp nhân vật không truy xuất đúng ký ức hoặc thêm chi tiết không có căn cứ. [3]

Một nhân vật ảo bỏ lỡ bữa tiệc là chuyện nhỏ. Khi các hệ thống AI được giao những việc ảnh hưởng đến dữ liệu, tiền bạc hay người khác, câu hỏi kiểm tra và can thiệp trở nên quan trọng hơn nhiều. Đó là một suy luận về việc ứng dụng AI, không phải kết quả mà thí nghiệm thị trấn đã chứng minh.

Một câu hỏi từ Việt Nam

Trong cùng tuần ấy, ở TP Thủ Đức, một cuộc thảo luận về AI đặt ra một mối quan tâm gần gũi hơn. Theo VnExpress, tại hội nghị ngày 6/4, TS Võ Văn Khang, đại diện Chi hội An toàn thông tin phía Nam, cảnh báo về các rủi ro an toàn thông tin khi sử dụng ChatGPT. Ông Lê Anh Tiến, giám đốc một công ty chatbot, khuyến nghị người dùng hạn chế cung cấp thông tin cá nhân nhạy cảm. [4]

Đây là những ý kiến chuyên gia được báo thuật lại, không phải kết quả khảo sát đại diện cho người Việt. Cuộc thảo luận ở Thủ Đức và nghiên cứu về thị trấn ảo cũng là hai sự kiện riêng biệt.

Dù vậy, đặt cạnh nhau, chúng gợi ra một câu hỏi thiết thực. Giả sử một chủ cửa hàng muốn AI giúp tổng hợp yêu cầu của khách: hệ thống cần xem những thông tin nào để làm việc? Có cần đưa cả số điện thoại hay địa chỉ của khách vào không? Và người chủ có thể xem lại kết quả trước khi AI thực hiện bước tiếp theo không?

Đó là ví dụ giả định, không phải trường hợp đã được ghi nhận. Nó cho thấy việc giao thêm nhiệm vụ cho AI thường đi kèm với việc quyết định dữ liệu nào được chia sẻ và ai giữ quyền kiểm tra.

Ngày 5/4/2023, OpenAI cũng công bố quan điểm của mình về an toàn AI. Công ty nói họ muốn triển khai từng bước để học từ việc sử dụng thực tế, đồng thời thừa nhận các mô hình có thể đưa ra thông tin không chính xác. Đây là lập trường của nhà phát triển; tự nó không chứng minh các biện pháp đã giải quyết mọi rủi ro. [5]

Nhìn lại từ năm 2025

Ngày 23/1/2025, OpenAI giới thiệu bản xem trước nghiên cứu của Operator, một hệ thống có thể tương tác với giao diện web để thực hiện một số nhiệm vụ. Khi ra mắt, bản xem trước dành cho người dùng Pro tại Mỹ. Công ty cũng nói hệ thống chưa đáng tin cậy trong mọi tình huống và công bố các kết quả kiểm thử có giới hạn riêng. [6]

Operator và thị trấn ảo là hai hệ thống khác nhau, được tạo cho những môi trường khác nhau. Không thể từ hai mốc này kết luận nghiên cứu về thị trấn ảo trực tiếp dẫn đến Operator, hay suy ra điều kiện sử dụng và khả năng của sản phẩm ở hiện tại. Nhưng sự đối chiếu giúp ta thấy câu hỏi đã mở rộng: từ những nhân vật tương tác trong mô phỏng đến những hệ thống được thử nghiệm để thao tác trên giao diện phục vụ con người.

Thị trấn 25 nhân vật bắt đầu bằng một ý tưởng về bữa tiệc. Với những công việc có tác động thật, câu hỏi dành cho người thiết kế và người sử dụng sẽ khó hơn: AI được phép làm đến đâu, và con người có thể nhìn thấy, sửa hoặc dừng việc ấy như thế nào?

Tài liệu tham khảo

Park và cộng sự, Generative Agents: Interactive Simulacra of Human Behavior, arXiv — bản v1 nộp ngày 7/4/2023; trang mặc định hiện hiển thị bản v2.
ACM, bài nghiên cứu tại UIST 2023 — công bố tháng 10/2023.
Bản PDF nghiên cứu trên AMiner — bản lưu ghi tháng 4/2023, chứa phần giới hạn và lỗi do tác giả báo cáo; cần xác nhận đối chiếu từng trang với bản arXiv v1 trước xuất bản.
VnExpress, “Rủi ro mất an toàn thông tin khi dùng ChatGPT” — 6/4/2023.
OpenAI, “Our approach to AI safety” — 5/4/2023; quan điểm và mô tả của nhà phát triển.
OpenAI, “Computer-Using Agent” — 23/1/2025; công bố sản phẩm và kết quả kiểm thử của nhà phát triển.