Khi người góp phần xây dựng AI bắt đầu cảnh báo về nó

Hãy tưởng tượng điện thoại reo. Đầu dây bên kia là giọng một người thân, nói rằng họ đang gặp chuyện gấp và cần bạn chuyển tiền. Giọng nói nghe rất quen. Nhưng nếu người gọi không phải là họ thì sao?

Hành Trình AI · 29 tháng 4 – 5 tháng 5 năm 2023

Đây là một tình huống giả định, không phải lời kể của một gia đình cụ thể. Nó giúp ta hình dung một câu hỏi trở nên cấp bách hơn khi AI ngày càng giỏi tạo ra âm thanh, hình ảnh và câu chữ: ta có thể tin vào điều gì mình nhìn thấy và nghe thấy?

Đầu tháng 5 năm 2023, một nhà nghiên cứu có đóng góp lớn cho nền tảng của AI hiện đại cũng đang đặt ra câu hỏi về sự tin cậy. Nhưng Geoffrey Hinton còn nhìn xa hơn những cuộc gọi giả: nếu một ngày nào đó các hệ thống do con người tạo ra trở nên mạnh hơn khả năng kiểm soát của chúng ta, điều gì sẽ xảy ra?

Một nhà nghiên cứu thay đổi cách nhìn

Trong nhiều thập kỷ, Hinton nghiên cứu mạng thần kinh nhân tạo: những hệ thống tính toán có thể học các mẫu từ dữ liệu. Công trình của ông cùng nhiều nhà nghiên cứu khác đã góp phần mở đường cho học sâu, kỹ thuật đứng sau nhiều tiến bộ trong nhận dạng hình ảnh, giọng nói và các ứng dụng AI. Ông không một mình phát minh ra AI hay ChatGPT. 1

Ngày 2 tháng 5 năm 2023, độc giả VnExpress được biết Hinton đã rời Google và công khai nói về những mối lo của ông. Bài báo cho biết ông rời công ty trong tháng 4; ngày câu chuyện xuất hiện trên báo không nhất thiết là ngày ông nghỉ việc. Tờ báo tổng hợp thông tin từ các nguồn quốc tế; nó cho thấy lời cảnh báo đã đến với độc giả Việt, nhưng không cho biết người Việt nói chung nghĩ gì về AI. 2

Theo Reuters, Hinton giải thích rằng ông muốn nói về những nguy hiểm của AI mà không phải cân nhắc phát biểu của mình ảnh hưởng đến Google thế nào. Nói với BBC, ông cũng nhắc đến tuổi nghỉ hưu. Động cơ của một quyết định nghề nghiệp có thể có nhiều phần; không cần biến nó thành câu chuyện một người chống lại một công ty để thấy điều đáng chú ý. 3 1

Điều khiến Hinton thay đổi suy nghĩ là tốc độ tiến bộ mà ông quan sát được. Ông nói với BBC rằng các chatbot khi đó, theo đánh giá của ông, chưa thông minh hơn con người, nhưng có thể sẽ đạt đến mức ấy sớm hơn ông từng nghĩ. Trong cuộc phỏng vấn CNN ngày 3 tháng 5, ông bày tỏ lo ngại rằng những hệ thống tương lai có thể trở nên thông minh hơn con người và giành quyền kiểm soát. 1 4

Đó là một cảnh báo từ người có chuyên môn sâu, không phải bằng chứng rằng kịch bản ấy chắc chắn xảy ra. Chúng ta cũng chưa có một chiếc thước đơn giản được mọi người đồng ý để so sánh toàn bộ trí thông minh của máy với con người.

Lợi ích, nỗi lo và câu hỏi ai chịu trách nhiệm

Hinton không chỉ nói về tương lai xa. Ông và các nhà quan sát khi ấy cũng nêu những nguy cơ gần hơn: thông tin giả dễ sản xuất hơn, công việc có thể thay đổi và người có mục đích xấu có thể sử dụng AI. Đồng thời, ông nói với BBC rằng trong ngắn hạn công nghệ có thể đem lại nhiều lợi ích hơn rủi ro và ông không cho rằng nên ngừng phát triển hoàn toàn. 1

Cách nhìn này để lại một bài toán khó. Một công cụ giúp người lao động viết nhanh hơn cũng có thể giúp kẻ lừa đảo viết một tin nhắn thuyết phục hơn. Một trợ lý có thể giúp tìm ý tưởng, nhưng câu trả lời sai của nó vẫn cần được con người phát hiện. Công nghệ hữu ích không tự động an toàn trong mọi hoàn cảnh.

Ngày 5 tháng 5 năm 2023, hai nhà nghiên cứu của cơ quan khoa học Australia CSIRO lưu ý rằng so sánh trí thông minh người và máy quá đơn giản có thể gây hiểu sai. Họ cũng lo ngại AI tạo sinh có thể được sử dụng để thao túng thông tin. Như vậy, không phải ai đặt trọng tâm ở cùng một câu hỏi: có người lo về quyền kiểm soát tương lai, có người nhấn mạnh tác hại con người gây ra với những hệ thống đang tồn tại. 5

Đó không nhất thiết là hai lựa chọn loại trừ nhau. Một xã hội có thể nghiên cứu rủi ro dài hạn, đồng thời yêu cầu các công ty giải thích và giảm tác hại đối với những người đang dùng sản phẩm hôm nay.

Một cuộc gặp ở Washington

Ngày 4 tháng 5, Phó tổng thống Mỹ Kamala Harris và các quan chức gặp lãnh đạo bốn công ty: Alphabet, Anthropic, Microsoft và OpenAI. Theo bản tường thuật của Nhà Trắng, cuộc trao đổi đề cập đến tính minh bạch, khả năng đánh giá hệ thống và việc bảo vệ chúng trước hành vi tấn công. Reuters cũng đưa tin về cuộc gặp. 6 7

Một cuộc gặp không chứng minh rằng mọi sản phẩm đã an toàn, cũng không tự tạo ra một đạo luật mới. Nó cho thấy câu hỏi mà Hinton nêu ra không chỉ nằm trong phòng thí nghiệm: chính phủ và doanh nghiệp đang phải bàn xem ai có trách nhiệm kiểm tra, giải thích và giảm thiểu rủi ro.

Cũng cần giữ một khoảng cách giữa lời hứa và kết quả. Muốn biết biện pháp nào có hiệu quả, công chúng cần thông tin có thể kiểm chứng, đánh giá có ý nghĩa và cách yêu cầu sửa sai khi có người bị ảnh hưởng.

Nhìn từ sau năm 2023

Những gì xảy ra sau đó không xác nhận mọi dự đoán của Hinton. Chúng giúp ta tách một số vấn đề cụ thể ra để xem xét.

Tháng 1 năm 2024, trước cuộc bầu cử sơ bộ ở bang New Hampshire, một chiến dịch gọi điện tự động sử dụng giọng giả Tổng thống Mỹ Joe Biden. Đến tháng 9 năm 2024, Ủy ban Truyền thông Liên bang Mỹ công bố quyết định phạt một nhà tư vấn chính trị liên quan đến chiến dịch này. Đây là một trường hợp được cơ quan Mỹ ghi nhận về việc con người lạm dụng công nghệ giả giọng; nó không chứng minh AI đã tự giành quyền kiểm soát hay cho biết tình hình phổ biến đến đâu ở Việt Nam. 8

Về việc làm, một nghiên cứu của Tổ chức Lao động Quốc tế công bố tháng 8 năm 2023 đánh giá rằng nhiều công việc có khả năng được AI bổ trợ hơn là bị tự động hóa hoàn toàn. Đó là dự đoán dựa trên mức độ công việc có thể bị tác động, không phải đếm số người đã mất việc. Đến tháng 6 năm 2026, một tổng quan của tổ chức này cho rằng bằng chứng được xem xét vẫn cho thấy dịch chuyển việc làm quy mô lớn còn hạn chế. Điều ấy không bảo đảm mọi cá nhân, nghề nghiệp hay quốc gia đều trải qua thay đổi giống nhau. 9 10

Với người lao động Việt Nam, câu hỏi thiết thực không chỉ là “AI có lấy mất việc của mình không?” mà còn là: phần việc nào đang thay đổi, ai được hưởng lợi từ năng suất tăng thêm và người lao động có cơ hội học kỹ năng mới hay không? Đây là những câu hỏi để tìm hiểu, không phải kết luận rằng một kết quả cụ thể đã xảy ra tại Việt Nam.

Giữ quyền lựa chọn

Quay lại cuộc gọi giả định lúc đầu: nếu ai đó thúc giục chuyển tiền, một bước thực tế là tạm dừng và gọi lại bằng số quen thuộc đã lưu để xác nhận. Việc kiểm tra giúp giảm rủi ro, dù không có phương pháp nào bảo đảm tuyệt đối.

Nhưng trách nhiệm không nên được đặt hết lên người nhận cuộc gọi. Nhà phát triển, nền tảng và cơ quan quản lý cũng phải đối mặt với câu hỏi về cách phòng ngừa lạm dụng và xử lý thiệt hại. Người dùng không thể tự mình kiểm toán một mô hình hay thay thế hệ thống bảo vệ công chúng.

Lời cảnh báo của Hinton vì thế không buộc chúng ta chọn giữa phấn khích và sợ hãi. Nó mời chúng ta đặt thêm một câu hỏi mỗi khi AI trở nên hữu ích hơn: ai có thể kiểm tra hệ thống, ai quyết định cách dùng nó, và ai chịu trách nhiệm khi mọi việc không diễn ra như dự kiến?