AI có thể vượt tầm kiểm soát?

Tôi nhớ lời cảnh báo của nhà vật lý thiên tài Stephen Hawking nhiều năm trước. Ông từng nói rằng: “Sự phát triển của trí tuệ nhân tạo có thể là bước tiến vĩ đại nhất trong lịch sử nhân loại - hoặc là tai họa cuối cùng của chúng ta”. Khi ấy, nhiều người cho rằng ông quá bi quan. Nhưng hôm nay, khi nhìn lại sự tiến hóa của AI, tôi hiểu rằng Hawking không nói về nỗi sợ, mà nói về trách nhiệm.

Các quốc gia giàu có đang đầu tư hàng tỷ đô la vào nghiên cứu và phát triển AI. Họ có dữ liệu, có hạ tầng, có nhân tài. Trong khi đó, những nước đang phát triển lại đối diện nguy cơ bị bỏ lại phía sau. Khoảng cách công nghệ sẽ sớm trở thành khoảng cách kinh tế, rồi dẫn đến bất bình đẳng xã hội sâu sắc hơn. Và điều đáng lo hơn cả là hàng triệu người lao động sẽ mất việc vì tự động hóa, trong khi sinh viên mới ra trường phải đối mặt với thị trường việc làm bị thu hẹp chưa từng có.

Tuy nhiên, đó vẫn chưa phải là điều đáng sợ nhất. Nỗi sợ thật sự không nằm ở việc con người làm gì với AI, mà ở việc AI sẽ làm gì với con người.

Hawking từng nói rằng con người tiến hóa qua hàng chục ngàn năm, còn AI chỉ cần vài thập kỷ để nhảy vọt từ những cỗ máy ngu ngốc thành công cụ biết suy nghĩ. Ông khẳng định: “Đây không phải là câu hỏi có xảy ra hay không, mà là khi nào”.

Tôi và các đồng nghiệp từng nhiều lần bàn luận về điều này. Tôi hỏi họ: Nếu AI làm sai, ai chịu trách nhiệm - con người hay máy móc? Làm sao có thể dạy cho máy biết thế nào là nhân tính, là giá trị của đời sống con người? Câu hỏi ấy tưởng như triết học, nhưng nay đã trở nên cấp bách. Phần lớn các chuyên gia đều cho rằng giai đoạn “AI có tri thức tự nhận thức” vẫn còn xa - ít nhất là mười năm nữa. Nhưng tôi không chắc họ còn giữ vững niềm tin ấy sau khi đọc báo cáo mới nhất của Viện Công nghệ Massachusetts (MIT).

Trong báo cáo này, MIT giới thiệu mô hình ngôn ngữ SEAL - một hệ thống có khả năng tự tạo dữ liệu huấn luyện, tự viết lại mã nguồn và tự điều chỉnh cấu trúc nội bộ để tối ưu hiệu suất. Nói cách khác, SEAL có thể tự học mà không cần con người can thiệp. Một đồng nghiệp của tôi ở MIT nói: “Đây là bước đầu để tạo ra trí tuệ nhân tạo biết tự tiến hóa”.

Về mặt khoa học, đây là một kỳ tích. Nhưng với tư cách một người làm nghề, tôi cảm thấy lạnh sống lưng. Khi máy móc có thể tự điều chỉnh để thích nghi, khả năng kiểm soát của con người sẽ ngày càng thu hẹp. Và rồi, nếu chúng ta chỉ dạy AI cách đạt hiệu quả, liệu có ngày nào đó, chúng sẽ kết luận rằng con người chính là mắt xích kém hiệu quả nhất trong hệ thống mà chúng vận hành?

Mối nguy lớn nhất của thời đại này, theo tôi, không đến từ AI, mà đến từ con người điều khiển AI. Máy móc không có lòng tham, không có ác ý; chúng chỉ thực hiện đúng điều ta dạy. Nếu một ngày AI gây hại cho nhân loại, lỗi không nằm ở máy móc - mà ở chính chúng ta, vì đã mù quáng chạy theo lợi nhuận và sức mạnh mà quên mất đạo đức và giới hạn.

Hawking từng viết trong Brief Answers to the Big Questions: “Nếu AI gây hại, đó không phải vì nó muốn, mà vì con người đã dạy nó phải làm vậy”. Tôi hoàn toàn đồng ý. Công nghệ chưa bao giờ có đạo đức; chỉ có người tạo ra nó mới có thể định hình đạo đức cho nó.

Chúng ta không thể quay lưng với AI, vì đó là tương lai không thể đảo ngược. Nhưng chúng ta có thể - và phải - đặt ràng buộc cho nó, trước khi quá muộn. Phải dạy máy hiểu về lòng nhân ái, sự sống và giá trị con người. Bởi nếu không, trong một thế giới nơi máy móc tự định hình số phận của chính nó, rất có thể con người sẽ trở thành kẻ bị định đoạt.