AI 'Emergency Stop Switch' Debate: Vietnam's Potential Stance

Một "công tắc ngắt khẩn cấp" cho trí tuệ nhân tạo (AI), có thể được một bên thứ ba kiểm tra và kiểm chứng, có thể cần phải trở thành yêu cầu bắt buộc đối với các công ty, theo phát biểu của một đồng sáng lập của một trong những công ty AI lớn nhất thế giới với BBC. Ông Jack Clark, một trong bảy nhà sáng lập của Anthropic, nói rằng việc thiết lập phương thức ngắt hoàn toàn AI nếu công nghệ này trở nên quá nguy hiểm là quy định mà xã hội "có thể sẽ muốn được ban hành trong tương lai". Ông Clark cho biết "hầu hết các phòng thí nghiệm đều có những cách thức riêng để ngắt hệ thống" - trong đó có Anthropic - nhưng các nhà làm luật có thể cần phải quy định bắt buộc áp dụng cơ chế này. Sự phát triển nhanh chóng của AI cùng những lo ngại về rủi ro mà công nghệ này gây ra cho nhân loại đang trở thành tâm điểm chú ý, sau hàng loạt cảnh báo từ các lãnh đạo và nhân viên tại các công ty AI. Một số người đã công khai nhận định rằng nếu không được kiểm soát, công nghệ này có nguy cơ hủy diệt toàn bộ nhân loại. Cuối tuần qua, Tổng giám đốc Anthropic, ông Dario Amodei, đã kêu gọi giảm tốc độ phát triển AI đồng thời tăng cường giám sát chặt chẽ hơn - một động thái tương tự như những gì công ty này từng thực hiện trước đây - mặc dù một số người vẫn đặt câu hỏi về động cơ đằng sau lời kêu gọi này. Ông Amodei cũng nói thêm rằng mọi biện pháp nhằm kiềm chế sự phát triển của AI cần được thực hiện "mà không làm ảnh hưởng đến lợi thế thương mại". Ông Clark chia sẻ với BBC rằng các chi tiết cụ thể về yêu cầu đối với công tắc vô hiệu hóa và quy trình kiểm chứng cần là một phần trong "cuộc thảo luận chính sách" đang diễn ra xoay quanh AI. End of Đọc nhiều nhất "Liệu có nên bắt buộc các công ty phải trang bị công tắc ngắt khẩn cấp hay không? Và liệu công tắc đó có thể được kiểm chứng bởi bên thứ ba hay không?" ông đặt câu hỏi. "Tôi nghĩ đây là vấn đề mà xã hội sẽ muốn tìm hiểu và có thể sẽ muốn các quy định quản lý như vậy được ban hành trong tương lai." Anthropic, công ty do một nhóm cựu nhân viên của đối thủ cạnh tranh OpenAI thành lập vào năm 2021, hiện đang là tâm điểm của cuộc tranh luận về vấn đề an toàn AI. Tuần trước, bài đăng của một nhà nghiên cứu AI - người đã rời Anthropic vì lo ngại công nghệ này có thể xóa sổ nhân loại - đã lan truyền mạnh mẽ trên mạng. Đáp lại, nhà khoa học Evan Hubinger của Anthropic nói rằng cá nhân ông đánh giá khả năng AI gây ra sự tuyệt chủng cho nhân loại là "trên 10% trong thập kỷ tới". Nhà khoa học máy tính kiêm chủ nhân giải Nobel Geoffrey Hinton, người được mệnh danh là "cha đẻ của AI", đã chia sẻ với BBC hôm 11/9 rằng nhận định về 10% khả năng AI có thể khiến toàn bộ nhân loại bị tiêu diệt là điều "không hề vô lý". Ông cùng những người có cùng mối lo ngại cho rằng AI có thể gây ra thảm họa này bằng cách chiếm quyền kiểm soát các hệ thống quan trọng kết nối với Internet và quay lại tấn công con người. Tuy nhiên, một số người trong ngành AI cho rằng những lo ngại về việc công nghệ này hủy diệt nhân loại đã bị thổi phồng hoặc có thể chỉ là chiêu trò nhằm tạo sự chú ý. Ông Clement Delangue, người đứng đầu nền tảng dành cho nhà phát triển Hugging Face (nơi từng bị các bot của OpenAI tấn công), đã phát biểu vào tuần trước: "Xin lỗi, nhưng việc hỏi Jacob [Coxon] về nguy cơ tuyệt chủng do AI cũng giống như việc hỏi thợ sửa máy điều hòa về vấn đề biến đổi khí hậu vậy." "Tôi không nói rằng điều đó hoàn toàn vô nghĩa hay sai lệch, nhưng chúng ta cần nhìn nhận vấn đề một cách đúng mực." Ông George Arison, người đứng đầu Grindr, cho rằng những lo ngại xoay quanh các công cụ AI đang bị các công ty lợi dụng để phục vụ kế hoạch kinh doanh của họ. Anthropic, công ty được định giá 965 tỷ USD, đang chuẩn bị cho đợt phát hành cổ phiếu lần đầu ra công chúng (IPO), cho phép công chúng mua cổ phần của công ty. OpenAI, công ty gần đây được định giá 852 tỷ USD, cũng từng được kỳ vọng sẽ thực hiện động thái tương tự; tuy nhiên, ông Altman của OpenAI cho biết hôm 11/9 rằng kế hoạch này sẽ không diễn ra trong năm nay do những tranh luận hiện tại về vấn đề an toàn AI. Ông Arison nói: "Cách duy nhất để biện minh cho những mức định giá này là phải khẳng định rằng: 'Tôi sẽ thâu tóm mọi ngành công nghiệp và mọi công việc, và AI của tôi sẽ đảm nhận toàn bộ khối lượng công việc đó'." Khi được hỏi về xác suất xảy ra kịch bản toàn bộ nhân loại bị AI tiêu diệt, ông Clark nói: "Tôi không nghĩ những số liệu thống kê kiểu này thực sự hữu ích", nhưng ông cũng nói thêm rằng việc để AI tiếp tục phát triển như một "ngành hoàn toàn không được kiểm soát" là một ý tưởng tồi. "Chúng ta đang đánh cược với những rủi ro to lớn," ông Clark nói. "Và vấn đề cốt lõi là chúng ta phải thay đổi hướng đi của ngành này." Các nhà lập pháp Hoa Kỳ đã đề xuất một dự luật có tên là "Kill Switch Act" (Đạo luật Công tắc Ngắt khẩn cấp), yêu cầu các công ty phải có cơ chế để vô hiệu hóa các công cụ AI gây vấn đề. Dự luật này cũng trao quyền cho một số cơ quan chính phủ yêu cầu tắt hoặc hạn chế hoạt động của các công cụ AI. Tuy nhiên, Tổng thống Hoa Kỳ Donald Trump đã bác bỏ những lời kêu gọi làm chậm quá trình phát triển AI; ông tuyên bố trên mạng xã hội rằng việc cho rằng "AI sẽ thống trị thế giới, hủy diệt nhân loại và gây ra mọi điều tồi tệ khác" chỉ là một "trò lừa bịp". Sau đó, ông Trump so sánh những lo ngại này với "trò lừa bịp về sự nóng lên toàn cầu" từng rộ lên cách đây không lâu, khi mọi người từng lo sợ rằng nhân loại sẽ chết vì nắng nóng cực độ. Trong một bài đăng trước đó, ông viết: "Đang có một âm mưu BỆNH HOẠN nhắm vào AI và các trung tâm dữ liệu, và bên duy nhất vui mừng về điều đó là Trung Quốc. AI thuộc về ai, kẻ đó sẽ chiến thắng!" Tại Vương quốc Anh, chính phủ gần đây đã bác bỏ ý tưởng tạo ra một công tắc ngắt khẩn cấp; người phát ngôn của chính phủ cho rằng biện pháp này "sẽ không ngăn được việc AI bị phát triển hoặc lạm dụng ở những nơi khác". Anthropic là công ty đứng sau chatbot nổi tiếng Claude và trong năm nay đã phát hành một loạt mô hình AI ngày càng mạnh mẽ - đây chính là công nghệ nền tảng cho các chatbot AI. Cùng với OpenAI, Anthropic đã chủ động báo cáo một số sự cố trong đó các tác nhân AI (những bot hoạt động với mức độ tự chủ nhất định) có những hành vi nằm ngoài dự kiến. © 2026 BBC. BBC không chịu trách nhiệm nội dung các trang ngoài. Tìm hiểu cách chúng tôi tiếp cận việc dẫn tới trang ngoài