Khoảng trống An ninh AI về Vũ khí Hủy diệt Hàng loạt

(SeaPRwire) –   Vào năm 2023, cựu thanh tra vũ khí Liên Hợp Quốc kiêm nhà khoa học Rocco Casagrande đã đến Tòa nhà Văn phòng Hành pháp Eisenhower, bên cạnh Cánh Tây của Nhà Trắng, mang theo một chiếc hộp nhỏ, kín. Bên trong là một tá ống nghiệm chứa các thành phần mà nếu được lắp ráp đúng cách, có thể gây ra một đại dịch chết người.

Theo Casagrande, một chatbot AI không chỉ cung cấp cho ông công thức chết người; nó còn đưa ra ý tưởng về cách chọn điều kiện thời tiết và mục tiêu tốt nhất cho một cuộc tấn công. Đến đó để báo cáo với các quan chức chính phủ về rủi ro đại dịch được hỗ trợ bởi AI, vật dụng minh họa của Casagrande đã gửi một thông điệp mạnh mẽ đến các quan chức an ninh về việc AI đã phá vỡ các rào cản để chế tạo vũ khí hủy diệt nhanh đến mức nào.

Các rào cản để tạo ra một đại dịch đã bị hạ thấp, và các nhà hoạch định chính sách đã không hành động. Một đề xuất đưa ra các biện pháp phòng thủ, và một đề xuất khác ưu tiên phòng thủ hóa học và sinh học.

Có lẽ được thúc đẩy bởi cả mối quan ngại chân thành và nguy cơ trách nhiệm pháp lý, các công ty AI tiên phong cũng đã thể hiện vai trò lãnh đạo, được phản ánh trong một tuyên bố tại Hội nghị Thượng đỉnh Seoul. Các công ty này đã công khai cam kết giảm thiểu rủi ro trên toàn bộ phổ hóa học, sinh học, phóng xạ, hạt nhân và chất nổ (CBRNe).

Tuy nhiên, bất chấp những bước đi này, một khoảng trống an ninh đáng báo động vẫn còn. Mặc dù việc các công ty tập trung vào đại dịch là điều tốt, nhưng hệ sinh thái đang tập trung quá mức vào một mô hình “khủng bố virus cô độc” duy nhất như là mối đe dọa nghiêm trọng nhất. Đáng chú ý là ít sự chú ý hơn đang được dành cho tất cả các kịch bản rủi ro khác. Việc tập trung vào các cá nhân khiến các mối đe dọa từ nhà nước và nhóm khủng bố bị xem xét một cách nguy hiểm.

Hơn nữa, rủi ro virus đại dịch không phải là một đại diện đầy đủ cho các mối đe dọa khác. Các bước kỹ thuật để phát triển chất nổ tự chế, tác nhân sinh học không lây truyền và vũ khí hóa học khác biệt với các tác nhân sinh học lây truyền. Chẳng hạn, việc chế tạo và triển khai một vũ khí hóa học như Sarin, trái ngược với virus, liên quan đến một loạt các bước kỹ thuật hoàn toàn khác. Vì lý do này, chúng ta cần các bài kiểm tra an toàn AI riêng biệt.

Tuy nhiên, tự bản thân chúng, những mối đe dọa “ít hơn” này vẫn có thể giết chết nhiều người, tàn phá cộng đồng và gieo rắc hỗn loạn khắp các quốc gia. Chúng ta đang có nguy cơ tạo ra một hệ thống an toàn chỉ chăm chăm vào việc phòng thủ trước đại dịch tiếp theo trong khi mở toang cánh cửa cho các hình thức khủng bố khác.

Đáng lo ngại là, chúng ta đã thấy các phòng thí nghiệm AI lớn không thực hiện đầy đủ các cam kết an toàn, có lẽ một phần vì họ thiếu dữ liệu mật để thực hiện chúng. Ví dụ, trong khi một số công ty AI công bố các bài kiểm tra về việc liệu mô hình của họ có thể giúp gây ra đại dịch hay không, họ không nêu chi tiết liệu những mô hình tương tự có thể hỗ trợ các cuộc tấn công hóa học hoặc bằng chất nổ tự chế hay không.

Sự thiếu sót này là nguy hiểm. AI tiên tiến không chỉ giúp cá nhân chế tạo vũ khí; nó còn có thể giúp họ vượt qua các biện pháp kiểm soát xuất khẩu và che giấu dấu vết, cho phép bất kỳ ai vượt qua các rào cản quốc tế mà không bị phát hiện. Điều quan trọng là, điều này tạo ra một điểm mù khiến tất cả chúng ta dễ bị tổn thương trước chính những đại dịch mà chúng ta sợ hãi nhất. Một tác nhân xấu khám phá việc sử dụng AI cho một cuộc tấn công hóa học hoặc nổ ngày hôm nay có thể đang diễn tập cho một cuộc tấn công sinh học vào ngày mai.

Nếu hệ thống an toàn của chúng ta được thiết kế để chỉ báo động đỏ cho ngày tận thế, chúng ta sẽ bỏ lỡ những tín hiệu cảnh báo dẫn đến nó.

Chúng ta cần một cách phân loại rủi ro rộng hơn, được thông tin bởi các chuyên gia. Một sự điều chỉnh căn bản là cần thiết để cũng giải quyết các mối đe dọa được hỗ trợ bởi AI có khả năng xảy ra cao hơn, không chỉ những mối đe dọa khải huyền nhất. Các công ty tiên phong và cộng đồng các tổ chức tư vấn cho họ không thể tự mình giải quyết vấn đề này — họ thiếu thông tin tình báo mật để hình thành sự hiểu biết rõ ràng hơn về các mối đe dọa từ nhà nước và phi nhà nước, cũng như các cơ chế chính phủ và quan hệ quốc tế cần thiết để tạo ra luật pháp, cấu trúc và quan hệ đối tác cần thiết để giải quyết thách thức. Ngược lại, các chính phủ thiếu sự hiểu biết đầy đủ về khả năng của AI và kiến thức độc quyền, cũng như dữ liệu thiết yếu về hành vi người dùng đáng ngờ. Một sự im lặng nguy hiểm là kết quả của những “ốc đảo” này.

Quan hệ đối tác công-tư nên được thiết kế cho an ninh quốc gia. Những quan hệ đối tác như vậy sẽ hợp nhất thông tin tình báo mật của nhà nước với dữ liệu độc quyền của các công ty công nghệ và bên thứ ba, tập hợp nhân sự được cấp phép chéo để phát hiện các mối đe dọa mà không bên nào có thể nhìn thấy một mình. Điều này sẽ đòi hỏi một mức độ đổi mới vượt xa bất cứ điều gì đã từng được thử nghiệm trước đây, nhưng lợi ích sẽ là rất lớn.

Thật vậy, lịch sử dạy chúng ta rằng ngoại giao và chính sách có thể cứu sống con người. Khoảng nửa thế kỷ trước, các nhà lãnh đạo thế giới đã tham dự một hội nghị và ký một hiệp ước giải trừ quân bị cấm phát triển vũ khí sinh học và độc tố. Và năm ngoái là kỷ niệm một trăm năm của một nghị định thư, cấm sử dụng vũ khí hóa học và sinh học trong các cuộc xung đột vũ trang quốc tế. Cả hai đều đại diện cho những thỏa thuận tập thể về tính phi nhân đạo cơ bản của việc sử dụng những vũ khí này và trách nhiệm chung của chúng ta trong việc đảm bảo chúng bị ngăn chặn.

Một thế kỷ trước, những người hiểu được tiềm năng tàn phá của các công nghệ mới đã nhận ra sự cần thiết phải hành động quyết tâm trên toàn bộ phạm vi các mối đe dọa có thể lường trước.

Trong một thời đại hoàn toàn khác, chúng ta lại cần sự quyết tâm đó — và chúng ta cần nó trước khi quá muộn.