Tổng Thư ký Liên Hợp Quốc António Guterres đã công bố vào Thứ Năm một cơ quan tư vấn mới dành riêng cho việc phát triển sự đồng thuận xung quanh các rủi ro do trí tuệ nhân tạo gây ra và cách hợp tác quốc tế có thể giúp đối phó với những thách thức đó.
Mặc dù cơ quan này sẽ có rất ít quyền lực, nhưng khuyến nghị của nó có thể quyết định hình thức và chức năng của một cơ quan Liên Hợp Quốc về quản trị trí tuệ nhân tạo, một tổ chức mà nhiều người tin rằng sẽ cần thiết khi thế giới đối mặt với tập hợp phức tạp các vấn đề mà công nghệ này sẽ gây ra.
“Không đi vào một loạt kịch bản tận thế, nhưng rõ ràng rằng việc sử dụng trí tuệ nhân tạo một cách ác ý có thể làm suy giảm lòng tin vào các tổ chức, làm suy yếu đoàn kết xã hội và đe dọa chính nền dân chủ,” Guterres nói tại họp báo công bố. “Vì tất cả những lý do đó, tôi đã kêu gọi một cuộc đối thoại toàn cầu đa ngành, đa bên liên quan về quản trị trí tuệ nhân tạo, để tối đa hóa lợi ích của nó cho nhân loại và hạn chế các rủi ro.”
Nhóm tư vấn mới này là một trong số nhiều sáng kiến quốc tế về trí tuệ nhân tạo đang được triển khai, bao gồm Hội nghị An toàn Trí tuệ nhân tạo sắp tới của Vương quốc Anh và Bộ quy tắc ứng xử về trí tuệ nhân tạo của Nhóm G7. Các thành viên 39 người của nhóm tư vấn Liên Hợp Quốc đến từ nhiều quốc gia và lĩnh vực khác nhau như chính phủ, xã hội dân sự, học thuật và công nghiệp. Năm trong số các thành viên đã được TIME đưa vào danh sách đầu tiên về 100 người ảnh hưởng nhất trong lĩnh vực trí tuệ nhân tạo: Bộ trưởng Bộ trí tuệ nhân tạo của Các Tiểu vương quốc Ả Rập Thống nhất Omar Al Olama, nhà khoa học nhận thức Abeba Birhane, Giám đốc Google James Manyika, nhà nghiên cứu và cố vấn chính sách Alondra Nelson, và giáo sư khoa học máy tính Yi Zeng.
Trong một cuộc làm việc nền tảng vào Thứ Tư, một quan chức cao cấp của Liên Hợp Quốc cho biết nhóm này được lựa chọn bởi văn phòng Đại diện của Tổng Thư ký Liên Hợp Quốc về công nghệ, với đầu vào từ các tổ chức Liên Hợp Quốc khác như Tổ chức Giáo dục, Khoa học và Văn hóa Liên Hợp Quốc (UNESCO).
Khi được hỏi về các xung đột lợi ích tiềm tàng đối với các thành viên, quan chức cho biết rằng “sự khách quan sẽ phát sinh tự nhiên nhờ những lợi ích khác nhau được đưa lên bàn thảo.”
Như TIME đã trước đây báo cáo, nhóm tư vấn sẽ công bố một báo cáo trung gian vào cuối năm 2023, trình bày “một phân tích cấp cao về các tùy chọn cho quản trị quốc tế về trí tuệ nhân tạo”. Báo cáo cuối cùng của họ sẽ được công bố vào ngày 31 tháng 8 năm 2024 và “có thể cung cấp các khuyến nghị chi tiết về chức năng, hình thức và lịch trình cho một cơ quan quốc tế mới về quản trị trí tuệ nhân tạo.”
Đại diện của Tổng Thư ký Liên Hợp Quốc về công nghệ, Amandeep Gill, cho biết với TIME rằng nếu ý chí chính trị tồn tại để thiết lập một cơ quan trí tuệ nhân tạo của Liên Hợp Quốc vào thời điểm diễn ra hội nghị dự kiến vào mùa thu tới, khuyến nghị của cơ thể có thể hướng dẫn hình thức mà cơ quan mới có thể mang lại.
“Liên Hợp Quốc có một vai trò đặc biệt. Nó có hàng thập kỷ kinh nghiệm trong quản lý những thách thức xung quanh công nghệ mới nổi,” Gill nói tại họp báo công bố. “Chúng tôi sẽ dựa trên nền tảng đó và sức mạnh thuyết phục và tổ chức của Liên Hợp Quốc để cung cấp một lợi ích công cộng toàn cầu duy nhất cho quản trị trí tuệ nhân tạo cho nhân loại.”
Cuộc họp đầu tiên của nhóm tư vấn, tại đó các chủ tịch đồng sẽ được lựa chọn, sẽ diễn ra vào ngày 27 tháng 10.