Một thượng nghị sĩ cấp cao của California sẽ giới thiệu một dự luật trí tuệ nhân tạo (AI) mới lên thượng viện tiểu bang vào thứ Tư, bổ sung cho các nỗ lực quốc gia và toàn cầu nhằm quy định công nghệ phát triển nhanh chóng này.
Mặc dù Quốc hội có một số nỗ lực soạn thảo luật pháp AI, tiểu bang California – quê hương của Thung lũng Silicon, nơi đặt trụ sở chính của hầu hết các công ty AI hàng đầu thế giới – đóng một vai trò trong việc thiết lập các rào cản cho ngành công nghiệp này, theo Thượng nghị sĩ Scott Wiener, (D – San Francisco) người soạn thảo dự luật.
“Trong một thế giới lý tưởng, chúng ta sẽ có một chế độ quy định AI liên bang mạnh mẽ”, Wiener nói trong một cuộc phỏng vấn với TIME vào thứ Ba, đồng thời bổ sung rằng ông ủng hộ các nỗ lực của Quốc hội và Nhà Trắng trong việc quy định công nghệ này. “Nhưng California có lịch sử hành động khi chính phủ liên bang di chuyển quá chậm hoặc không hành động.”
Ông nói thêm: “Chúng ta cần đi trước các rủi ro này, không làm những gì chúng ta đã làm trong quá khứ xung quanh phương tiện truyền thông xã hội hoặc công nghệ khác, nơi chúng ta không làm gì trước khi có thể quá muộn.”
Dự luật nhắm mục tiêu vào các hệ thống AI “biên giới” ở ngưỡng khả năng. Nó đề xuất các hệ thống yêu cầu trên một lượng tính toán nhất định để đào tạo – một ngưỡng không được quy định trong dự luật – phải chịu các yêu cầu về tính minh bạch. Nó đề xuất thiết lập trách nhiệm pháp lý đối với “những người không thực hiện các biện pháp phòng ngừa thích hợp” để ngăn chặn hậu quả không mong muốn và sử dụng sai mục đích của các hệ thống AI tiên tiến. Nó cũng đề xuất bắt buộc các biện pháp bảo mật để ngăn chặn các AI tiên tiến rơi vào tay các quốc gia nước ngoài. Dự luật kêu gọi California thành lập “CalCompute”, một đám mây nghiên cứu tiểu bang đề xuất sẽ cung cấp cơ sở hạ tầng tính toán cần thiết cho các nhóm bên ngoài ngành công nghiệp lớn, như học viện và startup, để thực hiện công việc AI tiên tiến.
“Cơ quan lập pháp lo ngại về khả năng xảy ra hậu quả không mong muốn hoặc thậm chí thảm khốc do sự phát triển hoặc triển khai các mô hình AI tiên tiến trong tương lai”, dự luật nói. “Tốc độ phát triển kỹ thuật nhanh chóng trong AI đòi hỏi một cách tiếp cận lập pháp dự đoán các rủi ro mà công nghệ hiện tại và tương lai đặt ra cho an toàn công cộng để cho phép khai thác an toàn tiềm năng đầy đủ của công nghệ vì lợi ích công cộng.”
Tuy nhiên, giống như nhiều nỗ lực cho đến nay về quy định AI, dự luật ngắn gọn và chỉ đưa ra những nét chấm phá rộng rãi về một dự luật AI của California sẽ trông như thế nào. Theo một bản tóm tắt sự kiện riêng do văn phòng của Wiener ban hành, mục đích là thiết lập ý định của cơ quan lập pháp California “ban hành các quy tắc toàn diện quản lý sự phát triển của AI”, đồng thời cho phép đề xuất “tạo ra thảo luận và phản hồi trong một thời gian trước khi được sửa đổi với toàn bộ văn bản pháp lý và di chuyển qua quá trình lập pháp chính thức”. Kế hoạch là để văn bản đầy đủ được sửa đổi với các chi tiết cụ thể vào tháng 1, sẵn sàng để dự luật tiến triển thông qua cơ quan lập pháp (nơi Đảng Dân chủ có đa số áp đảo ở cả hai viện) vào năm 2024 và trở thành luật, sớm nhất là vào đầu năm 2025.
Wiener nói với TIME rằng ông muốn để các nhà làm luật tiểu bang quyết định các ngưỡng sức mạnh tính toán phù hợp để các điều khoản của dự luật có hiệu lực, và liệu trách nhiệm pháp lý về việc không thực hiện các biện pháp phòng ngừa thích hợp có nên rơi vào các tập đoàn hay nhân viên cá nhân. “Điều đó sẽ được thảo luận và quyết định”, ông nói. “Tôi không muốn đoán trước điều đó. Điều tôi muốn là có một hệ thống được thiết lập tạo ra động lực thực sự cho các công ty và phòng thí nghiệm để nghiêm túc và làm đúng.”
Wiener thừa nhận hiện tại chính phủ California không có khả năng kiểm toán các hệ thống AI hoặc thực thi đầy đủ dự luật. “Tôi không nghĩ có cơ quan nào ngay ngày mai có thể thực hiện điều này”, ông nói. “Chắc chắn một phần của cuộc thảo luận này cần là: cơ quan nào? Đó có phải là một cơ quan hiện có mà phạm vi có thể được mở rộng không? Hay là một cơ quan mới?” Ông nói, quyết định cuối cùng sẽ thuộc về Thống đốc California Gavin Newsom.
“Rất nhiều đổi mới AI đang diễn ra ở California”, Wiener nói. “Vì vậy, khi California đặt ra các quy tắc về AI, điều đó sẽ có tác động toàn cầu.”
Nhưng việc là quê hương của các công ty AI đồng thời tìm cách thiết lập khuôn khổ pháp lý cho chúng có thể tạo ra xung đột cho các nhà hoạch định chính sách muốn thúc đẩy đổi mới và tăng trưởng kinh tế. Riêng vào đầu tháng 9, Newsom đã ban hành một sắc lệnh hành pháp kêu gọi một “cách tiếp cận cân nhắc” đối với AI, giảm thiểu các rủi ro của nó đồng thời “duy trì vị trí là nhà lãnh đạo AI thế giới”. Sắc lệnh hành pháp làm echo một đề xuất chính sách đầu năm nay từ Vương quốc Anh, nơi phòng thí nghiệm AI hàng đầu Google DeepMind đặt trụ sở, nhấn mạnh nhu cầu chính phủ tránh một cách tiếp cận “nặng tay” đối với quy định AI có thể ngăn chặn đổi mới.