California muốn quản AI, start-up công nghệ có rời đi?

Hôm 29-8, dự luật gồm nhiều quy định kiểm soát trí tuệ nhân tạo (AI) đã vượt qua rào cản cuối cùng tại cơ quan lập pháp bang California. Hạn chót vào ngày 30-8 (giờ Mỹ), Thống đốc California Gavin Newsom sẽ phải đưa ra quyết định ký thành luật hoặc phủ quyết.

Rào cản cho AI

Có tên Đạo luật Đổi mới an toàn và bảo mật cho các mô hình AI tiên phong, hay SB 1047, luật này khi có hiệu lực sẽ buộc các công ty công nghệ và các công ty khởi nghiệp (start-up) đang phát triển các mô hình AI trong bang California phải tuân thủ một khuôn khổ an toàn nghiêm ngặt. 

Tại Thung lũng Silicon, tất cả các ông lớn trong ngành công nghiệp AI – bao gồm OpenAI, Anthropic và Cohere – và nhiều công ty công nghệ lớn khác sẽ nằm trong tầm kiểm soát của dự luật này.

SB 1047 yêu cầu các mô hình AI tiên tiến hoạt động trong bang California, với chi phí phát triển từ 100 triệu USD hoặc cần sức mạnh tính toán lớn, phải có các thử nghiệm an toàn. Các nhà phát triển cũng phải tạo một “công tắc tắt”, đề phòng tình huống các mô hình AI gặp trục trặc không mong muốn.

Cùng với đó, các bên liên quan có thể sẽ phải đối mặt với các hành động pháp lý từ tổng chưởng lý bang nếu họ không tuân thủ luật và mô hình AI của họ được sử dụng với mục đích gây hại cho cộng đồng.

Ngoài ra, các nhà phát triển cũng phải đảm bảo họ không phát triển các mô hình có khả năng gây nguy hiểm như tạo ra các loại vũ khí sinh học hay hạt nhân hoặc hỗ trợ cho các cuộc tấn công mạng.

Chưa hết, các công ty cũng sẽ phải thuê các bên kiểm toán thứ ba tiến hành đánh giá các biện pháp an toàn và phải bảo vệ những cá nhân đứng lên tố giác các mối nguy tiềm ẩn liên quan đến AI.

Theo nhận định của báo Financial Times, do Quốc hội Mỹ vẫn chưa thiết lập một khuôn khổ liên bang cho các quy định về AI nên bang California, nơi được xem là một trung tâm cho công nghệ và đổi mới của xứ cờ hoa, đã tiên phong đưa ra các quy định của riêng mình để quản lý công nghệ mới này.

Thượng nghị sĩ bang California Scott Wiener thuộc Đảng Dân chủ, cũng là tác giả của dự luật, cho biết đây là động thái cần thiết để bảo vệ công chúng trước những tiến bộ khó kiểm soát hoặc không thể kiểm soát được của công nghệ AI.

“Đổi mới và an toàn có thể song hành với nhau, và bang California đang dẫn đầu việc này. Cơ quan lập pháp bang đã thực hiện một bước đi lịch sử khi chủ động làm việc nhằm đảm bảo một công nghệ mới sẽ bảo vệ lợi ích của cộng đồng trong khi nó phát triển”, ông Wiener khẳng định.

Gây khó cho start-up công nghệ?

Với các quy định quản lý nghiêm ngặt, dự luật này đang chia rẽ Thung lũng Silicon, và Thống đốc California Newsom có khả năng đối diện với sự vận động hành lang mạnh mẽ từ cả hai phía ủng hộ và không ủng hộ.

Theo Hãng tin Reuters, các công ty công nghệ đang phát triển AI tạo sinh phản đối dự luật trên, cho rằng SB 1047 có thể khiến các công ty chuyên về AI lựa chọn rời khỏi bang California và dự luật này cản trở sự đổi mới.

Một số tiếng nói phản đối từ các “Big Tech” có thể kể đến như Google, Meta hay OpenAI. Hồi tháng 7, nhà khoa học hàng đầu về AI của Meta Yann LeCun viết trên X cho rằng dự luật này sẽ gây hại cho những nỗ lực nghiên cứu AI. 

OpenAI cũng cảnh báo dự luật trên sẽ tạo ra một môi trường pháp lý không chắc chắn cho các công ty AI, cũng như khiến các doanh nhân và kỹ sư rời khỏi bang California.

Góp một tiếng nói phản đối, cựu chủ tịch Hạ viện Mỹ Nancy Pelosi cho rằng dự luật này là “có ý tốt, nhưng thiếu thông tin”. Theo Financial Times, nhiều ý kiến phản đối cũng cho rằng dự luật này sẽ gây gánh nặng cho các công ty khởi nghiệp khi quy định những yêu cầu nặng nề và đôi khi là không thực tế.

Trong khi đó, nhiều ông lớn công nghệ khác như Anthropic (công ty do Amazon hậu thuẫn) hay tỉ phú công nghệ Elon Musk lên tiếng ủng hộ dự luật SB 1047.

“Đó là một quyết định khó khăn và sẽ khiến một số người khó chịu, nhưng xét cho cùng, tôi nghĩ California có lẽ nên thông qua dự luật an toàn AI SB 1047” – ông Musk viết trên X.

Đối với chuyên gia AI Geoffrey Hinton, từng làm việc cho Google, ông ủng hộ dự luật này khi nhận thấy các hệ thống AI mang lại triển vọng đáng kinh ngạc nhưng kèm theo đó là nhiều rủi ro rất thực tế và nên được xem xét cực kỳ cẩn trọng. “SB 1047 có cách tiếp cận rất hợp lý để cân bằng những lo ngại đó”, ông Hinton khẳng định.

AI: Đầu tư nhiều nhưng chưa thấy lãi

Trong bối cảnh Alphabet – công ty mẹ của Google – tiếp tục chi hàng tỉ USD vào trí tuệ nhân tạo (AI), các nhà đầu tư đang gây áp lực lên ông lớn công nghệ của Mỹ về việc khi nào mảng này sẽ có lãi.