Hóa đơn AI mới được giới thiệu tại California bởi SB 1047 tác giả

Thượng nghị sĩ bang California Scott Wiener, người đã gây xôn xao với dự luật an toàn AI gây tranh cãi SB 1047 năm ngoái, trở lại với một dự luật mới được cho là sẽ khiến Thung lũng Silicon xáo trộn. Vào thứ Sáu, Wiener giới thiệu SB 53, nhằm bảo vệ nhân viên tại các phòng thí nghiệm AI lớn khỏi bị trả đũa nếu họ nêu lên mối quan ngại về việc hệ thống AI của công ty gây ra "rủi ro nghiêm trọng" cho xã hội. Ngoài ra, dự luật đề xuất thành lập CalCompute, một cụm điện toán đám mây công cộng được thiết kế để cung cấp cho các nhà nghiên cứu và startup sức mạnh tính toán cần thiết để phát triển AI vì lợi ích công cộng.

Dự luật trước đó của Wiener, SB 1047, đã gây ra cuộc tranh luận quốc gia gay gắt về cách quản lý các hệ thống AI lớn có khả năng dẫn đến các sự kiện thảm khốc như gây thiệt hại lớn về người hoặc các cuộc tấn công mạng gây thiệt hại hơn 500 triệu USD. Mặc dù gây tranh cãi, Thống đốc Gavin Newsom đã phủ quyết dự luật vào tháng 9, cho rằng đó không phải là cách tiếp cận phù hợp.

Hậu quả từ SB 1047 rất dữ dội. Các ông lớn Thung lũng Silicon cho rằng dự luật sẽ làm suy yếu lợi thế của Mỹ trong cuộc đua AI toàn cầu, được thúc đẩy bởi những nỗi sợ hãi vô căn cứ về các kịch bản tận thế do AI gây ra. Wiener đáp trả, cáo buộc một số nhà đầu tư mạo hiểm đã tổ chức một "chiến dịch tuyên truyền" chống lại dự luật của ông. Đáng chú ý, tuyên bố của Y Combinator rằng SB 1047 có thể khiến các nhà sáng lập startup bị bỏ tù đã bị các chuyên gia đánh giá là gây hiểu lầm.

SB 53 dường như là một bước chuyển chiến lược, tập trung vào các yếu tố ít tranh cãi hơn của SB 1047. Dự luật nhấn mạnh vào việc bảo vệ người tố giác và thành lập CalCompute. Tuy nhiên, Wiener không từ bỏ các rủi ro tồn tại của AI. SB 53 rõ ràng bảo vệ những người tố giác tin rằng nhà tuyển dụng của họ đang phát triển các hệ thống AI có thể gây ra "rủi ro nghiêm trọng", được định nghĩa là rủi ro có thể dự đoán hoặc đáng kể có thể dẫn đến cái chết hoặc thương tích nghiêm trọng cho hơn 100 người, hoặc thiệt hại hơn 1 tỷ USD.

Dự luật nhắm đến các nhà phát triển mô hình AI tiên phong như OpenAI, Anthropic và xAI, cấm họ trả đũa nhân viên báo cáo mối quan ngại với Tổng chưởng lý California, cơ quan liên bang hoặc nhân viên khác. Các nhà phát triển này cũng phải báo cáo lại cho người tố giác về các quy trình nội bộ được đánh dấu là đáng lo ngại.

Về CalCompute, SB 53 sẽ thành lập một nhóm bao gồm đại diện Đại học California và các nhà nghiên cứu khác để lập kế hoạch phát triển. Họ sẽ quyết định quy mô của cụm và ai được quyền truy cập.

SB 53 vẫn đang trong giai đoạn đầu của quy trình lập pháp, cần được các cơ quan lập pháp California thông qua trước khi đến bàn làm việc của Thống đốc Newsom. Phản ứng của Thung lũng Silicon đối với dự luật mới này sẽ được theo dõi chặt chẽ.

Việc thông qua các dự luật an toàn AI vào năm 2025 có thể khó khăn hơn năm 2024, khi California thông qua 18 dự luật liên quan đến AI. Phong trào an toàn AI dường như đang mất đà, đặc biệt sau nhận xét của Phó Tổng thống J.D. Vance tại Hội nghị Hành động AI Paris, nơi ông nhấn mạnh đổi mới AI hơn là an toàn. Mặc dù CalCompute có thể được xem là thúc đẩy tiến bộ AI, nhưng tương lai của các nỗ lực lập pháp tập trung vào rủi ro tồn tại của AI vẫn còn bất định.

[ttpp][yyxx]