HƯỚNG DẪN xã hội

Why California’s SB 1047 Was Vetoed

California SB 1047 was a 2024 proposal that would have imposed safety and security duties on developers of very large AI models and created state oversight mechanisms.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyĐọc trong 3 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. The Future of Why California’s SB 1047 Was Vetoed
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Governor Gavin Newsom vetoed the bill on September 29, 2024, arguing its size-based approach did not sufficiently account for deployment context and could cover basic functions. The veto ended that bill; later legislation such as SB 53 took a different path.

Lặn sâu

SB 1047, the Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, passed the California Legislature in 2024 but did not become law. Governor Gavin Newsom returned it unsigned on September 29, 2024. The proposal would have established obligations for developers of models above specified compute and cost thresholds, required safety and security protocols, addressed catastrophic-risk testing and incident response, and created state oversight mechanisms. It also included provisions concerning shutdown capability and whistleblower reporting. Because the governor vetoed the bill, those provisions did not take effect as SB 1047. In his veto message, Newsom said the bill’s size-based trigger did not adequately account for whether a system was deployed in a high-risk environment, involved critical decision-making, or used sensitive data. He argued the approach could impose stringent standards on systems with basic functions merely because they belonged to a large model. The message also acknowledged catastrophic risks and argued California should use a more flexible, evidence-based approach. The veto was therefore framed as a disagreement over scope and design, not a claim that AI risks were unimportant. Debate over SB 1047 involved competing concerns about catastrophic risk, innovation, open-source development, state oversight, and whether compute thresholds reliably identify dangerous capabilities. Supporters emphasized safety protocols and accountability for powerful models. Critics argued the bill could be overly broad, create uncertainty, or burden development. Those arguments are context for the legislative debate; they are not a substitute for the bill text or the governor’s message. California later enacted SB 53, the Transparency in Frontier Artificial Intelligence Act, in 2025. SB 53 created a different framework with transparency, incident-reporting, and whistleblower provisions for covered frontier developers. It should not be described as SB 1047 taking effect under a new name. To understand the policy shift, compare each enacted text, its scope and effective dates, then distinguish operative law from proposed measures and executive statements.

Triển khai trong thế giới thực

A reader distinguishes a bill’s proposed model thresholds from the requirements of a law that actually took effect.

A policy team compares the governor’s veto message with the enrolled bill to separate stated objections from the bill’s text.

A company tracks SB 53 as a later enacted law with its own definitions and reporting duties rather than calling it a re-enactment of SB 1047.

A journalist explains that the veto did not eliminate all California AI rules, including laws enacted separately on employment, content transparency, and consumer protection.

The Future of Why California’s SB 1047 Was Vetoed

The debate continues through later statutes, implementation, and federal policy. SB 53 is now law and may be amended or interpreted through regulations and enforcement. SB 1047 remains a vetoed proposal and a reference point in the policy debate, not an active compliance regime. Recheck official legislative sources before describing California’s current frontier-model requirements. Monitor implementation guidance and amendments to SB 53, while treating SB 1047 as historical legislative context. Verify each claim against official bill records. Distinguish proposals from enacted requirements.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the Why California’s SB 1047 Was Vetoed quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

What is Why California’s SB 1047 Was Vetoed?

California SB 1047 was a 2024 proposal that would have imposed safety and security duties on developers of very large AI models and created state oversight mechanisms. Governor Gavin Newsom vetoed the bill on September 29, 2024, arguing its size-based approach did not sufficiently account for deployment context and could cover basic functions. The veto ended that bill; later legislation such as SB 53 took a different path.

Did California SB 1047 become law?

Governor Newsom returned SB 1047 without signature on September 29, 2024.

What did the veto message criticize about the bill’s approach?

The governor argued the bill’s thresholds did not sufficiently consider context and could reach systems with basic functions.

What did SB 1047 propose for covered developers?

The proposal included safety and security requirements for developers of models meeting its thresholds.

How does SB 53 relate to the vetoed SB 1047?

SB 53 later enacted transparency and incident-reporting provisions under its own terms.

Which source explains Newsom’s reasons for the veto?

The official message records the governor’s stated reasons for returning SB 1047 unsigned.