HƯỚNG DẪN xã hội

California SB 53 và Tính minh bạch của Frontier AI

California SB 53, the Transparency in Frontier Artificial Intelligence Act signed in September 2025, applies to developers of the most computationally intensive AI models.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. The Future of California SB 53 and Frontier AI Transparency
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

It requires them to publish safety frameworks and transparency reports, report critical safety incidents to the state, and protects whistleblowers who raise catastrophic risk concerns. It matters because it is one of the first US laws aimed specifically at frontier model developers, and it replaced the liability-focused approach of the vetoed SB 1047 with required disclosure.

Lặn sâu

SB 53 defines a frontier model as a foundation model trained with more than 10^26 integer or floating-point operations, including compute from later fine-tuning or modification. Any developer that has trained such a model is a frontier developer and must publish a transparency report when it deploys a new or substantially modified frontier model. A large frontier developer, one with more than $500 million in annual revenue, must also publish and annually review a frontier AI framework, include summaries of catastrophic risk assessments in its transparency reports, and periodically send the Office of Emergency Services (OES) summaries of assessments of catastrophic risk from internal use of its models. Catastrophic risk means a foreseeable and material risk that a model contributes to the death or serious injury of more than 50 people, or more than $1 billion in damage, in a single incident. The risk must arise through expert-level help with chemical, biological, radiological or nuclear weapons; a cyberattack or serious crime carried out without meaningful human oversight; or the model evading its developer's control. Critical safety incidents include unauthorized access to model weights, harm from a materialized catastrophic risk, and loss of control. Developers may not make materially false or misleading statements about catastrophic risk. The Attorney General enforces the law with civil penalties of up to $1 million per violation. SB 53 also creates a consortium to design CalCompute, a public computing cluster. The law followed SB 1047, also by Senator Scott Wiener, which would have required pre-deployment safety testing, shutdown capability and liability for critical harms. Governor Newsom vetoed it in September 2024 and convened an expert group whose June 2025 report favored transparency with verification. SB 53 does not require licensing, pre-approval or a kill switch.

Triển khai trong thế giới thực

A large frontier developer with more than $500 million in annual revenue must publish a frontier AI framework on its website. The framework explains how the company assesses and mitigates catastrophic risks, including whether it uses third-party evaluators.

When a developer releases a new frontier model, it must publish a transparency report covering the model's intended uses and restrictions. Large developers must also summarize their catastrophic risk assessments in that report.

A developer that discovers its unreleased model weights were stolen must report the critical safety incident to California's Office of Emergency Services within 15 days. If the incident poses an imminent risk of death or serious injury, the deadline is 24 hours.

An employee who believes their company is misrepresenting catastrophic risk can report it to the Attorney General or other authorities and is protected from retaliation. Large developers must also provide an anonymous internal reporting channel.

The Future of California SB 53 and Frontier AI Transparency

Most obligations took effect on January 1, 2026, so there is little enforcement history yet. Open questions include how OES will handle incident reports and how actively the Attorney General will pursue penalties. The law directs state officials to review its definitions and thresholds over time, because a fixed compute threshold may become outdated as training becomes more efficient. The biggest uncertainty is federal policy: efforts in Congress and from the White House to preempt or challenge state AI laws have left the relationship unsettled. Other states, including New York, have pursued similar frontier-model transparency legislation.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the California SB 53 and Frontier AI Transparency quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

What is California SB 53 and Frontier AI Transparency?

California SB 53, the Transparency in Frontier Artificial Intelligence Act signed in September 2025, applies to developers of the most computationally intensive AI models. It requires them to publish safety frameworks and transparency reports, report critical safety incidents to the state, and protects whistleblowers who raise catastrophic risk concerns. It matters because it is one of the first US laws aimed specifically at frontier model developers, and it replaced the liability-focused approach of the vetoed SB 1047 with required disclosure.

Ngưỡng tính toán huấn luyện nào xác định một mô hình tiên tiến theo SB 53?

SB 53 defines a frontier model as one trained with more than 10^26 integer or floating-point operations, counting compute used in later fine-tuning or modification.

Mức doanh thu hàng năm nào biến một nhà phát triển mô hình tiên tiến thành nhà phát triển mô hình tiên tiến lớn?

Developers with more than $500 million in annual revenue count as large frontier developers. They must publish a frontier AI framework and meet additional reporting duties.

Thời hạn tiêu chuẩn để báo cáo một sự cố an toàn nghiêm trọng cho tiểu bang là gì?

Developers generally must report critical safety incidents to the Office of Emergency Services within 15 days. A shorter deadline applies when there is imminent danger.

Phải báo cáo sự cố nhanh đến mức nào nếu sự cố đó gây ra rủi ro imminent về tử vong hoặc thương tích nghiêm trọng?

If an incident poses an imminent risk of death or serious injury, the developer must notify an appropriate authority within 24 hours.

Điều nào sau đây KHÔNG được yêu cầu bởi SB 53?

SB 53 relies on disclosure, incident reporting and whistleblower protection. It does not require licensing, pre-approval or a kill switch. Shutdown capability was part of the vetoed SB 1047.