Chuyện gì đã xảy ra
Thượng nghị sĩ Hoa Kỳ Andy Kim (D-NJ) kêu gọi khung pháp lý liên bang ràng buộc đối với trí tuệ nhân tạo, cho rằng việc dựa vào 'thiện chí tự nguyện' của các công ty AI là không thể chấp nhận được do những rủi ro xã hội của công nghệ. Trong một cuộc phỏng vấn với Politico, Kim chỉ trích các đề xuất chỉ dựa vào những người đánh giá bên ngoài truy cập vào các địa điểm nghiên cứu, nói rằng việc đưa những người đánh giá vào bên trong phòng thí nghiệm là không đủ để giải quyết những lo ngại của ông về hướng đi của công nghệ. Ông đặc biệt đề cập đến mô hình 'Mythos' của Anthropic, lưu ý đến khả năng hack của nó và tuyên bố rằng xã hội phải được xây dựng để chống lại sự phát triển như vậy. Ông Kim cũng không đồng tình với quan điểm của Tổng thống Trump rằng các quy định an toàn xung đột với việc duy trì khả năng cạnh tranh của Mỹ trước Trung Quốc, đồng thời khẳng định rằng quy định và khả năng cạnh tranh không loại trừ lẫn nhau. Ông cho biết rằng Ủy ban Thương mại Thượng viện, nơi ông phục vụ, hiện đang thảo luận về luật liên quan và dự kiến sẽ tổ chức một phiên họp tăng giá trong những tuần tới.
Thượng nghị sĩ Andy Kim, thành viên Ủy ban Thương mại Thượng viện, đã nói chuyện với Politico vào ngày 14 về sự cần thiết của quy định AI liên bang. Ông lập luận rằng cách tiếp cận hiện tại dựa vào thiện chí tự nguyện của các công ty AI là không đủ để quản lý các rủi ro xã hội do công nghệ này gây ra.
Kim đã đánh giá các đề xuất hiện có cho phép các nhà đánh giá bên ngoài truy cập vào các địa điểm nghiên cứu AI nâng cao. Ông tuyên bố rằng việc đưa những người đánh giá vào bên trong các phòng thí nghiệm là không đủ để giải quyết mối lo ngại của ông về hướng đi của công nghệ và cần phải rõ ràng hơn nhiều về các tiêu chuẩn mà người đánh giá phải tuân theo.
Thượng nghị sĩ đã đề cập cụ thể đến 'Mythos' của Anthropic, mà ông lưu ý rằng đã thu hút sự chú ý vì khả năng hack của nó. Ông tuyên bố, 'Chúng ta phải xây dựng một xã hội có thể chống lại Mythos' và cho biết ông đang thảo luận vấn đề này với nhiều bộ phận khác nhau của chính phủ, mặc dù ông không nói rõ về bản chất cụ thể của những cuộc thảo luận này.
Kim mô tả cuộc trò chuyện của ông với các thượng nghị sĩ đồng nghiệp là 'hiệu quả, mang tính lưỡng đảng' và tuyên bố rằng Ủy ban Thương mại dự kiến sẽ tổ chức một phiên thảo luận về luật AI trong những tuần tới. Ông cũng đề cập đến sự phản đối của Tổng thống Trump đối với các nhân viên bảo vệ an toàn, nói rằng nhận xét của tổng thống là sai và việc quản lý AI không nhất thiết phải xung đột với việc duy trì khả năng cạnh tranh với Trung Quốc.
Chi tiết nguồn: news.sbs.co.kr ↗
Tại sao nó quan trọng
Tuyên bố này báo hiệu một mốc thời gian lập pháp cụ thể cho việc giám sát AI của liên bang, chuyển cuộc tranh luận từ những lo ngại về an toàn trừu tượng sang các bước thủ tục cụ thể tại Thượng viện. Bằng cách từ chối rõ ràng việc tuân thủ tự nguyện và chỉ trích sự phản đối của chính quyền đối với các nhân viên bảo vệ an toàn, Kim nêu bật sự khác biệt đáng kể về đảng phái và chính sách sẽ định hình hình thức cuối cùng của bất kỳ đạo luật AI nào. Việc tham chiếu đến các khả năng của mô hình cụ thể, chẳng hạn như khả năng của 'Mythos' của Anthropic, đưa ra tính cấp bách về quy định đối với các rủi ro kỹ thuật được ghi lại thay vì các tình huống giả định. Sự phát triển này rất quan trọng để hiểu chính sách liên bang có thể tương tác như thế nào với thực tiễn của ngành và động lực cạnh tranh quốc tế trong thời gian tới.
Lời kêu gọi về một khuôn khổ liên bang mang tính ràng buộc thể hiện sự chuyển đổi từ các tiêu chuẩn ngành tự nguyện sang các yêu cầu pháp lý bắt buộc, điều này có thể làm thay đổi đáng kể bối cảnh tuân thủ của các nhà phát triển AI.
Lời chỉ trích cụ thể của Kim đối với các mô hình tiếp cận của người đánh giá cho thấy rằng luật pháp trong tương lai có thể yêu cầu các cơ chế giám sát được tiêu chuẩn hóa, chặt chẽ hơn thay vì kiểm toán đặc biệt.
Sự bất đồng rõ ràng với quan điểm của chính quyền về an toàn so với khả năng cạnh tranh đã làm nổi bật một ranh giới chính trị quan trọng sẽ quyết định tính khả thi và phạm vi của luật AI liên bang.
Việc tham chiếu đến các khả năng cụ thể của mô hình, chẳng hạn như hack, cung cấp bằng chứng cụ thể cho hành động quản lý có thể gây được tiếng vang với các nhà hoạch định chính sách quan tâm đến an ninh quốc gia và an toàn công cộng.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Xem gì tiếp theo
Theo dõi phiên đánh giá sắp tới của Ủy ban Thương mại Thượng viện về luật AI để xem liệu các tiêu chuẩn ràng buộc do Kim đề xuất có được đưa vào văn bản cuối cùng hay không. Theo dõi xem các thượng nghị sĩ khác có cùng Kim phản đối lập trường của chính quyền về các quy định an toàn so với khả năng cạnh tranh hay không. Hãy theo dõi bất kỳ phản hồi chính thức nào từ Nhà Trắng hoặc các nhà lãnh đạo ngành AI đối với những lời chỉ trích cụ thể của Kim về khuôn khổ tuân thủ tự nguyện.
Kết quả phiên họp đánh giá của Ủy ban Thương mại Thượng viện sẽ tiết lộ liệu các tiêu chuẩn ràng buộc do Kim đề xuất có thu hút được sự chú ý hay bị giảm bớt hay không.
Phản ứng từ các công ty AI, đặc biệt là Anthropic, trước việc đề cập cụ thể đến mô hình 'Thần thoại' của họ và lời kêu gọi giám sát chặt chẽ hơn sẽ là biểu hiện của mối quan hệ giữa ngành và chính phủ.
Các tuyên bố tiếp theo từ các thượng nghị sĩ và quan chức chính quyền khác sẽ làm rõ mức độ ủng hộ của lưỡng đảng đối với các quy định bắt buộc về an toàn AI.
Bất kỳ văn bản lập pháp nào do ủy ban ban hành sẽ cho thấy 'thiện chí tự nguyện' được thay thế bằng các nhiệm vụ pháp lý và cơ chế thực thi cụ thể như thế nào.