Chuyện gì đã xảy ra
Louisiana đã ban hành luật mới cấm sử dụng AI để tạo ra giọng nói giả mạo hoặc mạo danh nhân vật của công chúng trong các cuộc gọi điện thoại liên quan đến chiến dịch mà không tiết lộ rõ ràng. Đạo luật do Hạ nghị sĩ Michael Bayham và Hạ nghị sĩ Mandie Landry đồng tác giả, yêu cầu bất kỳ cuộc gọi tự động hoặc thủ công nào sử dụng giọng nói do AI tạo ra của một nhân vật của công chúng phải nêu rõ ngay từ đầu rằng nó được tạo ra bằng trí tuệ nhân tạo. Các hành vi vi phạm sẽ bị phạt dân sự lên tới 2.500 USD đối với người vi phạm lần đầu và 5.000 USD đối với các lần vi phạm tiếp theo, do Ủy ban Đạo đức của bang thi hành.
Theo Fox8Live, một luật mới của Louisiana đã được ban hành để bảo vệ cử tri khỏi bị lừa dối thông qua thông tin liên lạc về chiến dịch do AI tạo ra. Luật đặc biệt nhắm vào các cuộc gọi điện thoại, bao gồm cả các cuộc gọi tự động, sử dụng trí tuệ nhân tạo để tạo ra tiếng nói của một nhân vật của công chúng, chẳng hạn như một quan chức được bầu hoặc một nhân vật công chúng hạn chế.
Luật pháp yêu cầu bất kỳ cuộc gọi nào như vậy phải bao gồm tiết lộ rõ ràng và dễ hiểu ngay từ đầu cuộc gọi cho biết rằng cuộc gọi đó được tạo bằng trí tuệ nhân tạo. Dân biểu Michael Bayham, đồng tác giả của dự luật, giải thích rằng việc tiết lộ không thể bị trì hoãn cho đến sau khi cuộc gọi kết thúc hoặc trong khoảng thời gian im lặng, vì điều này sẽ không thông báo hiệu quả cho người nhận.
Luật pháp quy định các hình phạt dân sự đối với việc không tuân thủ. Những người vi phạm lần đầu có thể bị phạt tới 2.500 USD, trong khi vi phạm lần thứ hai hoặc tiếp theo có thể bị phạt tới 5.000 USD. Ban Đạo đức Tiểu bang Louisiana được chỉ định quản lý và thực thi các điều khoản này.
Nhà phân tích chính trị Robert Collins của Đại học Dillard lưu ý rằng khả năng bắt chước giọng nói và hình ảnh của AI đã được cải thiện đáng kể trong năm qua, khiến cử tri bình thường khó phân biệt giữa phương tiện thực và phương tiện tổng hợp. Ông nhấn mạnh rằng luật nhằm ngăn chặn tình trạng tham nhũng trong quá trình dân chủ bằng cách đảm bảo cử tri nhận được thông tin thực tế.
Chi tiết nguồn: fox8live.com ↗
Tại sao nó quan trọng
Đạo luật này giải quyết nguy cơ ngày càng tăng về thông tin sai lệch do AI tạo ra trong các quy trình dân chủ, đặc biệt nhắm mục tiêu vào các công nghệ nhân bản giọng nói có thể bắt chước các ứng cử viên hoặc quan chức có độ trung thực cao. Bằng cách bắt buộc tiết lộ theo thời gian thực, luật này nhằm mục đích duy trì niềm tin của cử tri và ngăn chặn sự thao túng trong giai đoạn quan trọng dẫn đến cuộc bầu cử giữa nhiệm kỳ. Nó thể hiện một phản ứng pháp lý cụ thể đối với khả năng thực tế của tổng hợp giọng nói AI hiện đại, chuyển gánh nặng minh bạch cho những người thực hiện chiến dịch thay vì dựa vào sự hoài nghi của cử tri.
Đạo luật này là phản ứng trực tiếp trước sự tiến bộ nhanh chóng của công nghệ nhân bản giọng nói AI, cho phép tạo ra các hình ảnh mạo danh nhân vật của công chúng có tính thực tế cao. Khả năng này đặt ra mối đe dọa đáng kể đối với tính toàn vẹn của các chiến dịch bầu cử, nơi mà niềm tin vào tính xác thực của thông tin liên lạc là điều tối quan trọng.
Bằng cách yêu cầu tiết lộ trước, luật pháp cố gắng giảm thiểu vấn đề 'giả sâu' trong một kênh cụ thể, có tác động lớn: các cuộc gọi điện thoại cho chiến dịch. Cách tiếp cận này có mục tiêu rõ ràng hơn là các lệnh cấm rộng rãi đối với việc sử dụng AI, thay vào đó tập trung vào tính minh bạch và bảo vệ người tiêu dùng.
Thời điểm ban hành luật, chưa đầy hai tháng trước cuộc bầu cử giữa nhiệm kỳ, nhấn mạnh tính cấp thiết của việc giải quyết thông tin sai lệch do AI điều khiển trong bối cảnh bầu cử trước mắt. Nó báo hiệu sự sẵn sàng lập pháp để điều chỉnh luật bầu cử hiện tại cho phù hợp với thực tế công nghệ mới.
Sự tham gia của Ủy ban Đạo đức Tiểu bang trong việc thực thi cho thấy sự tích hợp quy định AI vào các khuôn khổ giám sát chính trị hiện có, có khả năng tạo tiền lệ cho cách các tiểu bang khác có thể xử lý các vấn đề tương tự.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
Why can ethical evaluation not be reduced to one model score?
Xem gì tiếp theo
Giám sát các hành động thực thi ban đầu của Ban Đạo đức tiểu bang và mọi thách thức pháp lý đối với các yêu cầu tiết lộ thông tin. Quan sát xem các bang khác có áp dụng các nhiệm vụ tiết lộ giọng nói AI cụ thể tương tự cho hoạt động truyền thông chiến dịch trong chu kỳ bầu cử sắp tới hay không.
Những thách thức pháp lý có thể nảy sinh liên quan đến định nghĩa “tiết lộ rõ ràng và dễ hiểu” hoặc phạm vi của “người của công chúng” theo luật. Tòa án có thể cần giải thích các điều khoản này trong bối cảnh nội dung do AI tạo ra.
Hiệu quả của luật sẽ phụ thuộc vào khả năng của Ban Đạo đức Tiểu bang trong việc phát hiện và xác minh tiếng nói do AI tạo ra trong các cuộc gọi vận động tranh cử. Điều này có thể yêu cầu các công cụ kỹ thuật mới hoặc quan hệ đối tác với các chuyên gia phát hiện AI.
Các bang khác đang đối mặt với những lo ngại tương tự về AI trong các cuộc bầu cử có thể coi cách tiếp cận của Louisiana như một hình mẫu, có khả năng dẫn đến một làn sóng ban hành luật tương tự trước các cuộc bầu cử trong tương lai.
Các chiến dịch và tổ chức chính trị sẽ cần cập nhật quy trình tuân thủ của mình để đảm bảo rằng mọi hoạt động liên lạc được hỗ trợ bởi AI đều đáp ứng các yêu cầu tiết lộ mới, có khả năng ảnh hưởng đến chiến lược tiếp cận của họ.