Chuyện gì đã xảy ra
The Verge đã tiến hành thử nghiệm thực tế tác nhân Muse AI của Meta, một trợ lý ảo được thiết kế để tự động hóa các tác vụ cá nhân. Đại lý sử dụng hình đại diện có thể tùy chỉnh, được giao nhiệm vụ quản lý thư từ qua email, mua các bộ phận thay thế, điều hướng hạ cấp tài khoản và nghiên cứu hàng tiêu dùng. Thử nghiệm cho thấy rằng mặc dù đại lý có thể điều hướng các trang web và thông tin dự thảo một cách hiệu quả, nhưng nó vẫn bị hạn chế do không thể thực hiện các tác vụ dựa trên điện thoại và phụ thuộc vào sự can thiệp của người dùng để ủy quyền thanh toán cuối cùng.
The Verge đã thử nghiệm tác nhân Muse AI của Meta bằng cách giao cho nó một số nhiệm vụ quản trị trong thế giới thực. Người đại diện đã soạn thảo thành công các email tiếp theo gửi đến một công ty cảnh quan, mặc dù người dùng lưu ý rằng giọng điệu ban đầu quá 'cắt gọn'. Để mua sắm, đại lý có thể xác định vị trí các bộ phận máy pha cà phê espresso và thiết bị cắm trại cụ thể, mặc dù nó đã bị chặn bởi các điều khoản dịch vụ của Amazon khi cố gắng truy cập vào nền tảng đó.
Về mặt quản lý tài khoản, đại lý có thể đăng nhập vào tài khoản hệ thống bảo mật để xác định các bước cần thiết để hạ cấp gói, nhưng không thể hoàn tất quy trình vì nhà cung cấp yêu cầu một cuộc gọi điện thoại. Đại lý cũng thể hiện khả năng nghiên cứu và yêu cầu báo giá từ các dịch vụ loại bỏ rác bằng cách sử dụng thông tin cá nhân được cung cấp, bao gồm địa chỉ và ảnh.
Tác nhân yêu cầu sự tin cậy đáng kể của người dùng vì người kiểm tra đã cung cấp tên đầy đủ, địa chỉ nhà riêng, chi tiết thẻ tín dụng qua Stripe và thông tin đăng nhập cho tài khoản bảo mật gia đình. Mặc dù Meta tuyên bố rằng dữ liệu này được lưu trữ an toàn và không hiển thị trực tiếp với hình đại diện của tác nhân, nhưng người kiểm tra lưu ý rủi ro cố hữu của việc tập trung thông tin nhạy cảm đó vào một công cụ AI.
Chi tiết nguồn: theverge.com ↗
Tại sao nó quan trọng
Sự xuất hiện của các tác nhân AI như Muse báo hiệu sự thay đổi theo hướng quy trình làm việc 'tác nhân' trong đó phần mềm thực hiện các hành động nhiều bước trên các nền tảng khác nhau thay vì chỉ tạo văn bản. Quá trình chuyển đổi này nêu bật cả tiềm năng tăng năng suất cá nhân và sự đánh đổi đáng kể về quyền riêng tư. Người dùng phải cân nhắc sự thuận tiện của việc ủy quyền các nhiệm vụ quản trị 'đá cuội trong giày' trước những rủi ro khi cấp cho AI quyền truy cập rộng rãi vào thông tin xác thực cá nhân, thông tin tài chính và thông tin liên lạc riêng tư. Hơn nữa, việc mua hàng tự động dễ dàng đặt ra câu hỏi về thói quen chi tiêu của người tiêu dùng trong kỷ nguyên thương mại được hỗ trợ bởi AI.
Sự chuyển đổi sang các tác nhân AI thể hiện sự chuyển đổi từ truy xuất thông tin thụ động sang thực thi nhiệm vụ chủ động. Bằng cách tự động hóa các khía cạnh 'tẻ nhạt' của cuộc sống hàng ngày, những công cụ này nhằm mục đích giảm tải nhận thức trong việc quản lý danh sách việc cần làm cá nhân. Tuy nhiên, người thử nghiệm nhận thấy rằng hiệu quả này có thể dẫn đến một “nghịch lý năng suất”, trong đó thời gian tiết kiệm được thường được chuyển hướng sang việc quản lý chính AI hoặc thực hiện các cam kết bổ sung không cần thiết.
Ý nghĩa tài chính là đáng chú ý; khả năng tính toán giá trị và quản lý giỏ hàng của đại lý khiến việc tiêu tiền trở nên 'dễ dàng một cách nguy hiểm'. Điều này tạo ra động lực mới trong hành vi của người tiêu dùng, trong đó rào cản mua hàng được hạ xuống, có khả năng dẫn đến các kiểu chi tiêu bốc đồng hoặc cam kết quá mức.
Việc phụ thuộc vào các tác nhân này đòi hỏi mức độ tiếp xúc dữ liệu cao. Sự cần thiết phải cung cấp thông tin xác thực cho các tài khoản email, ngân hàng và dịch vụ tạo ra một điểm thất bại duy nhất đối với bảo mật cá nhân, đặt ra câu hỏi về sự an toàn lâu dài khi giao các nhiệm vụ đặc quyền cao đó cho AI của bên thứ ba.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
crm_get_transaction(id='4092').What most distinguishes an AI agent from a basic chatbot?
Xem gì tiếp theo
Sự phát triển chính cần giám sát là việc tích hợp các khả năng dựa trên giọng nói, vì phiên bản hiện tại của Muse không thể thực hiện các cuộc gọi điện thoại, thường được yêu cầu để thay đổi tài khoản liên quan đến dịch vụ. Ngoài ra, ngành có thể sẽ chứng kiến sự xích mích ngày càng tăng giữa các tác nhân AI và các trang web chặn quyền truy cập tự động, như đã thấy trong nỗ lực tương tác không thành công của tác nhân với Amazon. Cuối cùng, ý nghĩa bảo mật lâu dài của việc cấp cho các tác nhân AI quyền truy cập liên tục vào dữ liệu cá nhân và tài chính nhạy cảm vẫn là một lĩnh vực quan trọng đối với cả người dùng và cơ quan quản lý.
Khả năng các tác nhân AI thực hiện các tương tác dựa trên giọng nói là rào cản logic tiếp theo. Khi các tổng đài viên có được khả năng điều hướng menu điện thoại và nói chuyện với người đại diện, mức độ phức tạp của các nhiệm vụ mà họ có thể xử lý sẽ tăng lên đáng kể, cũng như khả năng gây nhầm lẫn trong môi trường dịch vụ tự động.
Xung đột đang diễn ra giữa các tác nhân AI và nền tảng thương mại điện tử có thể sẽ ngày càng gay gắt. Như đã thấy với việc tác nhân không thể truy cập Amazon, các công ty có thể ngày càng triển khai các rào cản kỹ thuật hoặc pháp lý để ngăn chặn các tác nhân AI lấy cắp trang web của họ hoặc thực hiện giao dịch thay mặt cho người dùng.
Tác động tâm lý của việc giảm tải việc ra quyết định hàng ngày cho AI là một lĩnh vực đang được quan tâm. Người thử nghiệm lưu ý rằng thời gian dành cho năng suất thay vào đó được dùng để 'trò chuyện' với nhân viên, cho thấy rằng những công cụ này có thể thay đổi cách người dùng sử dụng thời gian giải trí và tương tác với trách nhiệm của chính họ.