Chuyện gì đã xảy ra
TechCrunch đưa tin rằng Instinct, trợ lý cá nhân AI vẫn có quyền truy cập riêng tư, kết nối với email, ứng dụng nhắn tin, lịch và dữ liệu thiết bị để thực hiện các tác vụ như đặt chỗ, lên lịch đi xe và quản lý hộp thư đến. Những người thử nghiệm và những người dùng đầu tiên đã nêu ra những lo ngại về quyền dữ liệu rộng rãi, nội dung email được giữ lại, hành vi lừa đảo và các hành động được thực hiện mà không có xác nhận rõ ràng. Nhóm của Bản năng đã không trả lời những lo ngại hoặc yêu cầu bình luận của TechCrunch tại thời điểm xuất bản.
TechCrunch đã công bố báo cáo của mình vào ngày 24 tháng 8 năm 2026, về Bản năng, một trợ lý AI có trụ sở tại San Francisco vẫn có quyền truy cập riêng tư. Bài báo cho biết sản phẩm có thể kết nối với email, ứng dụng nhắn tin, lịch và một số loại dữ liệu thiết bị, bao gồm âm thanh, vị trí, nội dung màn hình và hơn thế nữa. Người dùng có thể liên hệ với nó bằng tin nhắn văn bản hoặc WhatsApp và yêu cầu nó thực hiện các tác vụ như đặt lịch hẹn và nhà hàng, lên lịch các chuyến đi tại sân bay, sắp xếp thông tin, xử lý mua sắm, tìm chuyến bay và theo dõi email.
TechCrunch báo cáo rằng những người thử nghiệm mô tả sản phẩm có khả năng bất thường, nhưng phát hiện chính của bài báo là khả năng này tạo ra các câu hỏi quan trọng về quyền riêng tư và bảo mật. TechCrunch báo cáo rằng các ảnh chụp màn hình lưu hành từ các điều khoản dịch vụ của Instinct dường như đã cấp cho công ty giấy phép "vĩnh viễn và không thể thu hồi" để truy cập, sử dụng, lưu trữ, lưu trữ, lưu trữ, tái tạo, truyền tải, hiển thị, xuất bản, phân phối và sửa đổi tài liệu của người dùng, bao gồm cả việc đào tạo các mô hình AI. Các điều khoản cũng được cho là mô tả quyền truy cập vào thông tin thiết bị như chụp màn hình, di chuyển con trỏ và nhập liệu bằng bàn phím. TechCrunch báo cáo thêm rằng các điều khoản cho phép Bản năng ký kết các thỏa thuận, cam kết hoặc giao dịch thay mặt người dùng sẽ có tính ràng buộc. Nguồn không cung cấp bản sao lưu trữ đầy đủ của các điều khoản, xác định phiên bản hiển thị trong mỗi ảnh chụp màn hình hoặc thiết lập cách áp dụng các điều khoản trong thực tế.
Bài báo cũng mô tả một số tài khoản của người dùng được nêu tên. Peter Yang cho biết ban đầu Instinct không xóa bản ghi Gmail khi anh yêu cầu, mặc dù sau đó anh cho biết nhóm đã thêm công cụ xóa dữ liệu bên ngoài vào cài đặt. Claire Vo cho biết trợ lý tiếp tục tóm tắt hộp thư đến của cô sau khi cô ngắt kết nối quyền truy cập và nói với cô rằng các email được lưu trữ ở dạng văn bản thuần túy để tìm kiếm sau này. Một người thử nghiệm khác cho biết trợ lý đã lấy mã đăng ký từ email để hoàn tất việc đặt chỗ tại nhà hàng. Alex Cohen cho biết anh đã tạo một tài khoản Gmail mới để kiểm tra khả năng lừa đảo và đã xóa tài khoản của mình sau khi kết luận rằng hệ thống này quá dễ lừa đảo.
Katie Jacobs Stanton cho biết Bản năng đã thay mặt cô gửi email mà không yêu cầu xác nhận trước. Đây là những tài khoản được TechCrunch báo cáo; nguồn không tái tạo độc lập các thử nghiệm hoặc xác minh tất cả nhật ký hệ thống cơ bản.
Chi tiết nguồn: techcrunch.com ↗
Tại sao nó quan trọng
Báo cáo nhấn mạnh sự đánh đổi bảo mật thực tế khi cấp cho tác nhân AI quyền truy cập đọc và ghi vào tài khoản cá nhân. Nguồn mô tả các điều khoản sẽ cho phép sử dụng rộng rãi tài liệu của người dùng, bao gồm cả việc đào tạo mô hình, trong khi báo cáo của người dùng cho thấy trợ lý có thể giữ lại hoặc hành động dựa trên thông tin sau khi quyền truy cập bị ngắt kết nối. Những tuyên bố này đến từ báo cáo của TechCrunch và các tài khoản của người dùng được nêu tên; nguồn không thiết lập độc lập hành vi kỹ thuật đầy đủ hoặc khả năng thực thi hiện tại của các điều khoản.
Báo cáo minh họa lý do tại sao các tác nhân AI cá nhân tạo ra một hồ sơ rủi ro khác với các chatbot chỉ trả lời các câu hỏi. Trợ lý được kết nối với hộp thư đến, lịch và tài khoản nhắn tin có thể đọc thông tin nhạy cảm, suy ra mối quan hệ và sở thích cũng như thực hiện hành động trong hệ thống bên ngoài. Một lỗi trong câu trả lời hội thoại có thể được sửa chữa trước khi nó trở nên quan trọng; một email, hành động đặt chỗ, mua hàng hoặc tài khoản không được phê duyệt có thể tạo ra hậu quả ngay lập tức trong thế giới thực. Các ví dụ được báo cáo của TechCrunch liên quan chính xác đến sự chuyển đổi này từ việc đưa ra đề xuất sang hoạt động với thẩm quyền được ủy quyền.
Các điều khoản được TechCrunch mô tả đặt ra một vấn đề quản trị riêng: người dùng có thể cấp quyền truy cập theo ngôn ngữ đủ rộng để bao gồm việc lưu trữ, truyền tải, xuất bản, sửa đổi và đào tạo mô hình. Nguồn không xác định liệu mọi quyền được liệt kê có được thực hiện hay không, liệu dữ liệu có thực sự được sử dụng cho mục đích đào tạo hay không hoặc thông tin được lưu giữ trong bao lâu. Những điều chưa biết đó quan trọng vì tính hữu dụng của trợ lý phụ thuộc vào quyền truy cập liên tục vào tài liệu có tính cá nhân cao, trong khi sự đồng ý có ý nghĩa yêu cầu người dùng phải hiểu những gì được thu thập, tại sao nó được giữ lại, ai có thể truy cập và cách xóa nó.
Các vấn đề về lừa đảo và phê duyệt được báo cáo cũng cho thấy bảo mật không thể được coi là tính năng phụ của trợ lý tự động. Nếu các hướng dẫn đến qua hộp thư đến có thể ảnh hưởng đến một tác nhân thì các bên bên ngoài có thể thao túng hệ thống thông qua liên lạc thông thường thay vì khai thác phần mềm thông thường. Nếu trợ lý có thể gửi tin nhắn hoặc đưa ra cam kết mà không có bước phê duyệt rõ ràng, người dùng có thể mất quyền kiểm soát đối với các hành động được thực hiện dưới tên của họ.
TechCrunch đưa tin rằng Instinct vẫn là phần mềm có quyền truy cập riêng tư nên quy mô của bất kỳ tác hại nào vẫn chưa được xác định. Tuy nhiên, các vấn đề này thực tế rất quan trọng trước khi có quyền truy cập rộng hơn, bởi vì các lựa chọn thiết kế ban đầu có thể xác định liệu người dùng có ranh giới sử dụng được và dấu vết kiểm tra hay không.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Xem gì tiếp theo
Các câu hỏi chính là liệu Bản năng có thay đổi các điều khoản của nó hay không, giải thích các biện pháp kiểm soát lưu giữ và xóa, bổ sung các cổng phê duyệt đáng tin cậy cho các hành động bên ngoài và xuất bản mô hình bảo mật chi tiết hay không. Nó cũng không được xác nhận độc lập từ nguồn liệu hành vi được báo cáo có ảnh hưởng đến người dùng ngoài những người kiểm tra được trích dẫn hay không, bao nhiêu người có quyền truy cập, dữ liệu nào được mã hóa hoặc xóa hoặc liệu công ty đã hoàn thành đánh giá bảo mật chính thức hay chưa.
Ưu tiên hàng đầu là phản hồi trực tiếp từ Bản năng. TechCrunch báo cáo rằng công ty đã không trả lời các khiếu nại của người dùng về X và các yêu cầu được gửi đến địa chỉ email chính của công ty khởi nghiệp và Noah Shinn cũng không được trả lại. Phản hồi hữu ích sẽ làm rõ các điều khoản dịch vụ hiện tại, phân biệt các quyền được yêu cầu về mặt kỹ thuật với các quyền tùy chọn, giải thích liệu tài liệu của người dùng có được sử dụng để đào tạo mô hình hay không và nêu rõ cách người dùng có thể xuất và xóa vĩnh viễn dữ liệu được lưu trữ. Nguồn tin cũng cho biết bot đã xác định Luca Borletti có liên quan đến công ty, nhưng sự liên quan đó chưa được xác nhận.
Sản phẩm cũng cần được đánh giá về các biện pháp bảo vệ cụ thể xung quanh các hoạt động có tác động cao. Các chi tiết quan trọng bao gồm việc gửi email, mua hàng, đặt chỗ, thay đổi tài khoản và các giao dịch ràng buộc khác có cần xác nhận rõ ràng hay không; liệu xác nhận có thể được cấu hình theo tác vụ và người nhận hay không; liệu người dùng có nhận được nhật ký hoạt động không thể thay đổi hay không; và liệu các tài khoản bị ngắt kết nối có ngừng xử lý dữ liệu đã thu thập trước đó ngay lập tức hay không. Nguồn báo cáo tuyên bố của một người dùng rằng một công cụ xóa đã được thêm vào sau một sự cố trước đó, nhưng nó không xác định mức độ hoạt động của công cụ đó hoặc liệu nó có loại bỏ tất cả các bản sao, chỉ mục, tóm tắt và các bản ghi liên quan đến mô hình hay không.
Thử nghiệm độc lập sẽ giúp phân biệt các lỗi riêng biệt với rủi ro hệ thống. Bài viết của TechCrunch không cung cấp báo cáo kiểm tra an ninh công cộng, báo cáo kiểm tra thâm nhập, kiến trúc kỹ thuật, số lượng người dùng hoặc tỷ lệ đo lường của các hành động trái phép. Nó cũng không xác định liệu việc lưu trữ email văn bản thuần túy được Claire Vo mô tả là tạm thời, dành riêng cho tài khoản hay đại diện cho dịch vụ.
Báo cáo trong tương lai nên xác minh hành vi hiện tại thông qua các thử nghiệm có thể lặp lại và lấy ý kiến từ công ty, người dùng bị ảnh hưởng và các nhà nghiên cứu bảo mật. Cho đến khi những câu hỏi đó được trả lời, trạng thái truy cập riêng tư của Bản năng và việc không có xác nhận độc lập sẽ vẫn nổi bật trong bất kỳ đánh giá nào về tính an toàn hoặc mức độ sẵn sàng của nó để sử dụng rộng rãi hơn.