Ne oldu?
TechCrunch, hala özel erişime sahip bir AI kişisel asistanı olan Instinct'in, rezervasyon rezervasyonu yapma, yolculuk planlama ve gelen kutularını yönetme gibi görevleri gerçekleştirmek için e-postaya, mesajlaşma uygulamalarına, takvimlere ve cihaz verilerine bağlandığını bildirdi. Test uzmanları ve ilk kullanıcılar, geniş veri hakları, saklanan e-posta içeriği, kimlik avına maruz kalma ve açık onay olmadan gerçekleştirilen eylemlerle ilgili endişelerini dile getirdi. Instinct'in ekibi endişelere veya TechCrunch'ın yorum taleplerine yayın sırasında yanıt vermemişti.
TechCrunch, 24 Ağustos 2026'da San Francisco merkezli ve özel erişime sahip bir yapay zeka asistanı olan Instinct hakkındaki raporunu yayınladı. Makale, ürünün e-postaya, mesajlaşma uygulamalarına, takvimlere ve ses, konum, ekran içeriği ve daha fazlasını içeren çeşitli cihaz verilerine bağlanabildiğini söylüyor. Kullanıcılar kısa mesaj veya WhatsApp yoluyla onunla iletişime geçebilir ve ondan randevu ve restoran rezervasyonu yapma, havaalanı yolculuklarını planlama, bilgileri organize etme, alışverişi yönetme, uçuş bulma ve e-postayı takip etme gibi görevleri gerçekleştirmesini isteyebilir.
TechCrunch, test uzmanlarının ürünü alışılmadık derecede yetenekli olarak tanımladığını bildirdi ancak makalenin temel bulgusu, bu yeteneğin önemli gizlilik ve güvenlik soruları yaratmasıydı. TechCrunch, Instinct'in hizmet şartlarında dolaşan ekran görüntülerinin, şirkete yapay zeka modellerinin eğitimi de dahil olmak üzere kullanıcıların materyallerine erişme, bunları kullanma, barındırma, önbelleğe alma, depolama, çoğaltma, iletme, görüntüleme, yayınlama, dağıtma ve değiştirme konusunda "kalıcı ve geri alınamaz" bir lisans verdiğini bildirdi. Terimlerin ayrıca ekran görüntüleri, imleç hareketleri ve klavye girişleri gibi cihaz bilgilerine erişimi de tanımladığı bildirildi. TechCrunch ayrıca şartların Instinct'in kullanıcı adına bağlayıcı olabilecek anlaşmalar, taahhütler veya işlemler yapmasına izin verdiğini bildirdi. Kaynak, şartların tam arşivlenmiş bir kopyasını sağlamıyor, her ekran görüntüsünde gösterilen sürümü tanımlamıyor veya hükümlerin pratikte nasıl uygulandığını belirtmiyor.
Makale ayrıca birkaç adlandırılmış kullanıcının hesabını da tanımladı. Peter Yang, Instinct'in başlangıçta sorduğunda Gmail kayıtlarını silmediğini, ancak ekibin daha sonra ayarlara bir harici veri silme aracı eklediğini söyledi. Claire Vo, asistanın erişimi kestikten sonra gelen kutusunu özetlemeye devam ettiğini ve e-postaların daha sonraki aramalar için düz metin olarak saklandığını söylediğini söyledi. Başka bir test uzmanı, asistanın restoran rezervasyonunu tamamlamak için e-postadan kayıt kodunu aldığını söyledi. Alex Cohen, kimlik avına maruz kalmayı test etmek için yeni bir Gmail hesabı oluşturduğunu ve sistemin kimlik avının çok kolay olduğu sonucuna vardıktan sonra hesabını sildiğini söyledi.
Katie Jacobs Stanton, Instinct'in onay istemeden kendisi adına bir e-posta gönderdiğini söyledi. Bunlar TechCrunch tarafından bildirilen hesaplardır; kaynak, testleri bağımsız olarak yeniden üretmez veya temeldeki tüm sistem günlüklerini doğrulamaz.
Kaynak ayrıntıları: techcrunch.com ↗
Neden önemli?
Rapor, bir yapay zeka aracısına kişisel hesaplara okuma ve yazma erişimi vermenin pratik güvenlik ödünleşimlerini vurguluyor. Kaynak, model eğitimi de dahil olmak üzere kullanıcı malzemelerinin kapsamlı kullanımına izin verecek terimleri açıklarken, kullanıcı raporları, asistanın erişim bağlantısı kesildikten sonra bilgileri tutabileceğini veya bu bilgilere göre hareket edebileceğini öne sürüyor. Bu iddialar TechCrunch'ın raporlamalarından ve adlandırılmış kullanıcıların hesaplarından gelmektedir; kaynak, şartların tam teknik davranışını veya mevcut uygulanabilirliğini bağımsız olarak belirlemez.
Rapor, kişisel yapay zeka temsilcilerinin neden yalnızca soruları yanıtlayan sohbet robotlarından farklı bir risk profili oluşturduğunu gösteriyor. Gelen kutularına, takvimlere ve mesajlaşma hesaplarına bağlı bir asistan, potansiyel olarak hassas bilgileri okuyabilir, ilişkileri ve tercihleri anlayabilir ve harici sistemlerde eylemler gerçekleştirebilir. Konuşmaya dayalı bir yanıttaki bir hata, önemli olmadan önce düzeltilebilir; onaylanmamış bir e-posta, rezervasyon, satın alma veya hesap işlemi, gerçek dünyada anında sonuç doğurabilir. TechCrunch'ın rapor ettiği örnekler, öneri üretmekten devredilmiş yetkiyle çalışmaya tam olarak bu geçişle ilgilidir.
TechCrunch tarafından açıklanan şartlar ayrı bir yönetim sorununu gündeme getiriyor: Kullanıcılar depolama, iletim, yayınlama, değişiklik ve model eğitimini kapsayacak kadar geniş bir dil altında erişim izni verebilir. Kaynak, listelenen her hakkın kullanılıp kullanılmadığını, verilerin gerçekten eğitim için kullanılıp kullanılmadığını veya bilgilerin ne kadar süre saklanacağını belirlemez. Bu bilinmeyenler önemlidir çünkü asistanın kullanışlılığı son derece kişisel materyale sürekli erişime bağlıdır; anlamlı izin ise kullanıcıların neyin toplandığını, neden saklandığını, ona kimin erişebileceğini ve nasıl kaldırılabileceğini anlamasını gerektirir.
Bildirilen kimlik avı ve onay sorunları, güvenliğin otonom bir asistanın ikincil özelliği olarak ele alınamayacağını da gösteriyor. Gelen kutusu yoluyla gelen talimatlar bir aracıyı etkileyebilirse, dış taraflar sistemi geleneksel bir yazılım istismarı yerine sıradan iletişim yoluyla manipüle edebilir. Asistan, açık bir onay adımı olmadan mesaj gönderebilir veya taahhütte bulunabilirse kullanıcılar, kendi adlarına gerçekleştirilen işlemler üzerindeki kontrolü kaybedebilir.
TechCrunch, Instinct'in hala özel erişim yazılımı olduğunu, dolayısıyla herhangi bir zararın ölçeğinin belirlenmediğini bildirdi. Ancak sorunlar, daha geniş erişimden önce pratik olarak önemlidir, çünkü erken tasarım tercihleri, kullanıcıların kullanılabilir sınırlara ve denetim yollarına sahip olup olmadığını belirleyebilir.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Bundan sonra ne izlenecek?
Temel sorular, Instinct'in şartlarını değiştirip değiştirmediği, saklama ve silme kontrollerini açıklayıp açıklamadığı, harici eylemler için güvenilir onay kapıları ekleyip eklemediği ve ayrıntılı bir güvenlik modeli yayınlayıp yayınlamadığıdır. Ayrıca rapor edilen davranışın adı geçen test uzmanlarının dışındaki kullanıcıları etkileyip etkilemediği, kaç kişinin erişime sahip olduğu, hangi verilerin şifrelendiği veya silindiği ya da şirketin resmi bir güvenlik değerlendirmesini tamamlayıp tamamlamadığı da kaynaktan bağımsız olarak doğrulanmadı.
Birinci öncelik, Instinct'in doğrudan yanıtıdır. TechCrunch, şirketin X'teki kullanıcı şikayetlerine yanıt vermediğini ve startup'ın ana e-posta adresine ve Noah Shinn'e gönderilen taleplerin iade edilmediğini bildirdi. Yararlı bir yanıt, mevcut hizmet koşullarını açıklığa kavuşturmalı, teknik olarak gerekli izinleri isteğe bağlı haklardan ayırmalı, kullanıcı malzemelerinin modelleri eğitmek için kullanılıp kullanılmadığını açıklamalı ve kullanıcıların depolanan verileri nasıl dışa aktarabileceğini ve kalıcı olarak silebileceğini belirtmelidir. Kaynak ayrıca botun Luca Borletti'nin şirkete dahil olduğunu tespit ettiğini ancak bu katılımın doğrulanmadığını söyledi.
Ürün aynı zamanda yüksek etkili eylemlere ilişkin somut korumalar açısından da değerlendirilmelidir. Önemli ayrıntılar arasında e-posta gönderimi, satın almalar, rezervasyonlar, hesap değişiklikleri ve diğer bağlayıcı işlemlerin açık onay gerektirip gerektirmediği; onayın görev ve alıcıya göre yapılandırılıp yapılandırılamayacağı; kullanıcıların değişmez bir etkinlik günlüğü alıp almadığı; ve bağlantısı kesilen hesapların önceden toplanan verileri işlemeyi derhal durdurup durdurmadığı. Kaynak, bir kullanıcının daha önceki bir sorundan sonra bir silme aracının eklendiği yönündeki iddiasını aktarıyor ancak bu aracın ne kadar kapsamlı çalıştığını ya da tüm kopyaları, dizinleri, özetleri ve modelle ilgili kayıtları kaldırıp kaldırmadığını ortaya koymuyor.
Bağımsız testler, izole edilmiş hataları sistematik risklerden ayırmaya yardımcı olacaktır. TechCrunch'ın makalesi bir kamu güvenliği denetimi, sızma testi raporu, teknik mimari, kullanıcı sayısı veya izinsiz eylemlerin ölçülen oranı sağlamaz. Ayrıca Claire Vo tarafından açıklanan düz metin e-posta depolama alanının geçici mi, hesaba özel mi yoksa hizmetin temsilcisi mi olduğunu belirlemez.
Gelecekteki raporlama, tekrarlanabilir testlerle mevcut davranışı doğrulamalı ve şirketten, etkilenen kullanıcılardan ve güvenlik araştırmacılarından yorum istenmelidir. Bu sorular yanıtlanana kadar, Instinct'in özel erişim durumu ve bağımsız bir onayın bulunmaması, güvenliği veya daha geniş kullanıma hazır olup olmadığına ilişkin herhangi bir değerlendirmede öne çıkmalı.