Co se stalo
Abliteration.ai nabízí hostovaný přístup k tomu, co identifikuje jako GLM-5.3 pod názvem Abliterated Large v2. Společnost prodává API pro autorizovanou práci červeného týmu, výzkum důvěry a bezpečnosti, generování syntetických dat, výzkum strojového učení a vládní nebo obranné pracovní postupy. Říká se, že služba podporuje dokončování chatu kompatibilní se OpenAI a rozhraní API zpráv Anthropic, zatímco její brána zásad přidává ovládací prvky definované organizací.
Web říká, že jeho novou nabídku založenou na GLM-5.3, Abliterated Large v2, lze vyzkoušet prostřednictvím hostovaného API. Popisuje model jako neomezený nebo méně cenzurovaný než typické modely hostované poskytovateli a umísťuje jej pro vysoce riziková odvětví a citlivé pracovní postupy. Stránka obsahuje hřiště, dokumentaci, přístup pomocí klíče API a kompatibilitu s běžnými formáty požadavků OpenAI a Anthropic. Zdroj nedokumentuje dostupnost modelové váhy, geografická omezení, rychlostní limity ani výsledky nezávislých ů.
Přístup je inzerován prostřednictvím bezplatné zkušební verze, která nevyžaduje kartu, po níž následují placené plány. Vývojářský plán stojí 20 $ měsíčně s 2,5% slevou za použití; Růst stojí 50 USD s 5% slevou; a Scale stojí 200 USD s 10% slevou a 200 USD v měsíčním kreditu. Stránka také inzeruje předplacené kredity, přibližně 3 $ za milion tokenů a vyhledávání na webu za 8 $ za 1 000 vyhledávání. Podnikové ceny jsou vlastní. Policy Gateway je popsána jako vrstva pouze pro podniky se zásadami jako kód, kvótami, kontrolami zavádění, redakcí PII a exporty auditu do systémů včetně Splunk, Datadog, Elastic a S3.
Podrobnosti o zdroji: abliteration.ai ↗
Proč na tom záleží
Služba odráží praktické rozdělení mezi odmítnutí na úrovni modelu a řízení na úrovni organizace. Týmy, které potřebují modely k zodpovězení citlivých výzev z výzkumu, by mohly používat inzerované API, zatímco podniky by mohly uplatnit svá vlastní pravidla pro povolení, odmítnutí, přepsání, redigování a eskalaci. Toto uspořádání může být užitečné pro autorizované bezpečnostní testování a vytváření datových souborů, ale zdroj neposkytuje žádný nezávislý důkaz, že model je spolehlivý, bezpečný, právně vyhovující nebo skutečně dostupný v inzerovaném měřítku.
Ústředním návrhem Abliteration.ai je, že chování při odmítnutí by mělo být stanoveno zásadami zákazníka, nikoli jednotně uloženo poskytovatelem modelu. V zásadě by to mohlo bezpečnostním týmům poskytnout větší kontrolu nad autorizovanými cvičeními červeného týmu a datovým týmům umožnit generovat okrajové případy nebo páry preferencí, které jiné systémy odmítají. Praktická hodnota závisí na tom, zda zákazníci mohou definovat vymahatelné hranice a sledovat výsledné výstupy.
Zdroj říká, že výzvy a výstupy nejsou ve výchozím nastavení uchovávány, ale také říká, že je zachována provozní telemetrie, jako jsou počty tokenů, časová razítka a chybové kódy. Brána zásad ukládá metadata konfigurace zásad a vynucování pro audity. Tyto rozdíly jsou důležité pro organizace nakládající s citlivými údaji. Zdroj neobsahuje žádný externí audit, zákaznické důkazy, bezpečnostní hodnocení, záznam provozuschopnosti ani nezávislé testování, takže nároky společnosti na výkon, soukromí a spolehlivost zde zůstávají neověřeny.
Interaktivní mechanismus: Jak to vlastně funguje
Interaktivně prozkoumejte základní technologii tohoto vývoje.
Which component of an AI application is the machine-learning model itself?
Na co se dále dívat
Hlavními otázkami je, zda je přístup k dispozici i po bezplatné zkušební verzi, jak model funguje na legitimní a škodlivé výzvy a zda ovládací prvky Policy Gateway fungují tak, jak je popsáno v produkci. Zákazníci by také měli prozkoumat rozdíl mezi požadavky společnosti na nulové uchovávání a provozní telemetrií, kterou si společnost podle svých slov ponechává pro fakturaci a spolehlivost.
Mezi uváděné případy použití společnosti patří kybernetická bezpečnost a obrana, takže autorizace, řízení přístupu, sledování zneužití a odpovědnost zákazníků jsou důležité oblasti, které je třeba prozkoumat. Stránka uvádí příklady rozhodnutí o zásadách, ale neposkytuje metodologii testování, míru falešně pozitivních nebo falešně negativních výsledků, podrobnosti o úpravě modelu ani důkazy, že vynucování zásad nelze obejít.
Není také jasné, jak široce je služba dostupná, jaké limity se vztahují na bezplatnou vrstvu, zda jsou v každém plánu zahrnuty všechny uvedené modely a funkce médií a jaké certifikace shody nebo smluvní ochranu získají podnikoví zákazníci. Budoucí dokumentace, nezávislá hodnocení, hlášení incidentů a zveřejňování informací o zákaznících by pomohly zjistit, zda nabídka není více než marketingová nabídka.