Společnost Anthropic před několika dny vydala nový LLM Claude Fable 5, ale moc slávy si neužil. Americká vláda vyžaduje, aby neameričtí občané nemohli přistupovat k modelu.
Před pár dny byly představeny nové AI modely Claude Fable 5 a Mythos 5 od Anthropicu. Už při uvedení bylo zmíněno, že jde o velmi mocné modely, které kvůli svým schopnostem musí mít vestavěné limity, aby se nedaly používat např. ke hledání zranitelností v SW za účelem zneužití. Fable 5 to tak má limitováno výrazně, nicméně Mythos 5 je k tomu určen, ale tam je limitován přístup na důvěryhodné společnosti. Americká vláda ale rozhodla, že kvůli možnosti obejití této ochrany ve Fable 5 musí Anthropic z důvodu národní bezpečnosti zakázat přístup k tomuto modelu.
Ten je selektivní a zahrnuje všechny lidi, kteří nejsou občany USA, a to včetně všech neamerických zaměstnanců Anthropicu. Poněvadž toto se splňuje dost těžko, Anthropic tak tímto byl nucen kompletně zatrhnout přístup k Fable 5 pro všechny uživatele.
Anthropic prozkoumal tento problém a podle něj model našel akorát málo závažné, už dříve publikované zranitelnosti. Ty byly relativně jednoduché a konkurenční modely je nacházejí také, přičemž nemají bezpečnostních omezení, jaké má Fable 5. Anthropic dále přidává, že jeho Fable 5 je naopak v omezeních možná až příliš přísný, a uživatelé si na tato omezení stěžují, což je paradoxní, když jiné modely schopné nalezení podobných mírných zranitelností jsou dále dostupné. Firma nesouhlasí s tím, aby se kvůli něčemu takovému musel zakazovat model, který mohou používat stovky milionů uživatelů.
