Administrativa amerického prezidenta Donalda Trumpa v úterý večer (v noci na dnešek SELČ) povolila firmě Anthropic obnovit plný přístup klientů k nejpokročilejším modelům umělé inteligence (AI) Fable 5 a Mythos 5. Ty byly nedostupné bezmála tři týdny kvůli bezpečnostním obavám vlády, třebaže americké ministerstvo obchodu minulý pátek povolilo omezený přístup k modelu Mythos 5 pro některé „důvěryhodné“ domácí organizace.
Nenechte si ujít: Jak investovat – Šest způsobů investování do nemovitostí
Anthropic začne obnovovat přístup k modelům
„Obdrželi jsme zprávu, že ministerstvo obchodu zrušilo exportní omezení vůči Claude Fable 5 a Mythos 5,“ uvedla firma Anthropic na svém účtu na síti X. „Zítra začneme obnovovat přístup,“ dodala.
Anthropic stáhl Fable 5 už 12. června, pouhé tři dny po jeho spuštění, stejně jako Mythos 5. Stalo se tak poté, co vláda firmě nařídila pozastavit cizincům přístup k těmto modelům. Administrativa rozhodnutí zdůvodnila obavami o národní bezpečnost. Společnost Anthropic uvedla, že nařízení o kontrole exportu bylo vydáno poté, co výzkumníci společnosti Amazon nahlásili způsob, jak obejít bezpečnostní opatření modelu Fable 5. Ten modelu umožnil identifikovat zranitelnosti softwaru a v jednom případě i vygenerovat kód demonstrující, jak by mohla být jedna z těchto zranitelností zneužita.
Čtěte také: Recenze Binance – Jedna z největších kryptoměnových burz na světě
Firma slíbila spolupráci s americkou vládou
Anthropic dodal, že v reakci zavedl nové bezpečnostní opatření, které popsané chování blokuje. Jakýkoli zablokovaný požadavek bude místo toho odeslán modelu Opus 4.8. Společnost varovala, že je pravděpodobně nemožné zajistit, aby byl jakýkoli model AI zcela odolný proti obcházení bezpečnostních omezení. Washington zintenzivnil dohled nad uváděním nových jazykových modelů na trh ve snaze identifikovat potenciální hrozby v obavách, že pokročilé modely umělé inteligence by mohly zneužít vojenské rozvědky v Číně, Rusku nebo jiných problematických zemích, píše agentura Reuters.
Americký ministr obchodu Howard Lutnick v dopise adresovaném Anthropiku, který má Reuters k dispozici, rovněž uvádí, že vývozní omezení pro vyspělé modely AI byla zrušena. Společnost Anthropic „souhlasila s tím, že bude proaktivně odhalovat a řešit bezpečnostní rizika spojená s těmito modely,“ uvedl Lutnick. Firma se také zavázala, že bude úzce spolupracovat s americkou vládou na protokolech pro Mythos, Fable i budoucí modely a vládu informovat o jakékoli škodlivé činnosti, dodal ministr.
Americké ministerstvo obrany na konci února označilo Anthropic za bezpečnostní riziko pro dodavatelský řetězec poté, co firma nevyhověla jeho ultimátu ohledně pravidel pro určitá využití jejích produktů AI. Rozhodnutí Pentagonu nyní znemožňuje využívání modelů firmy pro jakékoliv vládní zakázky. Anthropic odmítl umožnit používání svých technologií pro masové sledování domácností a plně autonomní zbraňové systémy. Generální ředitel Dario Amodei tvrdí, že použití AI může v těchto případech podkopávat demokratické hodnoty. Společnost Anthropic založili v roce 2021 bývalí zaměstnanci firmy OpenAI, která vyvinula populárního chatbota ChatGPT. Vlajkovým produktem Anthropiku je chatbot Claude, který byl uveden na trh v roce 2023.
Čtěte dále: Ozios recenze
Zdroj: ČTK
