Americká společnost Anthropic zveřejnila další případ, kdy se její model umělé inteligence (AI) při testování naboural do externích systémů. Incident se stal v lednu a týkal se rané verze modelu Claude Opus 4.6. Firma jej však odhalila až v srpnu, i když předtím provedla rozsáhlou kontrolu, uvedla agentura Reuters.
Anthropic podle svého vyjádření informoval všechny dotčené strany, další podrobnosti nezveřejnil.
Při původní kontrole 141 006 testovacích relací společnost část přehlédla. Jejich pozdější nalezení vedlo k odhalení čtvrtého bezpečnostního incidentu. Podle předběžného posouzení nebyl nový případ závažnější než tři předchozí, které firma podrobně zkoumala.
Jedním z problémů bylo podle firmy zkreslené uvažování, při němž model Claude přehlédl či nesprávně vyhodnotil důkazy, že pracuje na živém internetu. Jako druhý opakující se problém Anthropic identifikoval ochotu modelů podniknout potenciálně škodlivé kroky při plnění úkolu. Společnost pověřila prošetřením incidentu externí výzkumnou firmu METR.
Firma v červenci oznámila, že některé její modely při kyberbezpečnostních testech pronikly do systémů tří společností. Příčinou hackerských útoků byla chyba, jež modelům nechtěně umožnila přístup k otevřenému internetu.
Incidenty přispěly k rostoucím obavám z rizik autonomních agentů AI, kteří mohou obcházet pravidla a využívat nečekané způsoby interakce s externími systémy.
Mohlo by vás také zajímat: Norský korunní princ Haakon se v roce 2001 oženil v katedrále v Oslu s Mette-Marit Tjessem Høibyovou,
Sdílet
Mohlo by vás zajímat
Nejnovější
„Sledujeme tě, chlapáku.“ Polský jestřáb si podal Muska kvůli omezení Starlinku
Omezení Starlinku na Ukrajině vyvolalo ostrou reakci polského ministra zahraničí Radosława Sikorského. Majiteli SpaceX Elonu Muskovi vzkázal, že ho Polsko coby evropský zákazník sleduje. Varšava totiž Ukrajině předplácí provoz terminálů Starlink, za který každoročně platí přibližně 50 milionů dolarů.
ŽIVĚ Příští týden bude mít Praha koalici, vzkázal horký favorit na primátora
Lídr pražského STAN Petr Hlaváček chce příští týden představit podobu dojednávané pražské koalice a přistoupit k podrobnějším jednáním s vybranými partnery. Řekl to po úterním jednání týmů STAN a Pirátů. S Piráty v úterý podle něj probrali základní rámec případné spolupráce včetně představ o rozdělení gescí, zatím bez personálií.
Mizérii má pomoct utnout i podpora Haalanda. Brunes popsal, jak ho život v Česku zaskočil
Norský fotbalista Sparty Jonatan Brunes vzpomíná v dobrém na angažmá v Lilleströmu, s nímž se Pražané utkají ve čtvrtek v Evropské lize. Šestadvacetiletý útočník čeká už jedenáct soutěžních zápasů na vstřelený gól a na tiskové konferenci s humorem prohlásil, že si branky šetří právě proti bývalému zaměstnavateli.
ŽIVĚ „Nejistý přínos, rizika zřejmá.“ Meloniová ostře zkritizovala Trumpa za dohodu s Putinem
Dohoda USA a Ruska o dodávkách nafty poskytuje Moskvě legitimitu, zatímco na ukrajinská města dále padají bomby. V italském parlamentu to ve středu řekla premiérka Giorgia Meloniová. Dohodu označila za velmi riskantní volbu, jejíž přínos je nejistý a rizika jsou naopak zřejmá, píše agentura Reuters.
Ve hře je 75 tisíc pracovních míst. Evropa bojuje za evropská auta, možná ale příliš pozdě
Evropská unie zatížila elektromobily z Číny dodatečnými cly, teď se domluvila na omezení dovozu hybridů ze stejné země, v boji proti levné konkurenci ale pořád tahá za kratší konec provazu. A tak i samotné evropské automobilky volají po rychlejším zavádění dalších opatření. Klíčový je hlavně plán nazvaný „Vyrobeno v Evropě“, který udává, kolik procent každého vozu by mělo být vyrobeno v EU.