


Americká společnost Anthropic zveřejnila další případ, kdy se její model umělé inteligence (AI) při testování naboural do externích systémů. Incident se stal v lednu a týkal se rané verze modelu Claude Opus 4.6. Firma jej však odhalila až v srpnu, i když předtím provedla rozsáhlou kontrolu, uvedla agentura Reuters.

Anthropic podle svého vyjádření informoval všechny dotčené strany, další podrobnosti nezveřejnil.
Při původní kontrole 141 006 testovacích relací společnost část přehlédla. Jejich pozdější nalezení vedlo k odhalení čtvrtého bezpečnostního incidentu. Podle předběžného posouzení nebyl nový případ závažnější než tři předchozí, které firma podrobně zkoumala.
Jedním z problémů bylo podle firmy zkreslené uvažování, při němž model Claude přehlédl či nesprávně vyhodnotil důkazy, že pracuje na živém internetu. Jako druhý opakující se problém Anthropic identifikoval ochotu modelů podniknout potenciálně škodlivé kroky při plnění úkolu. Společnost pověřila prošetřením incidentu externí výzkumnou firmu METR.
Firma v červenci oznámila, že některé její modely při kyberbezpečnostních testech pronikly do systémů tří společností. Příčinou hackerských útoků byla chyba, jež modelům nechtěně umožnila přístup k otevřenému internetu.
Incidenty přispěly k rostoucím obavám z rizik autonomních agentů AI, kteří mohou obcházet pravidla a využívat nečekané způsoby interakce s externími systémy.

Buďte v obraze dřív, než začne den. Každé ráno vám pošleme nejdůležitější zprávy a původní články, které stojí za přečtení.

Články, které si zaslouží vaši pozornost. Každý pátek je pro vás z toho nejzajímavějšího na Aktuálně.cz osobně vybírá šéfredaktor Michal Pavec.



Co přinese nová vládní koalice Starostů, Spolu a Prahy sobě občanům české metropole? Je pravděpodobné, že dojde ke zdražení ročního jízdného MHD. S tím by měla jít ruku v ruce změna parkování v hlavním městě i příprava na zavedení mýta pro vjezd do centra Prahy. A počítá se i s výstavbou nové budovy filharmonie za miliardy korun.



Na poslední mši papeže Lva XIV. na argentinském území ve středu dorazily tři miliony lidí. Podle tiskových agentur to uvedly místní úřady v aktualizovaném přehledu. Papež Argentincům poděkoval za vřelé přivítání a vyzval je k usmíření. Lev XIV. ve středu odcestuje do Peru, kde mnoho let působil jako duchovní a biskup.



Soud v Budapešti ve středu poslal na jeden měsíc do vazby Árona Orbána, bratra někdejšího dlouholetého maďarského premiéra Viktora Orbána. Vazebně stíhaná je také přítelkyně Árona Orbána. Spolu s dalšími dvěma lidmi jsou podezřelí z toho, že za úplatu pomáhali vietnamským občanům dostat se do Maďarska. Obviněným hrozí v případě odsouzení pět až deset let vězení.



Ukrajinské drony ve středu zaútočily na Omsk na Sibiři, vzdálený tisíce kilometrů od hranic. O náletu informoval gubernátor Vitalij Chocenko. Drony podle sociálních médií napadly místní rafinerii, považovanou za největší v Rusku. V Omsku bylo po vyhlášení leteckého poplachu uzavřeno místní letiště, napsala ruská média. Nálet nejspíše trval několik hodin.



Trenér španělských fotbalistů Luis de la Fuente si myslí, že se česká reprezentace pod vedením jeho krajana Santiho Denii změnila k lepšímu. Věří, že jeho někdejší spolupracovník z mládežnických reprezentací odvede ve svém současném angažmá skvělou práci.