Americká společnost Anthropic zveřejnila další případ, kdy se její model umělé inteligence (AI) při testování naboural do externích systémů. Incident se stal v lednu a týkal se rané verze modelu Claude Opus 4.6. Firma jej však odhalila až v srpnu, i když předtím provedla rozsáhlou kontrolu, uvedla agentura Reuters.
Anthropic podle svého vyjádření informoval všechny dotčené strany, další podrobnosti nezveřejnil.
Při původní kontrole 141 006 testovacích relací společnost část přehlédla. Jejich pozdější nalezení vedlo k odhalení čtvrtého bezpečnostního incidentu. Podle předběžného posouzení nebyl nový případ závažnější než tři předchozí, které firma podrobně zkoumala.
Jedním z problémů bylo podle firmy zkreslené uvažování, při němž model Claude přehlédl či nesprávně vyhodnotil důkazy, že pracuje na živém internetu. Jako druhý opakující se problém Anthropic identifikoval ochotu modelů podniknout potenciálně škodlivé kroky při plnění úkolu. Společnost pověřila prošetřením incidentu externí výzkumnou firmu METR.
Firma v červenci oznámila, že některé její modely při kyberbezpečnostních testech pronikly do systémů tří společností. Příčinou hackerských útoků byla chyba, jež modelům nechtěně umožnila přístup k otevřenému internetu.
Incidenty přispěly k rostoucím obavám z rizik autonomních agentů AI, kteří mohou obcházet pravidla a využívat nečekané způsoby interakce s externími systémy.
Mohlo by vás také zajímat: Norský korunní princ Haakon se v roce 2001 oženil v katedrále v Oslu s Mette-Marit Tjessem Høibyovou,
Sdílet
Mohlo by vás zajímat
Nejnovější
Muž za volantem, na zadním sedadle dítě. Zásah agenta ICE v New Yorku skončil střelbou
Agent amerického Úřadu pro imigraci a cla (ICE) ve čtvrtek odpoledne v New Yorku postřelil osmadvacetiletého muže z Dominikánské republiky, který jel v automobilu s pětiletým chlapcem.
Při vzpouře v mexické věznici zemřelo deset lidí. Mezi oběťmi je i dítě
Při vzpouře ve věznici v Mexiku zemřelo deset lidí. Informují o tom v pátek ráno agentury. Na místě zasahují policisté a vojáci včetně jednoho obrněného vozu. Mezi mrtvými je devět vězňů a jedno dítě, které bylo ve věznici na návštěvě, uvedly místní úřady.
Co zaznělo ve studiu Aktuálně: nejhorší píseň, tahání za rukáv i vybroušený diamant
V rámci série předvolebních rozhovorů v rámci pořadu Spotlight moderátoři Aktuálně.cz vyzpovídali postupně předsedy sněmovních stran. Dorazili tak Martin Kupka, Vít Rakušan, Jan Grolich, Matěj Ondřej Havel a Zdeněk Hřib. Pozvánku do studia dostali také předsedové ANO Andrej Babiš, SPD Tomio Okamura, Motoristů Petr Macinka a také Našeho Česka Martin Kuba. Ti ale pozvání nakonec nevyužili.
Co skutečně funguje pro zdravější stárnutí? Odpovědi nabídne Longevity Summit
Protein, kreatin, vyšší VO2 max, nižší cholesterol a nejrůznější metody regenerace. Doporučení, co všechno by měl člověk dělat pro zdravější stárnutí, rychle přibývá. Co o zdravém stárnutí skutečně víme? Na to se zaměří Health and Longevity Summit Hospodářských novin, který se uskuteční 20. října ve Slovanském domě v Praze.
Tři vyprošťovací tanky a hodiny práce. Kamion uvázlý pod mostem v Praze je pryč
Vrtnou soupravu, která uvázla ve středu pod mostem v Praze, se v pátek ráno podařilo odvézt. Řekl to mluvčí pražských hasičů Miroslav Řezáč. Podvalník se soupravou zpod mostu ve Vídeňské ulici vyprostili hasiči ve čtvrtek kolem 23:00 po celodenní práci, při které využili i tři vyprošťovací tanky.