Americká společnost Anthropic zveřejnila další případ, kdy se její model umělé inteligence (AI) při testování naboural do externích systémů. Incident se stal v lednu a týkal se rané verze modelu Claude Opus 4.6. Firma jej však odhalila až v srpnu, i když předtím provedla rozsáhlou kontrolu, uvedla agentura Reuters.
Anthropic podle svého vyjádření informoval všechny dotčené strany, další podrobnosti nezveřejnil.
Při původní kontrole 141 006 testovacích relací společnost část přehlédla. Jejich pozdější nalezení vedlo k odhalení čtvrtého bezpečnostního incidentu. Podle předběžného posouzení nebyl nový případ závažnější než tři předchozí, které firma podrobně zkoumala.
Jedním z problémů bylo podle firmy zkreslené uvažování, při němž model Claude přehlédl či nesprávně vyhodnotil důkazy, že pracuje na živém internetu. Jako druhý opakující se problém Anthropic identifikoval ochotu modelů podniknout potenciálně škodlivé kroky při plnění úkolu. Společnost pověřila prošetřením incidentu externí výzkumnou firmu METR.
Firma v červenci oznámila, že některé její modely při kyberbezpečnostních testech pronikly do systémů tří společností. Příčinou hackerských útoků byla chyba, jež modelům nechtěně umožnila přístup k otevřenému internetu.
Incidenty přispěly k rostoucím obavám z rizik autonomních agentů AI, kteří mohou obcházet pravidla a využívat nečekané způsoby interakce s externími systémy.
Mohlo by vás také zajímat: Norský korunní princ Haakon se v roce 2001 oženil v katedrále v Oslu s Mette-Marit Tjessem Høibyovou,
Sdílet
Mohlo by vás zajímat
Nejnovější
ŽIVĚ Výsledky voleb: Babiš očekává „spiknutí“ proti ANO, STAN vyhlíží primátorský post
V pátek a sobotu lidé v Česku rozhodovali o novém složení obecních zastupitelstev a třetiny Senátu. Průběžné výsledky, reakce politiků i další dění kolem voleb sledujte v on-line reportáži Aktuálně.cz.
Tablo poražených: pohořela Babišova nová naděje, vládní strany i pirátská pevnost
Volby přinesly řadu vítězů, ale také několik výrazných poražených – a to napříč všemi politickými stranami, vládních hnutí ani opozičních subjektů nevyjímaje. Pohár hořkosti si v sobotu vypili jak kandidáti hnutí ANO, tak letití lidovci i pražští Piráti. Zatímco hlasování do horní komory čeká na druhé kolo, v případě zastupitelstev obcí je znát, že na nejednom místě došlo k velkému zemětřesení.
Dva Češi pokořili Čecha. Pastrňák a Zacha slavili po podivném zákroku Vladaře
Český útočník Pavel Zacha nasměroval v NHL po mazané přihrávce Davida Pastrňáka hokejisty Bostonu k vítězství, když otevřel skóre duelu s Philadelphií. Na jeho úspěchu měl podíl další Čech, gólman soupeře totiž předvedl proti jeho střele podivný zákrok.
Základní scénáře pro tři největší města: ANO v izolaci, ostrouhat může i ODS
Hnutí ANO patří spolu s dalšími vládními stranami (Motoristé sobě a SPD) k hlavním poraženým letošních komunálních voleb. Platí to hlavně pro největší města republiky. Mezi poraženými je ale také ODS.
Nejtěsnější souboj senátních voleb. Jeden jediný hlas zachránil důležitého lidovce
Jeden jediný hlas. To je rozdíl mezi druhým a třetím místem v senátních volbách ve volebním obvodu Žďár nad Sázavou. A také důležitý výsledek pro lidovce. Podle tohoto výsledku by totiž proklouzl do druhého kola klání o křeslo v horní komoře Josef Klement, který je v Senátu předsedou lidoveckého klubu.