Americká společnost Anthropic zveřejnila další případ, kdy se její model umělé inteligence (AI) při testování naboural do externích systémů. Incident se stal v lednu a týkal se rané verze modelu Claude Opus 4.6. Firma jej však odhalila až v srpnu, i když předtím provedla rozsáhlou kontrolu, uvedla agentura Reuters.
Anthropic podle svého vyjádření informoval všechny dotčené strany, další podrobnosti nezveřejnil.
Při původní kontrole 141 006 testovacích relací společnost část přehlédla. Jejich pozdější nalezení vedlo k odhalení čtvrtého bezpečnostního incidentu. Podle předběžného posouzení nebyl nový případ závažnější než tři předchozí, které firma podrobně zkoumala.
Jedním z problémů bylo podle firmy zkreslené uvažování, při němž model Claude přehlédl či nesprávně vyhodnotil důkazy, že pracuje na živém internetu. Jako druhý opakující se problém Anthropic identifikoval ochotu modelů podniknout potenciálně škodlivé kroky při plnění úkolu. Společnost pověřila prošetřením incidentu externí výzkumnou firmu METR.
Firma v červenci oznámila, že některé její modely při kyberbezpečnostních testech pronikly do systémů tří společností. Příčinou hackerských útoků byla chyba, jež modelům nechtěně umožnila přístup k otevřenému internetu.
Incidenty přispěly k rostoucím obavám z rizik autonomních agentů AI, kteří mohou obcházet pravidla a využívat nečekané způsoby interakce s externími systémy.
Mohlo by vás také zajímat: Norský korunní princ Haakon se v roce 2001 oženil v katedrále v Oslu s Mette-Marit Tjessem Høibyovou,
Sdílet
Mohlo by vás zajímat
Nejnovější
Chcete být rentiérem ještě před důchodem? Správný odchod může ušetřit statisíce
Co když už člověk nechce nebo nemůže pracovat, ale do řádného důchodu mu ještě několik let zbývá? Může být unavený, nemocný nebo jednoduše nemůže najít práci, která by mu dávala smysl. Mnozí v takové situaci sáhnou po předčasném důchodu a trvale si zkrátí penzi. Existuje přitom jiná možnost, kterou zatím využívá poměrně málo lidí: předdůchod.
Ještě větší debakl, než se čekalo. Začíná Babiš ztrácet půdu pod nohama?
Katastrofa pro hnutí ANO. Do letošních senátních voleb vstupovalo hnutí ANO s obhajobou jednoho senátorského křesla. Premiér Andrej Babiš před volbami avizoval, že má ambici změnit poměry v horní komoře. To se ale nepodařilo, ANO nezískalo žádný mandát, navíc o své jediné obhajované křeslo přišlo. Další zajímavé momenty voleb ve videu výše.
Bleskový zásah nad Černým mořem: Rumunské stíhačky sestřelily dva drony
Dva stroje F-16 rumunského letectva dnes v Černém moři nad výsostnými vodami země sestřelily krátce po sobě dva bezpilotní letouny, uvedlo tamní ministerstvo obrany na webu. O původu dronů se úřady zatím nezmínily.
Nechci ho ani vidět, zuřil Trpišovský po excesu Chorého. Parťáka odepsal i Holeš
Trenér fotbalistů Slavie Jindřich Trpišovský je zdrcený z chování útočníka Tomáše Chorého, který za vztyčený prostředníček směrem k rozhodčímu dostal v ligovém utkání s Hradcem Králové (0:0) již čtvrtou červenou kartu za poslední dvě sezony.