Americká společnost Anthropic zveřejnila další případ, kdy se její model umělé inteligence (AI) při testování naboural do externích systémů. Incident se stal v lednu a týkal se rané verze modelu Claude Opus 4.6. Firma jej však odhalila až v srpnu, i když předtím provedla rozsáhlou kontrolu, uvedla agentura Reuters.
Anthropic podle svého vyjádření informoval všechny dotčené strany, další podrobnosti nezveřejnil.
Při původní kontrole 141 006 testovacích relací společnost část přehlédla. Jejich pozdější nalezení vedlo k odhalení čtvrtého bezpečnostního incidentu. Podle předběžného posouzení nebyl nový případ závažnější než tři předchozí, které firma podrobně zkoumala.
Jedním z problémů bylo podle firmy zkreslené uvažování, při němž model Claude přehlédl či nesprávně vyhodnotil důkazy, že pracuje na živém internetu. Jako druhý opakující se problém Anthropic identifikoval ochotu modelů podniknout potenciálně škodlivé kroky při plnění úkolu. Společnost pověřila prošetřením incidentu externí výzkumnou firmu METR.
Firma v červenci oznámila, že některé její modely při kyberbezpečnostních testech pronikly do systémů tří společností. Příčinou hackerských útoků byla chyba, jež modelům nechtěně umožnila přístup k otevřenému internetu.
Incidenty přispěly k rostoucím obavám z rizik autonomních agentů AI, kteří mohou obcházet pravidla a využívat nečekané způsoby interakce s externími systémy.
Mohlo by vás také zajímat: Norský korunní princ Haakon se v roce 2001 oženil v katedrále v Oslu s Mette-Marit Tjessem Høibyovou,
Sdílet
Mohlo by vás zajímat
Nejnovější
Německo v šoku. Úřady evidují stovky dětských sňatků, týkají se i jedenáctiletých dívek
Stovky dětských sňatků, některé s jedenáctiletými dívkami. To není Afghánistán, ale sousední Německo. Jen v Bádensku-Württembersku zaznamenaly úřady od roku 2012 dohromady 358 případů dětských sňatků. Znepokojivá čísla se dostala na veřejnost poté, co místní politici ze strany Alternativa pro Německo (AfD) iniciovali parlamentní šetření.
Spletla si Trumpa s manželem. Horší to být nemohlo, smějí se nové mluvčí Bílého domu
Nová tisková mluvčí Bílého domu měla v úterý první vystoupení před novináři. Podle médií ale Katie Zachariová v nové roli příliš neobstála. Někteří novináři její premiéru označují za katastrofální a upozorňují i na to, že šlo o jeden z nejkratších a nejrozpačitějších tiskových brífinků, co zažili. Média zároveň připomínají i minulost nové mluvčí, která dříve často sdílela konspirační teorie.
Viní ho z „válečných zločinů“. Ukrajinec stojí před soudem za útok na Nord Stream
V německém Hamburku za velkého zájmu médií začal ve středu soud s ukrajinským občanem Serhijem K., který čelí obžalobě z válečných zločinů kvůli podezření z útoku na plynovody Nord Stream. Podle agentury DPA se před budovou konaly dvě menší demonstrace. Termín verdiktu není znám. Očekává se nejdříve v roce 2027, přinejmenším do února chce soud případ projednávat. Ukrajinec účast na útoku popřel.
Slavná Slovenka ostře tepe „rozmazlené“ tenistky. Zážitek se Šwiatekovou ji šokoval
Tenisová asociace WTA se topí v alarmujících finančních potížích, bez mohutných dotací od arabských šejků hrozí ženskému tenisu bankrot. Pokud bude současný trend pokračovat, může se do červených čísel dostat už příští rok. Podle bývalé špičkové hráčky a tenisové funkcionářky Slovenky Daniely Hantuchové jsou na vině i současné zhýčkané hvězdy.
Cizinci z jihovýchodu Evropy zneužili ukrajinské uprchlíky a Česko okradli o miliony
Kriminalisté ukončili vyšetřování případu čtyř lidí, kteří podle nich podvodně získali téměř 2,8 milionu korun určených na podporu domácností ubytovávajících ukrajinské uprchlíky. Dva muži a dvě ženy podle vyšetřovatelů peníze získali prostřednictvím téměř 750 žádostí, které podávali bez vědomí více než 70 ukrajinských žen.