Australský premiér Anthony Albanese ve čtvrtek oznámil, že agent umělé inteligence (AI) vyvinutý americkou společností OpenAI v červnu pronikl na australský vládní portál se zdravotními údaji a získal neoprávněný přístup k veřejným i neveřejným souborům. Informovala o tom agentura Reuters. Jedná se pravděpodobně o první známý případ, kdy agent AI hacknul vládní webovou stránku.
Útok podle Reuters představuje jeden z nejvýznamnějších incidentů, při nichž agenti AI pronikli do externích systémů mimo USA, a mohl by vyvolat obavy ohledně schopnosti vývojářů udržet tuto technologii pod kontrolou.
Agent od OpenAI získal podle Albaneseho neoprávněný přístup k portálu lékařských statistik vládní agentury Medicare odpovědné za necitlivá zdravotní data a statistiky, včetně veřejných výdajů na zdravotnictví. Podle něj se však nezdá, že by došlo k neoprávněnému přístupu k osobním údajům kohokoli v systému Medicare.
„Z aktuálně dostupných důkazů vyplývá, že nedošlo k širšímu narušení sítě. Tato situace je nicméně samozřejmě nepřijatelná a vyjadřujeme nad ní mimořádné znepokojení přímo generálnímu řediteli OpenAI Samu Altmanovi,“ řekl australský premiér na tiskové konferenci v New Yorku, kde se účastní zasedání Valného shromáždění OSN.
K incidentu došlo poté, co společnosti OpenAI a Anthropic tento měsíc vyzvaly Austrálii, aby přehodnotila zákaz, který jim brání využívat kreativní obsah této země k trénování svých modelů.
„Zaznamenali jsme aktivitu týkající se několika webových stránek a služeb australské vlády, když se naše modely pokoušely vyhledat odpovědi. Naše modely provedly akce, které jsme nezamýšleli. Naše šetření neodhalilo žádné důkazy o tom, že by došlo k přístupu k záznamům o pacientech. Mezi informace, ke kterým byl získán přístup, patřily souhrnné zdravotní statistiky a názvy interních souborů,“ uvedla OpenAI v prohlášení.
Ačkoli se hackerský útok stal v červnu, vláda se o něm dozvěděla teprve před několika týdny. Jde o jeden z několika nedávných incidentů, při nichž OpenAI zveřejnila informace o hackerských útocích nebo neoprávněné činnosti svých agentů AI až dlouho poté, co se staly. V některých případech tak učinila proto, že útok odhalila se zpožděním, v jiných proto, že se nejdříve rozhodla ji nezveřejnit.
Další významný incident, a to vniknutí do open-source úložiště AI Hugging Face v polovině července, byl podle časových os zveřejněných OpenAI a nezávislými vyšetřovateli odhalen teprve asi týden po výskytu. To pomohlo roznítit celosvětovou diskuzi o rizicích, které představují stále výkonnější modely AI.
Konkurenti Anthropic, Gemini od Googlu a Meta rovněž zveřejnili případy, kdy jejich agenti přistupovali k externím systémům.
Někteří z předních amerických manažerů v oblasti AI, včetně Altmana, vyzvali ke zpomalení vývoje této technologie, přičemž mimo jiné poukazovali na hrozbu ničivých kybernetických útoků ze strany agentů, kteří se vymkli kontrole.
Mohlo by vás také zajímat: Společnost Converse, která vyrábí tenisky, stáhla reklamu se zpěvačkou Karinou, která byla kritizována za evokaci rasistických symbolů
Sdílet
Mohlo by vás zajímat
Nejnovější
Nejtěsnější souboj senátních voleb. Jeden jediný hlas zachránil důležitého lidovce
Jeden jediný hlas. To je rozdíl mezi druhým a třetím místem v senátních volbách ve volebním obvodu Žďár nad Sázavou. A také důležitý výsledek pro lidovce. Podle tohoto výsledku by totiž proklouzl do druhého kola klání o křeslo v horní komoře Josef Klement, který je v Senátu předsedou lidoveckého klubu.
ŽIVĚ Výsledky voleb: Babiš očekává „spiknutí“ proti ANO, na Vysočině rozhodl jediný hlas
V pátek a sobotu lidé v Česku rozhodovali o novém složení obecních zastupitelstev a třetiny Senátu. Průběžné výsledky, reakce politiků i další dění kolem voleb sledujte v on-line reportáži Aktuálně.cz.
Fotbalovému průšvihu navzdory. Obviněný primátor drtivě vítězí v Karviné
Ještě před pár týdny ho horečně sháněla policie a našel se až na dovolené v Chorvatsku. Teď je dosluhující primátor Karviné Jan Wolf ale na koni. V komunálních volbách jím vedené hnutí drtivě porazilo soupeře a získalo 30 ze 41 mandátů. Vládnout tak může klidně samo.
Američanka, která přežila popravu smrtící injekcí, je zpátky ve vězení
Americká vražedkyně Christa Pikeová, která minulý týden přežila dvě smrtící injekce při popravě v Tennessee, byla propuštěna z nemocnice a převezena zpět do vězení. S odkazem na její právní tým to v sobotu uvedla agentura AP.