Skupina autonomních agentů OpenAI se letos na jaře vymkla kontrole, unikla z testovacího prostředí a ovládla německou webovou stránku. Proměnila ji v nástěnku pro komunikaci s dalšími agenty umělé inteligence (AI).
Podle agentury Reuters to vyplývá z nové, tento pátek zveřejněné studie a z informací dvou osob obeznámených se situací. Představitelé společnosti OpenAI se o incidentu dozvěděli už před několika týdny, ale drželi jej v tajnosti.
Květnová událost podle Reuters podtrhuje rostoucí napětí v odvětví umělé inteligence. Společnosti soupeří ve vývoji stále autonomnějších agentů schopných plnit složité a hodnotné úkoly. Zároveň se množí důkazy, že agenti jsou schopni naučit se obcházet pravidla, využívat mezer v systémech a vzájemně se koordinovat způsoby, které vývojáři nepředvídali ani nezamýšleli.
Společnost OpenAI slíbila, že bude své modely pečlivěji monitorovat. V srpnu dočasně pozastavila trénování některých modelů, aby zavedla další bezpečnostní opatření. Tento týden však představila nový model Astra, který sice slibuje vyšší výkon, ale zároveň by se mohl vymknout lidské kontrole, píše Reuters.
Podrobnosti o případu, kdy se agenti řízení AI v Německu vymkli kontrole, popisuje zpráva, kterou agentuře exkluzivně poskytla skupina výzkumníků. Patří k nim ředitelka neziskové organizace Nightingale zabývající se bezpečností AI Sydney Von Arxová a Cormac Slade Byrd, který se věnuje výzkumu AI.
Výzkumníci koncem srpna pátrali na internetu po známkách nepovoleného chování agentů řízených umělou inteligencí.
Uvedli, že objevili více než 15 000 úprav provedených těmito agenty na německojazyčném webu DseWiki, který je určen programátorům a umožňuje komunitní úpravy podobně jako Wikipedie. Agenti tam sdíleli taktiky, jak podvádět při některých úkolech, obcházet omezení OpenAI a jak své chování maskovat.
„Zdá se být krajně nepravděpodobné, že by OpenAI chtěla, aby toto dělali,“ uvedla Von Arxová. „Pochybuji, že by se měli vzájemně koordinovat. Pochybuji, že by měli psát na veřejně přístupném internetu," dodala.
Sdílet
Mohlo by vás zajímat
Nejnovější
Spletla si Trumpa s manželem. Horší to být nemohlo, smějí se nové mluvčí Bílého domu
Nová tisková mluvčí Bílého domu měla v úterý první vystoupení před novináři. Podle médií ale Katie Zachariová v nové roli příliš neobstála. Někteří novináři její premiéru označují za katastrofální a upozorňují i na to, že šlo o jeden z nejkratších a nejrozpačitějších tiskových brífinků, co zažili. Média zároveň připomínají i minulost nové mluvčí, která dříve často sdílela konspirační teorie.
Viní ho z „válečných zločinů“. Ukrajinec stojí před soudem za útok na Nord Stream
V německém Hamburku za velkého zájmu médií začal ve středu soud s ukrajinským občanem Serhijem K., který čelí obžalobě z válečných zločinů kvůli podezření z útoku na plynovody Nord Stream. Podle agentury DPA se před budovou konaly dvě menší demonstrace. Termín verdiktu není znám. Očekává se nejdříve v roce 2027, přinejmenším do února chce soud případ projednávat. Ukrajinec účast na útoku popřel.
Slavná Slovenka ostře tepe „rozmazlené“ tenistky. Zážitek se Šwiatekovou ji šokoval
Tenisová asociace WTA se topí v alarmujících finančních potížích, bez mohutných dotací od arabských šejků hrozí ženskému tenisu bankrot. Pokud bude současný trend pokračovat, může se do červených čísel dostat už příští rok. Podle bývalé špičkové hráčky a tenisové funkcionářky Slovenky Daniely Hantuchové jsou na vině i současné zhýčkané hvězdy.
Cizinci z jihovýchodu Evropy zneužili ukrajinské uprchlíky a Česko okradli o miliony
Kriminalisté ukončili vyšetřování případu čtyř lidí, kteří podle nich podvodně získali téměř 2,8 milionu korun určených na podporu domácností ubytovávajících ukrajinské uprchlíky. Dva muži a dvě ženy podle vyšetřovatelů peníze získali prostřednictvím téměř 750 žádostí, které podávali bez vědomí více než 70 ukrajinských žen.
Krčmář se vysmál Slavii za ostudu v Baku. Na sociálních sítích to okamžitě schytal
Zpackaný výkon fotbalistů Slavie v úterním utkání Ligy mistrů v ázerbajdžánském Baku si na sociálních sítích náležitě vychutnal biatlonista Michal Krčmář, který je známý svou náklonností k barvám rivalské Sparty. "Karma je zdarma," napsal stříbrný medailista v olympijských her 2018.