Generální ředitel americké společnosti Anthropic Dario Amodei vyzval o víkendu firmy zabývající se umělou inteligencí (AI), aby zpomalily tempo, jímž rozšiřují schopnosti svých modelů. Nastínil přitom tříkrokový rámec, jehož cílem je regulovat rychlost vývoje a získat víc času na řízení souvisejících rizik. Krok reaguje na rostoucí obavy ze zneužití umělé inteligence, píše agentura Reuters.
„Musíme zpomalit tempo, jakým zlepšujeme schopnosti modelů umělé inteligence. Pokrok bude i tak rychlý a my musíme moudře využít čas, který tím získáme,“ uvedl Amodei v eseji publikované v sobotu na sociální síti X.
Text navazuje na zprávu o hrozbách, kterou Anthropic zveřejnil ve čtvrtek. Popisuje v ní, jak několik aktérů zneužilo modely umělé inteligence Anthropic Claude k činnostem od vývoje zbraní přes kybernetické operace až po sledování a podvody.
Obavy z potenciálního nebezpečí umělé inteligence se tento týden ještě zvýšily, když výzkumník společnosti Anthropic Jacob Coxon podal výpověď a uvedl, že „lidé, kteří vyvíjejí umělou inteligenci, upřímně věří, že by nás mohla do konce tohoto desetiletí všechny zabít“.
Amodei uvedl, že nechce zastavit pokrok, ale zajistit, aby společnosti měly dostatek času na zabezpečení svých modelů AI a na to, aby to mohla ověřit třetí strana.
OpenAI také zvažuje zpomalení
Americká společnost OpenAI letos neuvede své akcie na burzu. Její šéf Sam Altman v rozhovoru s časopisem Fortune uvedl, že vzhledem k pochybnostem ohledně bezpečnosti umělé inteligence by to nyní nebyl rozumný krok.
Altman podle zdrojů agentury Bloomberg zároveň zaměstnancům řekl, že OpenAI zvažuje zpomalení vývoje nejpokročilejších AI modelů. Vyjádřil také naději, že ostatní firmy zabývající se umělou inteligencí udělají totéž.
Rizika vyhodnotí znalci
Společnost Anthropic v rámci plánu podle svého ředitele dosadí stálé externí znalce do předních firem zabývajících se umělou inteligencí, kteří budou mít přístup k příslušným nástrojům a k interním procesům posuzování rizik.
Podle Amodeie by firmy zabývající se AI měly dobrovolně spolupracovat na vytyčení standardů, jelikož američtí zákonodárci vyzývají k zavedení nových pravidel.
Mohlo vám uniknout: U daní by udělal jednu výjimku. Vlivný motorista řekl, jak těžké je jednat s Babišem
Sdílet
Mohlo by vás zajímat
Nejnovější
ŽIVĚ Slavia - Hradec Králové. Dosud neporažení sešívaní se postaví neoblíbenému soupeři
Sledujte online přenos z utkání 11. kola fotbalové Chance Ligy mezi Slavií Praha a Hradcem Králové.
Median: Sněmovní volby by v září vyhrálo ANO, jeho podpora je nejnižší od května
Sněmovní volby by v září vyhrálo hnutí ANO, jeho podpora ale klesla na 29,5 procenta, což je nejméně od letošního května. Druhý STAN si polepšil na 17 procent, ODS by získala 12,5 procenta hlasů. Vyplývá to z volebního modelu, který ve středu zveřejnila agentura Median.
ŽIVĚ V Česku se už uzavřely volební místnosti, lidé vybrali 22 budoucích senátorů
Hlasování v letošním finále senátních voleb v sobotu ve 14:00 skončilo. Lidé v něm vybrali 22 nových či staronových senátorů, kteří se připojí k pěti zvoleným v prvním kole před týdnem. Svými hlasy rozhodli o rozložení sil v horní parlamentní komoře, které by se podle prognóz příliš změnit nemělo. Většinu si v Senátu udrží opozice, šanci na změnu promarnili kandidáti ANO a SPD už v úvodním kole.
Výsledky druhého kola senátních voleb 2026
Pět senátorů zvítězilo v boji o křesla v horní komoře už v prvním kole. Dalších 22 dvojic se o zbývající posty utkalo v kole druhém. Sledujte živé sčítání hlasů v interaktivní infografice Aktuálně.cz. První průběžné výsledky se začaly načítat pár minut po uzavření volebních místností.
