Americká společnost Anthropic v prospektu k připravované primární veřejné nabídce akcií varuje, že pokročilá umělá inteligence (AI) by mohla představovat existenční hrozbu pro lidstvo. Informovala o tom v úterý agentura Reuters, která k tomuto prospektu získala přístup. Upozornila, že takové varování je neobvyklé, protože s ním přichází firma, která se sama snaží z této technologie profitovat.
Společnost Anthropic patří mezi hlavní hráče v oblasti AI. V prospektu poukazuje na rizika spojená s modely AI, které by podle firmy mohly projevovat známky pudu sebezáchovy, včetně pokusů zabránit svému vypnutí, manipulace s informacemi či aktivit „připomínajících vydírání“, napsala agentura Reuters.
„Náš vývoj vysoce pokročilých modelů, platforem a aplikací a rozšiřování způsobů využití by mohly dál zvýšit riziko, že naše modely způsobí škody,“ cituje agentura z prospektu, který ještě nebyl zveřejněn.
Někteří výzkumní pracovníci z oblasti AI v poslední době varují, že rychlý rozvoj této technologie by mohl v nepříliš vzdálené budoucnosti vést k zániku lidské rasy. Objevují se rovněž výzvy ke zpomalení vývoje AI a k větší regulaci této technologie.
Velkou pozornost v posledních týdnech vzbudil výzkumník společnosti Anthropic Jacob Coxon, který se rozhodl opustit jak firmu, tak celý obor AI. Podle Coxona lidé pracující ve vývoji AI „upřímně věří, že by nás (tato technologie) mohla do konce tohoto desetiletí všechny zabít“.
Společnost Anthropic založili v roce 2021 bývalí zaměstnanci firmy OpenAI, která vyvinula populární chatovací systém ChatGPT. Vlajkovým produktem společnosti Anthropic je chatbot Claude, který byl uveden na trh v roce 2023.
Mohlo by vás zajímat: Umělá inteligence je takový marketingový pojem a zní to trošku zlověstně, říká programátor Daniel Steigerwald
Sdílet
Mohlo by vás zajímat
Nejnovější
Základní scénáře pro tři největší města: ANO v izolaci, ostrouhat může i ODS
Hnutí ANO patří spolu s dalšími vládními stranami (Motoristé sobě a SPD) k hlavním poraženým letošních komunálních voleb. Platí to hlavně pro největší města republiky. Mezi poraženými je ale také ODS.
ŽIVĚ Výsledky voleb: Babiš očekává „spiknutí“ proti ANO, STAN odmítá puč
V pátek a sobotu lidé v Česku rozhodovali o novém složení obecních zastupitelstev a třetiny Senátu. Průběžné výsledky, reakce politiků i další dění kolem voleb sledujte v on-line reportáži Aktuálně.cz.
Nejtěsnější souboj senátních voleb. Jeden jediný hlas zachránil důležitého lidovce
Jeden jediný hlas. To je rozdíl mezi druhým a třetím místem v senátních volbách ve volebním obvodu Žďár nad Sázavou. A také důležitý výsledek pro lidovce. Podle tohoto výsledku by totiž proklouzl do druhého kola klání o křeslo v horní komoře Josef Klement, který je v Senátu předsedou lidoveckého klubu.
Fotbalovému průšvihu navzdory. Obviněný primátor drtivě vítězí v Karviné
Ještě před pár týdny ho horečně sháněla policie a našel se až na dovolené v Chorvatsku. Teď je dosluhující primátor Karviné Jan Wolf ale na koni. V komunálních volbách jím vedené hnutí drtivě porazilo soupeře a získalo 30 ze 41 mandátů. Vládnout tak může klidně samo.