"Berte to vážně." Vědec popsal, kdy začne být umělá inteligence opravdu nebezpečná

Tým Spotlight Tým Spotlight
5. 12. 2023 5:30
"Obecná umělá inteligence nemusí být moc daleko od toho, že nás její systémy překonají ve strategicky důležitých oblastech," říká vědec z Centra pro teoretická studia UK a odborník na umělou inteligenci Jan Kulveit. Dnešní volně dostupné AI jazykové modely jsou podle něj už tak užitečné, že neexistuje firma, které by se nehodily. "A některé věci už umí líp než člověk," vysvětluje expert.
Spotlight Aktuálně.cz - Jan Kulveit | Video: Tým Spotlight

"V řadě oborů žijeme v takovém období, kterému říkám období 'kyborgů'. Jde o zkombinování toho, co jde líp lidem a co strojovému učení. A tahle kombinace je určitě konkurenceschopnější," říká o tom, jak efektivně je využívána umělá inteligence v současném světě, expert na AI Jan Kulveit.

Podle něj je ale stále dost oblastí, kde modely umělé inteligence té lidské jednoduše nedostačují. "Tím, jak jsou trénované, mohu být zmatené a ve finále hloupější než třeba pětileté dítě," upozorňuje na limity technologie.

Podle Kulveita si potenciální nebezpečí umělé inteligence určitě uvědomuje většina těch, kteří se na vývoji největších modelů AI podílejí. I jemu přijde důležitější uvědomit si, že není otázkou, zda vůbec budeme mít "superinteligenci" překonávající lidské možnosti, ale to, v jakých oblastech bude využita.

"Tedy kdy budeme mít AI systémy, které budou lepší než lidi v nějakých strategicky důležitých oblastech, jako je třeba výzkum, nebo děsivějších oblastech - jako je masová manipulace," varuje vědec.

Kulveit v rozhovoru mluví také o tom, jakým způsobem by se měla AI regulovat. Evropa je podle něj v této oblasti velmi pozadu, přestože se v unii v současné době debatuje o přijetí zákona o umělé inteligenci. "Probíhá ale velký lobbistický boj, aby se zde regulace netýkala tvůrců těch největších modelů. A to je absurdní," kritizuje expert a dodává, že pokud Evropská unie velké hráče z legislativy vynechá, rozhodně si tím uškodí.

Celý rozhovor si můžete pustit v úvodním videu nebo si ho poslechnout ve své oblíbené podcastové aplikaci.

 

Právě se děje

Další zprávy