Umělá inteligence (AI) může pro lidstvo představovat existenční hrozbu. „Nad určitou hranicí schopností se může stát potenciálně neovladatelnou,“ uvedl pro CNN generální ředitel společnosti Gladstone AI Jeremie Harris.

Firma nedávno na základě výzkumů a analýz vypracovala zprávu pro americké ministerstvo zahraničí o reálných nebezpečích hrozících od moderní technologie.

Experti varovali, že například teroristické organizace by mohly ukrást a vyzbrojit nejvyspělejší systémy za účelem destabilizace celosvětové bezpečnosti. Ačkoliv se nemá jednat o scénář jako z filmů Terminátor, následky by i tak mohly být katastrofické. „Mohly by navrhovat a dokonce i provádět biologické, chemické nebo kybernetické útoky, případně zneužít ozbrojená robotická zařízení,“ uvedli podle magazínu Time.

Rozhovor s českým vědcem Stanislavem Fořtem o umělé inteligenci:

Stanislav Fořt, ředitel vývoje a výzkumu velkých jazykových modelů ve Stability AI
Umělá inteligence změní budoucnost. Nesmí sloužit jen bohatým, říká vědec Fořt

Dalším možným nebezpečím je ztráta kontroly, tedy umělá inteligence může přelstít své tvůrce. „Výzkumníci očekávají, že dostatečně vyspělé systémy budou jednat tak, aby zabránily svému vypnutí,“ uvedli experti z Gladstone AI. Podle nich se technologie mohou stát nekontrolovatelné, pokud je firmy budou vyvíjet dle současných technik. To znamená, že vývojáři kvůli vysokým finančním odměném upřednostňují rychlé zdokonalování systémů před vývojem bezpečnostních opatření.

Kmotr AI Geoffrey Hinton uvedl, že umělá inteligence se může naučit zabíjet lidi:

Zdroj: Youtube

CNN uvedla, že tyto obavy panují i ve výzkumných centrech, kde pracují na nejvyspělejších modelech AI.

Náhrada v zaměstnání

Rizika od umělé inteligence existují i v běžném životě. Asi největším problémem pro lidi může být ztráta zaměstnání. Magazín Forbes uvedl, že hrozbou je zejména pro pracovníky s nízkou kvalifikací, jelikož dochází k automatizaci pracovních míst.

Analytici pracovního portálu Indeed CBS News sdělili, že velmi ohroženou skupinou jsou zaměstnanci v administrativě, informačních technologiích a podobně. „AI může nahradit kodéry a softwarové vývojáře,“ řekla hlavní ekonomka společnosti Svenja Gudellová. Analýza totiž ukázala, že AI dokáže v tomto odvětví vykonávat až 95 procent požadovaných dovedností. Vyšší míra ohrožení je také u pozic, které je možné vykonávat z domu.

Co se AI nedokáže naučit?

Zeptejte se na cokoli a Deník najde odpovědi. S pomocí expertů…
Co se umělá inteligence nedokáže naučit?

Odborníci dodali, že technologie pravděpodobně nikdy plně nenahradí člověka v oblastech, kde vyniká. Může ale vykonávat některé rutinní práce, čímž zvýší produktivitu.

Forbes dále uvedl, že ztráta pracovních míst kvůli umělé inteligenci může globálně prohloubit propast mezi chudými a bohatými lidmi.

Velký bratr

Další obavy panují v oblasti soukromí. Magazín Forbes napsal, že odborníci diskutují nad otázkami ohledně ochrany osobních dat a bezpečnostních údajů, jelikož systémy shromažďují a analyzují velké množství těchto informací.

Server TechTarget taky upozornil na využívání AI k sledování lidí, místa pobytu, jejich aktivit i pro rozpoznávání obličejů a monitorování komunikace. Evropské i americké úřady však pracují na legislativách, které by podobnému zneužití měly zabránit. Například europoslanci nyní schválili akt o umělé inteligenci, který je první svého druhu.

Pomocník při šíření dezinformací

Hrozbou, které lidé již nyní čelí, je zneužívání umělé inteligence k manipulaci s veřejným míněním. Na internetu, zejména na sociálních sítích jako Facebook nebo TikTok, je možné najít příspěvky a články s nepravdivými informacemi cílícími na emoce veřejnosti vytvořené pomocí technologie Deepfake – algoritmu AI používaného k vytváření falešného zvukového i obrazového obsahu, který vypadá realisticky.

Obětí technologie Deepfake se stal i Andrej Babiš:

Poslanec a šéf hnutí ANO Andrej Babiš, ilustrační foto
Sítěmi se šíří falešné video s Babišem. Jde o podvod za pomoci umělé inteligence

Také podvodníci používají AI k tvorbě podvodných kampaní, v nichž často chtějí z důvěřivých lidí vylákat peníze. Uživatelé sociálních sítí pak vidí tyto na první pohled neškodné a věrohodné odkazy, například na falešné investice, ve vláknech jako takzvané sponzorované nebo doporučené příspěvky.

Ačkoliv společnosti jako Meta, Google nebo Microsoft se snaží podvodům a dezinformacím zabránit, jedná se o složitý proces, který zatím nemá stoprocentní úspěšnost.

Z lidí budou nemyslící nástroje

Problémem může být i příliš velká závislost lidí na umělé inteligenci. Může tak snížit schopnost kritického myšlení, rozhodování, řešení problémů i shromažďování informací. Experti se podle serveru TechTarget obávají i větší dehumanizace společnosti kvůli rostoucímu nahrazování lidského úsudku a empatie. Dále se účelově i chybně vytvořenými algoritmy může zvyšovat míra diskriminace a rasismu.

Rozhovor u umělé inteligenci s Geoffrey Hintem, který vyzval ke zmírnění existenčních rizik:

Zdroj: Youtube

Na základě všeho výše zmíněného odborníci, vědci i úředníci řeší etická dilemata týkající se autonomie, odpovědnosti a možnosti zneužití. Neregulované systémy AI totiž mohou vést k nezamýšleným důsledkům se závažnými dopady na společnost.

Velký potenciál, ale s nutnou kontrolou

Navzdory všem hrozbám je nutné brát v potaz, že umělá inteligence může lidstvu v mnohém pomoci. „Mohla by nám umožnit léčit těžké nemoci, provádět vědecké objevy a překonávat výzvy, které jsme dříve považovali za nepřekonatelné,“ řekl Time Jeremie Harris. Podle něj i dalších expertů je však nutné, aby lidé v první řadě dbali na vývoj bezpečnosti. I proto společnost Gladstone AI ve zprávě doporučuje americké vládě, aby zasáhla.

Nástup umělé inteligence je nevyhnutelný. Co se změní?

Ilustrační foto
Nástup umělé inteligence je nevyhnutelný. Jak se změní náš běžný den?

K lepším opatřením v oblasti vývoje umělé inteligence se loni vyjádřila i řada dalších expertů. CNN připomněla, že Geoffrey Hinton, který dřív pracoval pro Google a je známý jako kmotr AI, spolu s desítkou dalších vedoucích představitelů AI průmyslu, akademiků a dalších osobností podepsal prohlášení, ve kterém uvedli, že zmírnění existenčních rizik v důsledku autonomních systémů by mělo být globální prioritou.

Co je umělá inteligence?

Plán hodiny přírodopisu na ZŠ Tyršova vymyslela umělá inteligence.ChatGPT je častým AI pomocníkem lidíZdroj: Deník/Miroslav S. Jilemnický

  • Je obor informatiky zabývající se tvorbou systémů řešících komplexní úlohy.
  • Využívá se například v oblastech zpracování obrazu, psaného textu či mluveného jazyka, nebo pro plánování či řízení na základě zpracování velkých objemů dat. I proto je stále častější součástí lidských životů.
  • Má několik oblastí, mezi které patří například neuronové sítě, robotika či strojové učení.
  • Pojem úzká umělá inteligence (NAI) neboli „slabá AI“ odkazuje na systémy zaměřené na řešení jediné úzce vymezené úlohy. Mezi příklady patří internetoví boti nebo virtuální asistent Apple nazvaný Siri.
  • Odborníci mají ale obavy z Obecné umělé inteligence (AGI) neboli „silné AI“. Ta odkazuje na systémy řešící úlohy stejně dobře nebo dokonce lépe než člověk a řeší je bez nutnosti předchozího učení jednotlivých úzce vymezených úloh.