Umělá inteligence v poslední době zažívá nebývalý boom. Lidé si díky ní snaží co nejvíce ulehčit život. V některých případech by však měli být na pozoru. Američtí badatelé provedli výzkum, ve kterém se zaměřili na odpovědi chatbota ohledně léčby rakoviny. Umělá inteligence v něm neprošla, upozornil deník New York Post.
Nebezpečné rady
Lékaři z harvardské fakultní nemocnice v Brighamu vyzvali společnost OpenAI, aby jejich aplikace ChatGPT podávala o léčbě rakoviny pouze informace, které jsou schválené americkou Národní sítí pro léčbu rakoviny (NCCN). Konají tak na základě své studie, kterou zveřejnili v lékařském časopise JAMA Network.
Výzkumníci zjistili, že všechny odpovědi na otázky ohledně léčby rakoviny obsahovaly aspoň jedno doporučení schválené NCCN. Zhruba třetina rad obsahovala i nesprávné doporučení. Dalších 12 procent výstupů obsahovalo úplné nesmysly, které neměly žádnou souvislost s uznávanými metodami léčby.
Badatelé zaměřili výzkum na doporučení k léčení rakoviny prsu, prostaty a plic. S největší pravděpodobností se poznatky z výzkumu budou vztahovat k více nemocem.
Nepravdy
Společnost OpenAI v minulosti několikrát upozornila, že chatbot GPT nejnovější generace je náchylný k chybám. Vymýšlí si nepravdivá fakta a dělá chyby v úvahách. „U závažných případů by měli uživatelé k odpovědím AI postupovat podle potřeb použití konkrétního výstupu,“ uvedla společnost. Například ve věcech medicíny je třeba doporučení vždy konzultovat s lékařem.
Pro laika není těžké nechat se umělou inteligencí zmást. „ChatGPT často formuluje odpovědi s takovou jistotou, že to působí smysluplně. Ovšem způsob, kterým míchá pravdivé a nepravdivé informace, může být potenciálně nebezpečný,“ řekla agentuře Bloomberg výzkumnice a onkoložka Danielle Bittermanová.
Konkurence
ChatGPT však není jedinou aplikací, která dělá chyby. Také AI bot Bard od společnosti Google není stoprocentní. Hned při jeho první prezentaci totiž udělal faktickou chybu. Uvedl, že první fotku planety mimo naši sluneční soustavu udělal minulý rok vesmírný dalekohled Jamese Webba. První ovšem vznikla už v roce 2004.
Programátoři umělou inteligenci neustále posouvají vpřed, nicméně stále není naprosto důvěryhodná. Může totiž nepravdivě odpovědět i u méně složitých témat. Informace je proto třeba vždy ověřovat. Nejjednodušší způsob je zeptat se bota na zdroj, ze kterého čerpal, a následně si u něj s pomocí internetových vyhledávačů prověřit pravdivost.
