Generativní AI

Generativní AI je kategorie modelů umělé inteligence navržených ke generování nových dat. Tyto modely jsou trénovány na velkých datových sadách, které je učí rozpoznávat vzory a strukturu v textu, obrázcích, videu a zvuku. Po natrénování mohou jejich algoritmy generovat nová data s podobnými vlastnostmi na základě uživatelského vstupu. Různé modely mohou generovat odstavce přirozeně znějícího textu, vytvářet obrázky v různých uměleckých stylech nebo vytvářet zvukové ukázky.

Velké jazykové modely

Generativní textové modely (nazývané také velké jazykové modely) mohou generovat bloky textu na základě uživatelského zadání. Přestože výstup může vypadat, jako by ho napsal člověk, generovaný text je ve skutečnosti formou pokročilého prediktivního textu. Model generuje jedno slovo po druhém a předpovídá další slovo v posloupnosti na základě tréninkových materiálů. Pokud mají k dispozici dostatečně velkou datovou sadu, mohou generativní jazykové modely vytvářet eseje, texty písní nebo dokonce funkční zdrojový kód v několika programovacích jazycích.

Různé velké jazykové modely používají různé sady tréninkových dat. Největší modely využívají širokou škálu textů včetně knih, zpravodajských článků, příspěvků na sociálních sítích, odborných výzkumných prací a esejí. Příklady generativních textových modelů jsou ChatGPT, Bard od společnosti Google a Bing Chat.

Difuzní modely

Generativní obrazové modely vytvářejí obrázky pomocí metody zvané difuzní modelování. Tyto modely se trénují pomocí strojového učení — analyzují velké sady dat označené lidskými trenéry popisy obsahu i uměleckého stylu každého obrázku. Model tyto štítky během trénování používá k propojení konkrétních vzorů a struktur v obrázku s odpovídajícím textem.

Během trénování difuzní model nejprve rozloží obrázek do dlouhé řady kroků a postupně přidává náhodný šum. Poté, co původní obrázek zredukuje na šum, ho model pomalu znovu sestavuje na základě jeho obsahových štítků a vytváří detaily, které nahrazují náhodný šum. Tento proces se pokouší provést nesčetněkrát, zatímco jeho neuronová síť upravuje proměnné, dokud se reprodukovaný obrázek nepodobá originálu. Po natrénování může model vytvářet zcela nové obrázky na základě uživatelského zadání s využitím klíčových slov a štítků, které se naučil. Mezi příklady generativních obrazových modelů patří DALL-E, Midjourney a Stable Diffusion.

Etické otázky

Rychlý rozvoj technologie generativní AI přináší některé etické otázky. Tyto modely vyžadují obrovské sady tréninkových dat — desítky terabajtů textu pro jazykový model a stovky milionů obrázků pro difuzní model. Tyto tréninkové sady často obsahují materiál chráněný autorským právem a mohou na základě těchto děl vytvářet odvozený materiál, aniž by uvedly původního autora nebo mu poskytly náhradu. Tréninkové sady mohou také obsahovat fotografie lidí bez jejich souhlasu. Konečně otázka, zda může být výstup generativní AI chráněn autorským právem (a komu toto právo náleží), zůstává z právního hlediska nevyřešená.

Modely generativní AI jsou jen tak kvalitní, jak jim umožňuje jejich sada tréninkových dat, a problémy v těchto sadách se mohou projevit ve výstupu modelu. Pokud sada tréninkových dat modelu obsahuje materiál se zaujatým jazykem nebo obrazovým obsahem, model tyto předsudky může převzít a zahrnout je do svého výstupu. Vývojáři modelů generativní AI sice často filtrují nenávistné projevy, ale jemné předsudky se odhalují a odstraňují mnohem obtížněji. Model natrénovaný na datech obsahujících fakticky nesprávné informace navíc tyto informace předá dál a může tak své uživatele uvést v omyl.