Co AI umí a co ne (halucinace a limity)

Co AI umí spolehlivě

Nejlíp jí jde práce s textem, který jí sám dáš: přepisovat, shrnovat, překládat, upravovat tón, brainstormovat, vysvětlovat a psát první verze. Tady je to obrovský pomocník a chybuje málo.

Kde si vymýšlí (halucinace)

AI skoro nikdy neřekne „to nevím". Když odpověď nezná, klidně si ji sebejistě vymyslí - jméno, číslo, paragraf zákona, citaci, odkaz. Tomu se říká halucinace a je to největší past pro začátečníky.

Proč se to děje? Vzpomeň si na první lekci - AI předpovídá pravděpodobná slova, ne pravdu. „Věrohodně znějící" pro ni není totéž co „pravdivé".

Kdy dávat obzvlášť pozor

• Konkrétní fakta, čísla a statistiky.
• Právo, daně, zdraví - tady může špatná rada stát peníze nebo hůř.
• Citace a odkazy - AI si je často vymyslí tak, že vypadají skutečně.
• Aktuální dění - model nezná věci po datu svého trénování.
• Výpočty - počítání není jeho silná stránka.

Jak se nespálit (tři pravidla)

1. Dej jí podklady. Když odpovídá z tvého textu nebo dokumentu, skoro nekecá. Nejhorší je ptát se „z hlavy".
2. Ověřuj fakta. Hlavně čísla, zákony a jména si vždycky překlepni z druhého zdroje.
3. Ber to jako návrh, ne verdikt. U důležitých věcí je AI první koncept, ne poslední slovo.

AI je skvělý první koncept a mizerný poslední zdroj pravdy. Kdo tohle pochopí, používá ji líp než 90 % lidí.