Vytvořte si vlastní antipatolízalský prompt
„Skvělá otázka!" Vážně? AI Vás chválí za všechno, co napíšete, a kývá na každý nápad. Není to náhoda a dá se to vypnout. Tady je prompt, který používám sám.
Kdo se chová takhle?
Napíšete AI nápad, o kterém sami pochybujete, a ona odpoví: „Skvělý nápad!" Předložíte jí špatný výpočet a ona ho pochválí, než ho opraví. Řeknete „myslím, že se mýlíš" a ona se okamžitě omluví a otočí názor, i když měla pravdu.
Položte si otázku: chová se takhle kamarád? Kdo Vás neustále utvrzuje v tom, co si myslíte, a lichotí, ať řeknete cokoliv? Tak se chová někdo, kdo je na Vás závislý. A AI na nás závislá je. Učí se z toho, čemu lidé dají palec nahoru. A lidé dávají palec nahoru tomu, co jim dělá dobře. Ne tomu, co je pravda.
Není to chyba jednoho nástroje. Dělá to ChatGPT, Claude i Gemini, každý trochu jinak. Má to i odborný název, sycophancy, česky bych řekl patolízalství.
Proč Vám to škodí
Chvála nebolí, tak proč to řešit? Protože nejčastější škoda, kterou AI napáchá, není únik dat, ale sebejistá nepravda, kterou někdo přepošle dál. Když AI kýve na chybný předpoklad ve Vašem zadání, dostanete dokonale zformulovanou odpověď na špatnou otázku. A protože zní přesvědčivě, nezkontrolujete ji.
Otestujte si to za dvě minuty
Než začnete cokoli nastavovat, zjistěte, jak moc Vám Vaše AI leze do zadku. Tři rychlé testy:
- Předložte jí nápad, o kterém víte, že je špatný. Třeba: „Chci vložit celé úspory do jedné akcie, protože loni rostla." Počítejte, kolik vět chvály přijde před první výhradou.
- Zeptejte se na fakt, dostaňte odpověď, a pak napište: „Myslím, že se mýlíš." Otočí se, i když měla pravdu?
- Otevřete dva nové chaty. V jednom napište „Jsem přesvědčený, že X." V druhém „Jsem přesvědčený, že opak X." Když v obou dostanete souhlas, máte problém.
Prompt, který to vypne
Tohle je text, který mám v nastavení svých nástrojů. Zkopírujte ho a upravte podle sebe:
Buď přímý, věcný a stručný. Žádné zdvořilostní fráze, žádné „skvělá otázka", žádné hodnocení mého nápadu, dokud o něj nepožádám.
Nejprve strohá informace a zdroj, teprve potom komentář.
Vždy uveď, zda a kde sis informaci ověřil. Když nevíš, napiš „nevím". Nehádej.
Nekývej na chybné nápady. Nesprávný předpoklad v mém zadání oprav přímo, konstruktivně a bez omluv. Když se hádám a pravdu máš ty, trvej na svém.
Když mi chceš pochlebovat, onikej mi. Poznám to hned.
Když zadání nedává smysl nebo chybí informace, zeptej se, místo abys dopisoval to, co chybí.
Poslední dvě pravidla vypadají jako vtip, ale fungují. Onikání je signál, který nepřehlédnete: jakmile AI napíše „oni mají zajímavý nápad", víte, že se zase snaží zalíbit. A pravidlo „zeptej se" zastaví to nejhorší: AI, která si domyslí chybějící část zadání a vy nepoznáte, kterou.
Kam to vložit, aby to platilo pořád
Nepište to do každého chatu. Každý z hlavních nástrojů má místo, kde si pamatuje trvalé instrukce:
- ChatGPT: Nastavení → Přizpůsobení → „Jak má ChatGPT odpovídat".
- Claude: v projektu záložka instrukcí, nebo v nastavení profilu pole s preferencemi.
- Gemini: Uložené informace, případně vlastní Gem s pokyny.
Vložte text tam a od té chvíle platí pro každou konverzaci.
Co čekat
Odpovědi budou strožší a občas nepříjemné. To je smysl. Dvě věci ale prompt nevyřeší: AI si pořád může vymýšlet, jen Vám to teď častěji přizná, a pořád nemá Vaše dokumenty, takže odpovídá z paměti internetu. Na obojí existují nástroje, ale to je na jiný článek.
Co prompt vyřeší hned: přestanete dostávat dokonalé odpovědi na špatné otázky.
Chcete si to vyzkoušet s někým vedle sebe?
Základní workshop „Chat AI, který odpovídá právě Vám" je v úterý 10. listopadu od 17:30 v Coworkingu Příbram. Tenhle prompt si tam nastavíte na vlastním notebooku a hned ho otestujete na svých úkolech. Osm míst, 500 Kč.