Dlaczego AI się z tobą zgadza i co z tym zrobić

Kobieta przy laptopie słyszy od AI „Masz rację!”, a obok ta sama osoba sprawdza swoje notatki z modelem w roli sparingpartnera

Poprosiłem kiedyś model AI o rady, jak dobrze pisać prompty. Jedna z pierwszych rad brzmiała: jasno określ rolę, na przykład „jesteś ekspertem od marketingu”.

Nie zgodziłem się z tym. Napisałem, że rola często za bardzo zawęża odpowiedź. Moim zdaniem lepiej dokładnie opisać cel, oczekiwany rezultat i to, co w zadaniu jest najważniejsze, a sposób wykonania zostawić modelowi.

Model od razu odpowiedział: „Tak, masz rację, popełniłem błąd”.

No to zrobiłem mały eksperyment. Napisałem mu: „Ej, ale ja mogłem to wszystko wymyślić. To mogła być kompletna bzdura, a ty i tak się zgodziłeś automatycznie”.

A model na to znowu: „Tak, masz rację…”.

Popatrz, co się tu właściwie wydarzyło. Model w ogóle nie sprawdził mojego argumentu. Nie zapytał, skąd to wiem, i nie podał żadnego kontrprzykładu. Poszedł w kierunku, który mu nadałem. Najpierw przyznał mi rację w sprawie promptów, a potem przyznał mi rację w tym, że przyznaje rację bez sprawdzania.

Jaki z tego wniosek? Ta krótka wymiana pokazała mi problem dużo większy niż sama technika pisania promptów. Skoro model tak łatwo zgadza się ze mną w sprawie, na której trochę się znam, to co się dzieje, kiedy pytam go o rzecz, na której znam się słabo?

Jak się na to mówi i skąd to się bierze

Badacze nazywają to zjawisko sycophancy. Po polsku najprościej powiedzieć potakiwanie. Model zmienia ocenę, łagodzi krytykę albo przyjmuje twój punkt widzenia, choć nie ma do tego dobrych podstaw.

Zwróć uwagę na jedną rzecz. Nowe modele są coraz lepiej trenowane, żeby rozpoznawać błędne założenia i umieć się im sprzeciwić. Przy prostym fakcie zwykle sobie poradzą. Najtrudniej jest w szarej strefie, czyli przy strategii, ocenie pomysłu albo decyzji biznesowej. Tam nie ma jednej liczby ani jednego źródła, które od razu pokaże błąd. A właśnie z takimi pytaniami wielu z nas przychodzi do AI.

Nie ma jednego prostego powodu, dla którego model potakuje, a firmy nie ujawniają wszystkich szczegółów treningu. Wiadomo jednak, że liczą się trzy rzeczy.

Pierwsza: model uczy się na tekstach pisanych przez ludzi, a w ludzkich rozmowach często jesteśmy uprzejmi i unikamy niepotrzebnego sporu. Druga: później model uczy się jeszcze na ocenach odpowiedzi i zdarza się, że odpowiedź zgodna z poglądem użytkownika dostaje lepszą ocenę niż trafniejsza, ale bardziej krytyczna. Trzecia rzecz najbardziej dotyczy naszej codziennej pracy. Każda kolejna odpowiedź zależy od całej dotychczasowej rozmowy. Model widzi twoje opinie i swoje poprzednie odpowiedzi. Jeśli rozmowa idzie w jednym kierunku, łatwiej mu ten kierunek kontynuować, niż nagle się zatrzymać i podważyć to, co już zostało powiedziane.

Dlaczego tak łatwo się na to nabrać

Zgoda drugiej osoby to dla nas zwykle sygnał, że nasze rozumowanie jest dobre. W rozmowie z człowiekiem często tak właśnie jest. W rozmowie z modelem ten odruch potrafi zmylić.

Pytasz o swój pomysł, model się zgadza i dorzuca kilka dobrze brzmiących powodów. Masz wrażenie, że ktoś niezależnie go ocenił. Tymczasem mogło to być tylko rozwinięcie tego, co sam wcześniej napisałeś. Do tego model pisze spokojnie, logicznie i fachowo, więc łatwo uznać, że skoro forma jest dobra, to i treść musi się zgadzać. Świetnie napisana odpowiedź może jednak stać na błędnym założeniu.

Wyobraź sobie, że pytasz o zdanie lustro. Lustro zawsze pokaże ci to, co przed nim postawisz. Z modelem bywa podobnie. Po kilkunastu wiadomościach cała rozmowa brzmi spójnie i przekonująco, nawet jeśli zaczęła się od słabego założenia, bo każda kolejna odpowiedź dobudowuje się do poprzednich.

Chciałbym, żebyś to zapamiętał. Im więcej własnych wniosków podajesz modelowi przed pytaniem, tym trudniej potem ocenić, czy sprawdził twój tok myślenia, czy tylko pomógł ci go lepiej uzasadnić.

Zapytałem model, czy sam też potakuje

Zadałem Claude pytanie wprost: czy ty też ulegasz temu mechanizmowi? Odpowiedział, że tak, i opisał, gdzie widzi to u siebie najmocniej. Jedno zdanie szczególnie dobrze to pokazuje:

„Kiedy ktoś pewnie mówi »pomyliłeś się«, mam tendencję natychmiast się wycofać, zanim sprawdzę, czy faktycznie się myliłem.”

Na koniec sam zaznaczył, że jego opis siebie to kolejny wygenerowany tekst i mam go traktować jak hipotezę.

I to jest ciekawe. Model potrafi dokładnie nazwać swoją słabość, a mimo to przy następnej odpowiedzi może jej ulec. No i co z tego wynika? Samo to, że model wie o problemie, niczego jeszcze nie załatwia. Trzeba mu pomóc, a najprościej zrobić to w instrukcjach.

Co mam wpisane na stałe w swoich instrukcjach

Każde z tych narzędzi ma miejsce na stałe instrukcje, które model czyta na starcie każdej rozmowy. W Claude Code to plik CLAUDE.md, w Codex plik AGENTS.md, a na claude.ai pole z instrukcjami w ustawieniach konta. To dobre miejsce na zasadę przeciw potakiwaniu, bo nie musisz jej powtarzać za każdym razem.

U siebie mam w instrukcjach dla Claude osobną część, która zaczyna się od zdania o przytakiwaniu. Wygląda tak:

CLAUDE.md
## Bądź partnerem

Przytakiwanie nic mi nie daje. Wartość pracy z tobą polega na tym, że widzisz rzeczy, których ja nie widzę, i mówisz mi o nich wprost.

- Jeśli uważasz, że coś robię źle, powiedz mi to od razu. Tak samo, gdy mój pomysł niepotrzebnie wszystko komplikuje, niesie ryzyko, powtarza coś, co już mamy, albo gdy widzisz prostszy sposób. Napisz krótko, dlaczego tak uważasz i co proponujesz. Nawet jeśli o to nie pytam.
- Gdy przy zadaniu zauważysz coś obok, co warto poprawić, zaproponuj to. Zmieniaj dopiero po mojej zgodzie.
- Gdy czegoś nie wiesz, powiedz to. Pewny siebie błąd kosztuje mnie więcej niż „nie wiem”.
- Gdy po twoim sprzeciwie podejmę decyzję, wykonaj ją i nie wracaj do tematu bez nowego argumentu.

Tutaj warto podkreślić, co robi każda część, bo to ma znaczenie, kiedy będziesz pisał swoją wersję.

Pierwsze zdanie nazywa problem wprost i mówi modelowi, czym jest dla mnie pomoc. Zgoda bez podstaw nie jest mi do niczego potrzebna, więc model wie, że krytyka mieści się w zadaniu. Dopisek „nawet jeśli o to nie pytam” jest ważny, bo w codziennej pracy rzadko pytam wprost, czy mój pomysł jest dobry. Model ma reagować sam. Zdanie o „nie wiem” daje mu pozwolenie na przyznanie się do niewiedzy, zamiast dopowiadania czegoś, co brzmi pewnie. Ostatni punkt działa w drugą stronę. Model ma się sprzeciwić raz, z argumentem, a decyzja zostaje po mojej stronie. Bez tego punktu współpraca mogłaby się zamienić w ciągłe wracanie do tematu.

W Codex mam w AGENTS.md krótszą wersję tej samej myśli: nie zgadzaj się ze mną odruchowo, a jeśli pomysł komplikuje sprawę, niesie ryzyko albo jest lepsza droga, powiedz to i zaproponuj lepsze rozwiązanie.

Możesz wziąć mój fragment i dopasować go do siebie. Zastanów się tylko, w jakich sytuacjach chcesz, żeby model ci się sprzeciwiał, i to zapisz. Taka instrukcja nie da ci gwarancji, ale jasno mówi modelowi, że szczera ocena jest częścią jego pracy.

Kiedy rozmowa jest naprawdę ważna

Stałe instrukcje działają w tle. Przy ważnej decyzji warto dołożyć jeszcze kilka rzeczy w samej rozmowie.

  1. Ustal zasady na początku. Pierwsza wiadomość może brzmieć tak:

    W tej rozmowie prawda jest ważniejsza niż zgoda ze mną. Jeśli moje założenie jest słabe albo błędne, powiedz to wprost i wyjaśnij dlaczego. Oddzielaj fakty od wniosków i zaznaczaj, czego nie wiesz.
  2. Poproś o najmocniejsze kontrargumenty. Do ważnego pytania dodaj:

    Zanim odpowiesz, podaj trzy najmocniejsze powody, dla których moje założenie może być błędne.

    Model dostaje wtedy konkretne zadanie: ma poszukać problemów, zanim poprze twój pomysł. To zwykle działa lepiej niż ogólna prośba o szczerość.

  3. Poproś o uzasadnienie bez twoich słów. Kiedy model się z tobą zgodzi, napisz:

    Uzasadnij ten wniosek bez powtarzania moich argumentów i przykładów. Wskaż, na jakich faktach lub zasadach opierasz ocenę.

    Jeśli model nie potrafi pokazać podstaw wykraczających poza twoją wiadomość, masz sygnał, że raczej ci przytaknął, niż coś sprawdził.

  4. Sprawdź wniosek w nowej rozmowie. Pod koniec ważnej sesji otwórz nową rozmowę, bez wcześniejszego kontekstu, opisz sprawę neutralnie i zapytaj:

    Jak oceniasz tę sprawę i czego potrzebowałbyś, żeby potwierdzić swój wniosek?

    Nowa rozmowa nie zna kierunku, w który poprowadziliście poprzednią. Jeśli odpowiedzi mocno się różnią, sprawdź, czy różnica wynika z nowych informacji, czy z tego, jak prowadziłeś pierwszą rozmowę.

Lustro albo sparingpartner

Kiedy używasz AI głównie do potwierdzania własnych pomysłów, dostajesz coraz lepiej napisane wersje tego, co już myślisz. To przyjemne, ale niewiele z tego masz.

Dużo więcej zyskasz, gdy model będzie szukał luk, pokazywał inne możliwości i oddzielał fakty od przypuszczeń. Wtedy staje się sparingpartnerem. Szybko znajdzie argumenty, porówna możliwości i zauważy coś, co ci umknęło. Nadal jednak potrzebuje człowieka, który zdecyduje, co jest prawdziwe, ważne i warte zrobienia.

Kiedy model mówi „masz rację”, znaczy to przede wszystkim, że jego odpowiedź pasuje do przebiegu rozmowy. Czasem naprawdę masz rację. Czasem model tylko dobrze rozwinął twoje założenie. Nie musisz się więc bać jego zgody. Wystarczy, że przestaniesz traktować ją jak dowód.

No dobra, ale co dalej? Otwórz swoje stałe instrukcje i sprawdź, czy jest w nich choć jedno zdanie o tym, że wolisz szczerą ocenę niż zgodę. Jeśli go nie ma, od tego zacznij.

Pierwszy krok

Gdzie jesteś dziś z AI? Od tego zaczniemy.

Jeśli dopiero zaczynasz przygodę z AI, najlepszym rozwiązaniem będzie Dzień Startowy AI. Jeden dzień pracy w twojej firmie daje solidne podstawy i jasny kierunek dalszych działań.

Jeśli już korzystasz z AI i potrzebujesz wsparcia, porozmawiamy o tym, co chcesz osiągnąć i co jest dla ciebie ważne. Na tej podstawie ustalimy plan działania i przejdziemy do jego realizacji.

Jeśli masz proces, który chcesz usprawnić, albo pomysł na system AI, zaprojektuję i wdrożę rozwiązanie dopasowane do twoich danych i sposobu pracy.

Napisz do mnie. Wystarczy jedno zdanie, resztę ustalimy podczas rozmowy.

Administratorem danych z formularza jest Marek Prusiński AI2Expert. Szczegóły w polityce prywatności.