9 zasad programowania z AI - #9: Osąd i odpowiedzialność

To ostatnia część serii. W poprzedniej ustalaliśmy, ile ludzkich oczu potrzebuje zmiana. Przez osiem zasad uczyliśmy się oddawać agentowi coraz więcej. Ta ostatnia mówi, czego oddać nie wolno.

Zasada #9: zostaw sobie osąd i odpowiedzialność

Agentowi możesz oddać pracę, ale nie rozumienie i nie odpowiedzialność.

Nie oddawaj myślenia

Dex Horthy z HumanLayer mówi wprost: nie oddawaj myślenia na zewnątrz. Błąd w rozpoznaniu systemu psuje wszystko, co powstaje potem, a zły fragment planu to setki złych linii kodu. Andrej Karpathy ujmuje to podobnie: możesz oddać myślenie, ale nie rozumienie.

Według Karpathy’ego człowiekowi zostają gust, osąd, szczegółowy opis tego, czego chcemy, nadzór i znajomość podstaw, żeby rozpoznać, kiedy agent się myli.

Agent bywa genialny i absurdalny naraz

Karpathy nazywa to „poszarpaną inteligencją”: ten sam model potrafi przerobić kod liczący 100 tys. linii, a po chwili doradzić, żeby pieszo przejść 50 metrów do myjni samochodowej. W kodzie wygląda to podobnie: agent może na przykład łączyć płatności po adresie e-mail zamiast po stałym numerze użytkownika. Dlatego zostajemy „w pętli”, czyli nie odpuszczamy oceny tego, co agent zrobił.

Karpathy rozróżnia też dwa style pracy. Vibe coding (programowanie „na wyczucie”, bez zaglądania w kod) podnosi poziom startowy dla wszystkich, bo każdy może coś zbudować. Agentic engineering (praca z agentami z zachowaniem inżynierskich standardów) utrzymuje dotychczasową jakość przy większej szybkości.

Kto steruje, a kto wykonuje

Matt Pocock opisuje podział ról obrazowo: agent to taktyczny „sierżant”, człowiek odpowiada za strategię. Za Kentem Beckiem dodaje: kod, który wygląda wiarygodnie, to jeszcze nie kod, który działa, więc trzeba codziennie inwestować w dobry projekt systemu.

W praktyce Pocock proponuje dzielić kod na „szare skrzynki”, czyli kawałki z prostym wejściem i wyjściem. Człowiek projektuje to, co widać z zewnątrz, i właśnie to testuje, a wnętrze oddaje agentowi. Wyjątkiem są obszary krytyczne, np. płatności.

Odpowiedzialność nie przechodzi na agenta

W zespole Claude Code obowiązuje zasada „you land it, you own it”: kto wdraża zmianę, ten za nią odpowiada. Scott Hanselman z GitHub dodaje, że AI to po prostu kolejne narzędzie. Cały proces tworzenia oprogramowania zostaje ten sam (planowanie, testy, przegląd), a hasło brzmi „trust but verify”: ufaj, ale sprawdzaj.

Gdzie napięcie?

Lopopolo z OpenAI zachęca: nie bój się wycofać się z ciągłego pilnowania agenta (usunąć się „z pętli”), bo agent da radę. Horthy każe nie oddawać myślenia. Sprzeczność? Nie. Wniosek z całej serii: Lopopolo może się wycofać dlatego, że zbudował wokół agenta system: jasno zapisane wymagania, dowody, reguły, kontrolę. Usunięcie się z pętli to efekt inwestycji w zasady 2–8, a nie punkt startu.

9 zasad na jednej stronie

1. Zarządzaj kontekstem: agent robi to, co ma w oknie, więc pilnuj, co tam jest
2. Ustalcie, o co chodzi: wspólne rozumienie zadania przed kodem
3. Zdefiniuj „gotowe”: kryteria zapisane przed pierwszą linijką
4. Żądaj dowodu: wynik narzędzia, nie deklaracja agenta
5. Zamień błędy w guardraile: powtarzający się błąd zamieniony w regułę
6. Skille: mało i mierzone: krótkie instrukcje z narzędziami i sprawdzone pomiarem
7. Dopasuj effort i liczbę agentów: moc do zadania, równolegle tylko czytanie
8. Review według ryzyka: liczba ludzkich oczu zależy od ryzyka zmiany
9. Osąd i odpowiedzialność: człowiek zostaje przy strategii, decyzjach i skutkach

Co z tym zrobić od jutra?

5 najtańszych rzeczy na poniedziałek:

• /clear (komenda czyszcząca rozmowę) zamiast trzeciej poprawki w tej samej rozmowie z agentem
• przed większym zadaniem poproś agenta, żeby cię wypytał
• zapisz „gotowe” w 2–3 zdaniach, zanim agent ruszy
• zamiast „zrobione” żądaj wyniku komendy
• prowadź listę „co poprawiam drugi raz” i raz w tygodniu zamień jedną pozycję w regułę

I jedno pytanie przed każdym włączeniem zmiany do projektu: czy rozumiem, co ta zmiana robi i dlaczego? Jeśli nie, poproś agenta o wyjaśnienie, zanim zatwierdzisz.

Jedna pułapka: wygodna delegacja bez dowodów i bez reguł, czyli vibe coding pod nową nazwą.

Dziękuję, że dotrwaliście do końca serii. Jeśli macie własne zasady pracy z agentami, których tu zabrakło, napiszcie w komentarzach: chętnie je poczytam 🙂