Organizacje niepodległościowe w wielu krajach używały prostych znaków graficznych. Francuzi malowali krzyże lotaryńskie, Norwedzy posługiwali się cyfrą 7 wpisaną w literę H (od króla Haakona VII), Holendrzy swoje uczucia wyrażali wypisując na murach trzy litery OZO, odczytywane jako skrót hasła "Oranje zaal overvinnen" (Holandia /zarazem pomarańczowi i dom orański / zwycięży).
Pomysł stworzenia polskiego znaku zrodził się w Komisji Propagandy Okręgu Warszawskiego Związku Walki Zbrojnej (od 14 lutego 1942 r.: Armii Krajowej), która ogłosiła tajny konkurs na projekt. Spośród nadesłanych 27 pomysłów tylko dwa spełniały wyśrubowane kryteria (znak musiał być m.in. łatwy do narysowania): skrzyżowane grunwaldzkie miecze oraz kotwica. Według Czesława Michalskiego, autora wspomnień "Wojna warszawsko-niemiecka" zwycięski projekt powstał w organizacji "Wawer" w żeńskim środowisku instruktorek. Pracę na konkurs złożyła Anna Smoleńska, której najczęściej przypisuje się autorstwo.
Po raz pierwszy na murach Warszawy znak PW pojawił się 20 marca 1942 r. i od razu zwrócił uwagę zarówno mieszkańców jak i okupanta. Gubernator Ludwig Fischer zanotował 13 kwietnia 1942:
"Miesiąc marzec stał pod znakiem szczególnej aktywności polskiego ruchu oporu. Do kin wrzucano często bomby łzawiące w celu zakłócenia seansów i wywołania niepokoju wśród ludności. Coraz więcej również różnych znaków malowano na budynkach i pomnikach. Wszędzie na domach można było zobaczyć znak Polska Walcząca, w postaci liter P i W połączonych kotwicą".
Komendant Organizacji Małego Sabotażu "Wawer" Aleksander Kamiński meldował swemu szefowi, płk. Antoniemu Chruścielowi:
"Przez dwa tygodnie prowadzono akcję rysowania (kredą, farbą) znaku Polski Walczącej – kotwicy. Akcja powyższa wypadła dobrze. Ulica spontanicznie współdziałała w rysowaniu kotwic. W dwóch dzielnicach wywieszono transparenty ze znakiem kotwicy".
W akcji malowania znaku wzięło udział ok. 400 członków "Wawra". Chłopcy i dziewczęta najczęściej posługiwali się kredą, farbą lub smołą, z czasem wprowadzony został do użytku szablon. Tadeusz Zawadzki, legendarny "Zośka", wyróżniający się w tej akcji, otrzymał dumny przydomek "Kotwicki". Jego kolega, Jan Bytnar "Rudy", zasłynął namalowaniem Kotwicy wysoko na cokole pomnika Lotnika na placu Unii Lubelskiej.
Od 2014 roku symbol jest ustawowo chroniony: "otaczanie Znaku Polski Walczącej czcią i szacunkiem stało się prawem i obowiązkiem każdego obywatela Rzeczypospolitej Polskiej, a jego publiczne znieważanie podlega karze grzywny" (art. 2 i 3 ustawy)