Polskie formacje zbrojne, zwane Legionami Polskimi utworzone zostały z inicjatywy prezesa Koła Polskiego, prezydenta Krakowa, doktora Juliusza Leo, za zgodą rządu i czynników wojskowych w Wiedniu. Uchwałę o utworzeniu dwóch Legionów – Zachodniego i Wschodniego podjęto 16 sierpnia 1914 na zwołanym w Krakowie zebraniu Naczelnego Komitetu Narodowego, w skład którego wchodzili posłowie z Koła Polskiego przy parlamencie wiedeńskim i Sejmie Krajowym Galicyjskim, Komisja Skonfederowanych Stronnictw Niepodległościowych (KSSN) i endecki Centralny Komitet Narodowy.
Warunki austriackie przyjęte przez NKN przewidywały utworzenie dwu Legionów: I legionu Zachodniego i II Legionu Wschodniego. Każdy z nich miał liczyć 8 tys. żołnierzy rekrutowanych spośród mężczyzn nie podlegających powszechnemu obowiązkowi służby wojskowej w armii austro-węgierskiej lub ochotników z Królestwa. Dowództwo Legionów objęli generałowie austriaccy narodowości polskiej – na czele Legionu Zachodniego stanął gen. Baczyński, a na czele Legionu Wschodniego gen. Pietraszkiewicz. Piłsudski został dowódcą 1. Pułku w Legionie Zachodnim. Do Wschodniego weszli głównie dawni członkowie „Sokoła” i Drużyn Bartoszowych, do Zachodniego zaś członkowie organizacji strzeleckich. Legiony w pełni podporządkowano naczelnej komendzie austro-węgierskiej. Składać miały przysięgę wg formuły przyjętej w austriackim pospolitym ruszeniu. Zachowany został polski język służbowy i polska komenda, polskie było także umundurowanie, jednakże legioniści musieli nosić na ramieniu opaskę z austriackimi barwami narodowymi. Dowódcy niższych szczebli, do dowódcy kompanii włącznie, byli obieralni. Nie istniały stopnie oficerskie, tylko funkcje dowódcze: komendanta kompanii, batalionu itp.
Pod względem ideowo-politycznym w Legionie Zachodnim przeważały wpływy KSSN i J. Piłsudskiego, we Wschodnim – endecji (Narodowa Demokracja), niechętnej zbrojnym wystąpieniom przeciw Rosji. Na skutek wewnętrznych konfliktów w Naczelnym Komitecie Narodowym doszło do rozbicia Legionu Wschodniego. Działacze byłego Centralnego Komitetu Narodowego zażądali zaakcentowania w przysiędze narodowego, polskiego charakteru tej formacji. Doprowadziło to do rozwiązania Legionu Wschodniego przed złożeniem przysięgi – 30 września 1914r.
Po rozpadnięciu się Legionu Wschodniego, Legion Zachodni był jedyną formacją polską walczącą po stronie państw centralnych. Obok 1. Pułku dowodzonego przez Piłsudskiego zorganizowano w końcu września w Krakowie pułki 2. i 3. Jednocześnie przestał obowiązywać podział na dwa Legiony, a obydwu komendantów odwołano.
Naczelnym Komendantem Legionów Polskich był od września 1914 generał Karol Durski-Trzaska, od lutego 1916 generał Stanisław Puchalski, od listopada 1916 pułkownik S. Szeptycki i od kwietnia 1917 pułkownik Z. Zieliński. Rekrutacją i pracą organizacyjną Legionów Polskich kierował Departament Wojskowy w Naczelnym Komitecie Narodowym, na kierownika którego powołano Władysława Sikorskiego.
1. pułk Legionów we wrześniu 1914r. brał udział w walkach obronnych na linii Nowy Korczyn-Opatowiec, a następnie w październiku w ofensywie wojsk państw centralnych w walkach 21-26 października 1914 pod Laskami koło Dęblina, pod Grójcem i nad Bzurą, po czym musiał wycofać się aż pod Kraków staczając krwawe boje między innymi pod Krzywopłotami 16-19 listopada. Następnie walczył na Podhalu pod Limanową, Nowym Sączem i Tarnowem. Po niezwykle krwawej bitwie pod Łowczówkiem (22-26 grudnia), straciwszy kilkuset ludzi został wycofany na dłuższy odpoczynek.
2. i 3. pułk legionów w początkach października rzucono do walki z armią rosyjską nacierającą na Węgry przez Galicję wschodnią i Karpaty. Stoczyły ciężkie boje pod Mołotkowem, wzdłuż Karpat, na Rusi Zakarpackiej, Huculszczyźnie i Bukowinie. Poniosły duże straty, wobec czego w marcu 1915r. odwołano je dla odpoczynku i reorganizacji.
Po reorganizacji w skład Legionów Polskich wchodziły 3 brygady: I Brygada została utworzona jeszcze w grudniu 1914r., a jej dowódcą został dotychczasowy komendant 1 pułku w Legionie Zachodnim – Józef Piłsudski, a od października 1916 pułkownik J. Żegota-Januszajtis; II Brygada, zwana również Karpacką lub Żelazną, powołana została na początku 1915 w Kołomyi, dowódcą został austriacki płk F. Küttner, którego od sierpnia 1916 zastąpił płk Józef Haller; w maju 1915 utworzono jeszcze III Brygadę pod dowództwem pułkownika W. Grzesickiego, potem kolejno pułkownika S. Szeptyckiego, pułkownika Z. Zielińskiego, pułkownika B. Roi.
I brygada wyruszyła na front w marcu 1915r. W maju stoczyła bardzo ciężką bitwę pod Konarami (16-25 maja) tracąc 1000 ludzi, a następnie walczyła na Lubelszczyźnie, a w końcu sierpnia na Podlasiu.
II brygada wyruszyła na front w połowie kwietnia 1915r. Brała udział w bojach z wojskami rosyjskimi na pograniczu Bukowiny i Besarabii. Poniosła tu duże straty podczas walk pozycyjnych. W czerwcu uczestniczyła w ofensywie austriackiej, walcząc między innymi pod Rokitną, gdzie 13 czerwca ułani polscy dokonali szarży na umocnione okopy rosyjskie. Od drugiej połowy czerwca do września 1915r. prowadziła krwawe walki pozycyjne nad Rarańczą.
W październiku i listopadzie wszystkie trzy brygady przerzucone zostały na front Wołyński, gdzie w 1916r. brały udział w krwawych walkach pod wsią Kostiuchnówką (4-7 VII 1916), nad Stochodem (16 VII-3 VIII 1916 ) i nad Styrem.
Gdy plany Piłsudskiego zostania komendantem Legionów okazały się nierealne, rozpoczął agitację przeciwko Komendzie Legionów i NKN. Żądał on większej samodzielności dla Legionów, wycofania z nich oficerów austriackich, utworzenia rządu polskiego oraz wycofania brygad z frontu na wypoczynek.. W walce o realizację tych postulatów postanowił rzucić na szalę cały swój autorytet i 29 lipca złożył prośbę o dymisje z legionów. Austriackie Naczelne Dowództwo zwlekało z decyzją, ale w końcu zgodziło się, zwalniając jednocześnie Sosnkowskiego.
W momencie dymisji J. Piłsudskiego ze stanowiska Komendanta I Brygady (1 X 1916) Legiony Polskie liczyły łącznie 7 pułków piechoty i 2 pułki ułanów. We wrześniu 1916r. liczyły ok. 25 tys. żołnierzy, a straty Legionów Polskich w oblicza się na ok. 15 tys. rannych i zabitych.
20 września władze austriackie zapowiedziały przebudowę Legionów na dwukrotnie liczniejszy Polski Korpus Posiłkowy. Miał on występować pod barwami narodowymi, a skierowani do niego oficerowie austriaccy mieli nosić mundury legionowe.
W pierwszych dniach lipca 1917r. Legiony miały złożyć nową przysięgę na wierność Niemcom. Zwolennicy Piłsudskiego postanowili odmówić złożenia jej słowami tekstu uchwalonego przez Tymczasową Radę Stanu. Wśród legionistów panowały nastroje antyniemieckie, a w większości pułków Piłsudski był niezwykle popularny. Około 2 tyś. legionistów wzięło urlop, by uniknąć przysięgi. Odmówiła jej złożenia cała I i III Brygada. Szeregowcy i oficerowie z Królestwa (około 3300) zostali za to internowani; szeregowców początkowo osadzono w Szczypiornie pod Kaliszem, a w grudniu 1917r. w Łomży, oficerów osadzono w Beniaminowie. Natomiast opornych legionistów- Galicjan, których było około 3500 wcielono do armii austro-węgierskiej i wysłano na front włoski. W nocy z 21 na 22 lipca internowano Piłsudskiego i Sosnkowskiego i przewieziono ich do Magdeburga.
II Brygada, która złożyła przysięgę została wcielona do armii austro-węgierskiej. Przemianowano ja na Polski Korpus Posiłkowy i w październiku wysłano na front rosyjski, na Bukowinę. Korpus liczył około 7500 żołnierzy. Do jednostki utworzonej pod zwierzchnictwem Niemiec czyli tzw. Polnische Wehrmaht weszło niewiele ponad 1100 legionistów.
Po trzech latach koncepcja legionowa poniosła ostateczną klęskę. Polacy po raz kolejny zostali wykorzystani jako „mięso armatnie”. Z samych legionów pozostały tylko resztki, które w dodatku znalazły się pod obcym dowództwem.
