W Polsce wyróżnia się cztery powszechne jednostki organizacyjne prokuratury: prokuratura krajowa (od 31 marca 2010 zastąpiła ją Prokuratura Generalna), prokuratura apelacyjna, prokuratura okręgowa oraz prokuratura rejonowa. Każda powszechna jednostka organizacyjna prokuratury ma swoje zadania i obowiązki.

Do najważniejszych zadań Prokuratury Krajowej należały w szczególności: nadzorowanie i koordynowanie prac prokuratur niższego szczebla (apelacyjnych, okręgowych i rejonowych), występowanie przed Trybunałem Konstytucyjnym, Sądem Najwyższym i Naczelnym Sądem Administracyjnym, współpraca międzynarodowa w zakresie zwalczania przestępczości oraz podejmowanie działań związanych z uprawnieniami Prokuratora Generalnego.

Prokuraturę apelacyjną tworzy się dla obszaru właściwości co najmniej dwóch prokuratur okręgowych. Prokuratura apelacyjna z zasady nie prowadzi własnych śledztw, z wyjątkiem spraw przestępczości zorganizowanej. Jej funkcje w postępowaniu przygotowawczym to przede wszystkim sprawowanie nadzoru instancyjnego i służbowego nad postępowaniami prowadzonymi przez prokuratury okręgowe i rejonowe.

Prokuraturę okręgową tworzy się dla obszaru właściwości co najmniej dwóch prokuratur rejonowych. Prokuratura okręgowa w zakresie postępowania przygotowawczego prowadzi odpowiednio nadzór instancyjny i nadzór służbowy nad postępowaniami przygotowawczymi prowadzonymi w prokuraturach rejonowych. Oprócz tego, prowadzi śledztwa własne i występuje w tych sprawach przed sądem pierwszej instancji oraz bierze udział w posiedzeniach sądu w sprawach rozstrzyganych w toku postępowania przygotowawczego.

Prokuraturę rejonową tworzy się dla jednej lub większej liczby gmin. Prokuraturą rejonową kieruje prokurator rejonowy, który jest prokuratorem przełożonym prokuratorów prokuratury rejonowej. Do podstawowych zadań prokuratur rejonowych należy prowadzenie i nadzorowanie postępowań przygotowawczych w sprawach karnych oraz sprawowanie funkcji oskarżyciela publicznego przed sądami.