Rotacija vektorskog polja F novo je (pseudo)vektorsko polje koje se označava rot F ili ∇×F. Tok rotacije polja kroz neku otvorenu plohu u prostoru jednak je cirkulaciji polja po rubu te plohe, odnosno površinski integral rotacije polja jednak je linijskom integralu polja po rubu površine.
Rotacija se najviše primjenjuje u fizici. Neki od najvažnijih zakona u elektromagnetizmu i hidrodinamici iskazani su preko rotacije električnih, magnetskih i polja brzine fluida. Rotacija električnog polja tako je nula gdjegod nema promjenjivih magnetskih polja, ali je konačna gdje postoji magnetsko polje koje se mijenja u vremenu, što uzrokuje elektromagnetsku indukciju. Rotacija magnetskog polja dolazi ili od struje naboja u gibanju ili od promjenjivog električnog polja.
Polja čija rotacija svugdje iščezava su konzervativna polja te u njima linijski integral sile ili polja po putanji između bilo koje dvije točke (što odgovara definiciji rada) ne ovisi o izboru putanje. Tako na primjer rad potreban za pomicanje mase između dva mjesta u gravitacijskom polju ne ovisi o putu, kao što ni rad potreban za pomicanje naboja u elektrostatskom polju ne ovisi o obliku putanje. Svako konzervativno vektorsko polje može se prikazati kao gradijent skalarnog polja, najčešće zvanog potencijal. Rotacija gradijenta skalarnog polja tako je uvijek nula.
Cirkulacija polja, kao linijski integral vektorskog polja F duž zatvorne krivulje C koja rubi otvorenu prostornu plohu S je zbroj doprinosa po infinitezimalnim dijelovima krivulje, dC, skalarnoga produkta F⋅dC=|F||dC|cosθ. Ovdje se, preko skalarnog produkta, uzima samo projekcija vektora polja na odsječak krivulje, budući da njegova komponenta okomita na krivulju ne doprinosi cirkulaciji ili radu; θ je kut između vektora polja i tangente na krivulju.
Premosti li se ploha nekim lukom, tako da je vanjska krivulja razdvojena na dvije (C1+C2=C), zbroj ovakvih integrala po dvjema manjim petljama jednak je integralu po cijeloj početnoj krivulji, zato što se po luku integrira jednom u jednom, a drugi put u suprotom smjeru pa se ti doprinosi u zbroju poništavaju. Naravno, isto se događa i za velik broj razdioba početne površine :
Pusti li se da broj podjela teži u beskonačno, , odnosno da , dobije se granična vrijednost koja predstavlja skalarnu veličinu pridruženu određenoj točki i određenoj orijentaciji prostora. Nju se može smatrati komponentom vektora tako da se gustoća cirkulacije, to jest cirkulacija polja oko infinitezimalnog dijela plohe podijeljena njenom površinom uzme kao projekcija rotacije vektorskog polja na jedinični vektor koji je normala ovih sažimajućih ploha,[3]
U tri dimenzije potrebno je naći tri takve projekcije na jedinične vektore da bi se u potpunosti odredila rotacija vektorskog polja.
Komponente rotacije polja u pravokutnom koordinatnom sustavu dobiju se iz opće definicije uzimanjem projekcija na koordinatne osi gustoće cirkulacije po stranicama sve manjih pravokutnika kojima su normale jedinični vektori svake osi.[4] Za projekciju na os z cirkulaciju se izračuna oko pravokutnika stranica Δx i Δy koji je usporedan s ravninom xOy.
Prema slici je
Uvrštavanjem u definiciju rotacije,
Slično se, cikličkom zamjenom osi x⟶y⟶z⟶x dobiju i ostale dvije komponente pa je
Za rotaciju vrijedi Stokesov teorem koji kaže da je tok rotacije vektorskog polja kroz bilo koju otvorenu plogu jednak cirkulaciji tog polja po rubu plohe, odnosno da je površinski integral rotacije polja po plohi jednak linijskom integralu polja po krivulji koja rubi tu plohu,[5]
.
Izrazi za rotaciju u drugim koordinatnim sustavima
Rotor elektrostatskog polja točkastog naboja koje je prema Coulombovom zakonu dano s :
.
Ovaj rezultat zapravo je jedna od Maxwellovih jednadžbi, odnosno Maxwell-Faradayeva formula za rotaciju električnog polja kad se magnetsko polje, ako i postoji, ne mijenja u vremenu.
Kad bi se u tekućinu kojoj je rotacija vektorskog polja brzina jednaka stavila nekakva kuglica grube površine kojoj vrtnja ovisi o brzini tekućine uz površinu, ta bi se kuglica okretala kutnom brzinom .
Vektor brzine je polarni vektor, a vektor je aksijalni vektor. To vrijedi i općenito: rotor polarnog vektora je aksijalni vektor, a rotor aksijalnog vektora je polarni vektor.