Nyquist-stabilitetskriteriet (eller Nyquist-kriterieret) defineres som en grafisk teknikk brukt i kontrollteknikk for å bestemme stabiliteten til et dynamisk system. Siden Nyquist-stabilitetskriteriet bare tar hensyn til Nyquist-plottet av åpen sløyfe-kontrollsystemer, kan det anvendes uten å beregne polene og nullpunktene enten for den lukkede eller åpne sløyfen.
Som et resultat kan Nyquist-kriteriet anvendes på systemer definert ved ikke-rasjonale funksjoner (som systemer med forsinkelser). I motsetning til Bode-diagrammer, kan det håndtere overføringsfunksjoner med singulariteter i høyre halvplan.
Nyquist-stabilitetskriteriet kan uttrykkes som:
Z = N + P
Der:
Z = antall røtter av 1+G(s)H(s) i høyre halvdel (RHS) av s-planen (Det kalles også nullpunktene av karakteristiske ligning)
N = antall omslutninger av kritisk punkt 1+j0 i klokkevis retning
P = antall poler av åpen sløyfe-overføringsfunksjon (OLTF) [dvs. G(s)H(s)] i RHS av s-planen.
Den ovennevnte betingelsen (dvs. Z=N+P) er gyldig for alle systemer, uansett om de er stabile eller ustabile.
Nå vil vi forklare dette kriteriet med eksempler på Nyquist-stabilitetskriteriet.
La oss betrakte en åpen sløyfe-overføringsfunksjon (OLTF) som 
Er dette et stabilt system eller et ustabile. Kanskje de fleste av dere vil si at det er et ustabile system fordi en pol ligger på +2. Merk imidlertid at stabilitet avhenger av nevneren i den lukkede sløyfe-overføringsfunksjonen.
Hvis noen rot i nevneren av den lukkede sløyfe-overføringsfunksjonen (også kjent som karakteristisk ligning) ligger i høyre halvdel av s-planen, så er systemet ustabile. Så i det ovennevnte tilfellet, en pol på +2 vil prøve å bringe systemet mot ustabilitet, men systemet kan være stabilt. Her er Nyquist-diagrammet nyttig for å finne stabilitet.
Ifølge Nyquist-teori Z=N+P (for ethvert system, uansett om det er stabilt eller ustabile).
For et stabilt system, Z=0, altså ingen røtter av karakteristiske ligning skal være i høyre halvdel.
Så for et stabilt system N = –P.
Nyquist-diagrammet for det ovennevnte systemet er vist nedenfor
s = tf('s')
G1 = 120 / ((s-2)*(s+6)*(s+8))
nyquist(G1, 'rød')
Ifølge diagrammet omslutter Nyquist-diagrammet punktet –1+j0 (også kjent som kritisk punkt) én gang i motsatt klokkesirkretning. Dermed N= –1, i OLTF, en pol (ved +2) ligger i høyre halvdel, derfor P =1. Du kan se at N= –P, derfor er systemet stabilt.
Hvis du finner røtter av karakteristiske ligning, vil de være –10.3, –0.86±j1.24. (dvs. systemet er stabilt), og Z=0. En spørsmål kan stilles, hvis røtter av karakteristiske ligning kan finnes, så kan vi kommentere på stabiliteten basert på det, så hva er behovet for Nyquist-diagram. Svaret er, når programvare var ikke tilgjengelig, i de dagene var Nyquist-diagram veldig nyttig.
La oss nå ta et annet eksempel: 
Nyquist-diagrammet er som følger:
