Nyquist-stabilitetskriteriet (eller Nyquist-kriterieret) defineres som en grafisk teknik, der anvendes i kontrolteknik for at afgøre stabiliteten af et dynamisk system. Da Nyquist-stabilitetskriterier kun betragter Nyquist-diagrammet for åbne løkkekontrolsystemer, kan det anvendes uden at beregne polerne og nullerne for enten det lukkede eller åbne løkke-system.
Derfor kan Nyquist-kriterier anvendes på systemer, der er defineret ved ikke-rationale funktioner (såsom systemer med forsinkelser). I modsætning til Bode-diagrammer kan det håndtere overførselsfunktioner med singulariteter i højre halvplan.
Nyquist-stabilitetskriteriet kan udtrykkes som:
Z = N + P
Hvor:
Z = antallet af rødder af 1+G(s)H(s) i højre halvplan (RHS) af s-planen (Det kaldes også nulpunkter for karakteristiske ligninger)
N = antallet af omridsninger af kritisk punkt 1+j0 i uretsgangretning
P = antallet af poler i den åbne løkke-overførselsfunktion (OLTF) [dvs. G(s)H(s)] i RHS af s-planen.
Den ovenstående betingelse (dvs. Z=N+P) gælder for alle systemer, uanset om de er stabile eller ustabile.
Nu vil vi forklare dette kriterium med eksempler på Nyquist-stabilitetskriteriet.
Overvej en åben løkke-overførselsfunktion (OLTF) som 
Er det et stabilt system eller et ustabil. Måske vil de fleste af jer sige, at det er et ustabil system, fordi en pole er ved +2. Bemærk dog, at stabilitet afhænger af nævneren i den lukkede løkke-overførselsfunktion.
Hvis enhver rod i nævneren af den lukkede løkke-overførselsfunktion (også kaldet karakteristiske ligning) er i RHS af s-planen, så er systemet ustabil. Så i det ovenstående tilfælde vil en pole ved +2 forsøge at bringe systemet mod ustabilitet, men systemet kan være stabilt. Her er Nyquist-diagrammet nyttigt til at finde stabilitet.
Ifølge Nyquist-teori Z=N+P (for ethvert system, uanset om det er stabilt eller ustabile).
For stabile systemer, Z=0, dvs. ingen rødder af karakteristiske ligninger skal være i RHS.
Så for stabile systemer N = –P.
Nyquist-diagrammet for det ovenstående system er vist nedenfor
s = tf('s')
G1 = 120 / ((s-2)*(s+6)*(s+8))
nyquist(G1, 'red')
Efter diagrammet omslutter Nyquist-diagrammet punktet –1+j0 (også kaldet kritisk punkt) én gang i uretsgangretning. Derfor N= –1, i OLTF er en pole (ved +2) i RHS, derfor P =1. Du kan se N= –P, derfor er systemet stabilt.
Hvis du finder rødderne i karakteristiske ligningen, vil de være –10.3, –0.86±j1.24. (dvs. systemet er stabilt), og Z=0. En spørgsmål kan blive stillet, hvis rødderne i karakteristiske ligningen kan findes, så kan vi kommentere på stabiliteten på den basis, hvad er da behovet for Nyquist-diagram. Svaret er, at når software ikke var tilgængelig, var Nyquist-diagram meget nyttigt i de dage.
Tag nu et andet eksempel: 
Nyquist-diagrammet er følgende:
