Cresciuto nelle giovanili del River Plate, debuttò in prima squadra nel 1974 e con il club della Capital Federal vinse due volte il Metropolitano e una volta il Nacional. Nell'estate del 1978 si trasferì in Inghilterra, allorché venne acquistato dallo Sheffield United, con la cui maglia disputò due stagioni prima di trasferirsi al Leeds, dove rimase fino alla fine del 1981.
Terminata l'esperienza inglese, tornò in Argentina, sottoscrivendo un contratto con l'Estudiantes allenato da Carlos Bilardo. Con la maglia del club platense vinse altri due titoli nazionali, imponendosi nel Nacional nel 1982 e 1983. Dopo una parentesi tra le file dei brasiliani del Grêmio (1985) tornò all'Estudiantes, prima di passare al Ferro Carril Oeste. Chiuse la carriera nel 1989 con la maglia del club messicano dell'Irapuato.
Dopo aver quasi chiuso l'accordo con l'Al-Jazira Club, sodalizio degli Emirati Arabi Uniti, rinuncia all'offerta a seguito dell'interesse nei suoi confronti mostrato dall'AFA come sostituto di Sergio Batista nel ruolo di CT della nazionale argentina,[3] alla cui guida viene quindi ingaggiato il 2 agosto 2011.[4]. Guida la nazionale durante i mondiali brasiliani, conquistando la finale, poi persa contro la Germania per 1 a 0. Al termine del torneo, come annunciato prima della finale[5], Sabella ha terminato il suo contratto con l'Albiceleste, lasciando il posto a Gerardo Martino[6].
Già sofferente di problemi cardiaci, viene ricoverato d'urgenza il 25 novembre 2020 per un malore, dopo aver appreso della morte dell'amico Diego Armando Maradona. Le condizioni, aggravatesi col passare delle ore, lo portano alla morte pochi giorni dopo.[7]