Nacque a Legnago (Verona) il 26 marzo 1882. Studiò dapprima a Verona e poi a Padova, dove si laureò in Matematica nel 1904. Successivamente si iscrisse a Fisica per seguire le sue inclinazioni nei confronti della scienza sperimentale, ma dovette interrompere gli studi quando ricevette nel 1905 la nomina ad assistente presso la Stazione astronomica di Carloforte. Soggiornò fino al 1908 in Sardegna, dedicandosi allo studio delle latitudini. Qui conobbe Luigi Volta.
Tornato a Padova, divenne assistente presso l’Istituto di Geodesia dell’Università e in questo periodo ebbe i primi contatti con l’Osservatorio astronomico locale e con il suo direttore Giuseppe Lorenzoni. Nel 1911 fu nominato astronomo, collaborando dapprima con Lorenzoni e poi con il suo successore Antonio Maria Antoniazzi.
Nel 1921 vinse il concorso alla cattedra di Geodesia presso l’Università di Torino, città in cui rimase per cinque anni. A partire dalla fine del 1923, con la messa a riposo di padre Giovanni Boccardi, divenne affidatario della cattedra di Astronomia e direttore dell’Osservatorio di cui resse le sorti fino al 1925, quando fu chiamato a dirigere la Specola di Padova a causa dell’improvvisa morte di Antoniazzi.
Durante la sua permanenza a Torino, con Regio Decreto 31 dicembre 1923 gli Osservatori astronomici assunsero carattere di istituzioni autonome indipendenti dalle Università, con conseguente separazione delle carriere. Furono ufficialmente istituiti i Regi Osservatori di Catania, Milano, Napoli, Padova, Roma, Teramo (Collurania), Torino e Trieste, oltre alla Stazione di Carloforte in Sardegna.
Tornato a Padova nel 1926, sotto la sua guida l’Osservatorio, nonostante gli scarsi mezzi a disposizione, raggiunse posizioni di primo piano nel campo dell’astronomia classica e della meccanica celeste. Grazie alla sua tenacia e alla sua abnegazione, nel 1942 sull’altopiano di Asiago fu inaugurato e affidato alla sua direzione l’Osservatorio astrofisico dell’Università di Padova, dotato delle più moderne attrezzature scientifiche tra cui il più grande telescopio d’Europa. Al progetto di questa nuova struttura Silva aveva iniziato a lavorare già dal 1934.
Collocato fuori ruolo nel 1952, da questo momento si dedicò interamente agli studi e alla ricerca, in particolar modo nel campo dell’astronomia geodetica.
Ricoprì diverse cariche scientifiche ed onorifiche. Oltre a dirigere gli Osservatori di Padova e Asiago e l’Istituto di Geodesia dell’Università di Padova, fu anche direttore della Sezione di Asiago del Centro di Astrofisica del Consiglio Nazionale delle Ricerche.
Dal 1925 fu membro della Commissione Geodetica Italiana e dal 1932 socio dell’Accademia nazionale dei Lincei; inoltre, socio dell’Istituto Veneto di Scienze, Lettere e Arti e dell’Accademia delle Scienze di Padova, socio corrispondente dell’Istituto Lombardo di Scienze e Lettere, dell’Accademia delle Scienze di Torino e dell’Accademia di Verona, socio straniero dell’Istituto di Scienze di Coimbra, membro della Società Astronomica Italiana a partire dall’anno della sua fondazione, della Commissione per il riordinamento degli Osservatori astronomici, della Commissione di vigilanza della Stazione di Carloforte, dell’Unione Astronomica Internazionale e dell’Associazione Geodetica Internazionale.
La sua vasta produzione scientifica può essere sintetizzata in tre filoni di ricerca: astronomia geodetica, geodesia e gravimetria; astronomia classica e meccanica celeste; astrofisica e calcolo delle probabilità.
Morì a Padova il 20 ottobre 1957. Nel discorso commemorativo tenuto all’Accademia nazionale dei Lincei, Francesco Zagar (all’epoca direttore della Specola milanese) ne ricordò il carattere rigoroso: «[…] Giovanni Silva, per la sua indole naturale, era il tipo dello scienziato esatto, esigente, meticoloso ed onesto. Ogni suo lavoro è condotto a fondo, di ogni argomento amava sviscerare le parti più difficili e complesse, negli scogli che incontrava, e che altri avrebbero messi da parte o ignorati, egli insisteva e si sforzava finché non arrivava ad una soluzione soddisfacente, non disdegnava i dettagli delle questioni, né i problemi minuti specialmente se si trattava di ottenere la massima precisione; ogni ricerca porta l’impronta della chiarezza e della scrupolosità, nessuno dei suoi scritti veniva pubblicato senza essere stato vagliato, perfezionato e messo nella forma esteriore migliore, ed uguale scrupolosità di pensiero esigeva da tutti i suoi collaboratori, mentre giudicava severamente gli scritti superficiali […] Anche le questioni più noiose per uno scienziato, quelle amministrative e contabili, erano da lui trattate in modo esemplare, né egli perdeva mai di vista l’importanza del lavoro di officina, dove discuteva coi tecnici e sorvegliava personalmente i lavori».