Giovanni Capurro nel 1898 scrisse i versi di ’O sole mio! affidandone la composizione musicale a Eduardo Di Capua. In quel tempo Di Capua si trovava a Odessa in Ucraina, con suo padre violinista in un'orchestra.
Il brano, che venne poi presentato alla Piedigrotta 1898 indetta dalla "Tavola Rotonda" promossa dall'editore Bideri, arrivò secondo dietro Napule bello!, ma di tale verdetto si vendicò rapidamente, diventando la canzone più famosa di tutti i tempi, pur senza fruttare molto, come spesso avveniva a quei tempi, ai suoi due autori, Di Capua e Capurro, che morirono in povertà.
Tradotta in quasi tutte le lingue, fu uno dei cavalli di battaglia di Enrico Caruso e da allora entrò nel repertorio di tutte le voci liriche. Una delle versioni più famose rimane quella di Elvis Presley, dal titolo It's now or never, per la quale il re del rock and roll ricevette il disco d’oro dalle Edizioni Bideri. In realtà, già nel 1957, Bill Haley ne aveva incisa una versione con i Comets, intitolata Come rock with me. Negli anni '60 vendette due milioni di copie in Unione Sovietica nella versione a 45 giri di Robertino.
L'ultima volta che è entrata in hit parade in Italia lo si deve a Pino Daniele nel 2005.
Unica canzone amata dal poeta Sandro Penna, citata da Proust nella Recherche, intonata da capi di stato e pontefici.
Nel 1920, durante l'inaugurazione ad Anversa delle Olimpiadi, presente il re Alberto del Belgio, mentre sfilavano le rappresentative nazionali la banda che eseguiva gli inni ufficiali, avendo perso lo spartito della "Marcia Reale", per cavarsi d'impaccio attaccò ’O sole mio!, immediatamente cantata a gran voce dagli spettatori dello stadio.
Alla conclusione di una lunga vicenda giudiziaria, il Tribunale di Torino ha stabilito che il maestro Alfredo Mazzucchi è stato coautore dell'opera: il musicista, che reclamava di aver preso parte alla composizione del pezzo, si è spento novantaquattrenne nel 1972 e la causa è stata portata avanti, con successo, dai suoi eredi.