A legfontosabb különbség a második nyelv és az idegen nyelv között az, hogy míg a második nyelv és az idegen nyelv is más nyelv, mint a beszélő anyanyelve, a második nyelv az adott ország nyilvános kommunikációjára használt nyelvre utal, míg az idegen nyelv olyan nyelvet, amelyet az adott ország lakói nem nagyon használnak.
Sokan felváltva használják a két második nyelv és az idegen nyelv kifejezést, feltételezve, hogy nincs különbség közöttük. A második nyelv és az idegen nyelv között azonban egyértelmű különbség van, különösen a pedagógiában és a szociolingvisztikában.