Olympiakos komt uit Piraeus, de havenstad van Athene in Griekenland. De clubnaam verwijst naar Olympiakós Syndesmos Filathlón Peiraiós, oftewel de Olympische Vereniging van de Sportvrienden van Piraeus, en symboliseert de Olympische idealen en sportieve geest. De club werd opgericht op 10 maart 1925 uit een fusie van lokale voetbal- en supportersgroepen.