Η Παλέρμο ιδρύθηκε το 1900 και ο πρώτος ιδρυτής της ήταν ο Αγγλος Τζόζεφ Γουιτέικερ και ο Ιταλός συνεργάτης του, Ιγνάσιο Παγάνο.
Η πρώτη ομάδα της αποτελούνταν από τρεις Άγγλους και 9 Ιταλούς που κατοικούσαν στην πόλη.
Τον Δεκέμβριο του 1900 έδωσαν τον πρώτο τους αγώνα, ύστερα από συμφωνία με μια ερασιτεχνική ομάδα της Αγγλίας.
Η ομάδα δεν έκανε καλό ξεκίνημα και γνώρισε την ήττα χάνοντας με 5-0.
Πέντε μήνες μετά έδωσε τον πρώτο της επαγγελματικό της αγώνα με αντίπαλο την ΑΚΡ Μεσίνα νικώντας με 3-2. Τότε βασικά χρώματα θεωρούνταν το κόκκινο και το λευκό.
Τελικά, το 1907 έκαναν σημαντικές βελτιώσεις, καθώς μπήκαν στον επαγγελματικό τομέα.
Καταρχάς, το όνομα του συλλόγου άλλαξε και λεγόταν Palermo Football Club και τα χρώματα της άλλαξαν σε ροζ και λευκό. Από το 1908 μέχρι και το 1914 αγωνιζόταν στο Κύπελλο Λίπτον με χορηγό την γνωστή εταιρία αναψυκτικών.
Η Παλέρμο κέρδισε το κύπελλο αυτό τρεις φορές με καλύτερή της στιγμή, μια νίκη με 6-0.
Αργότερα ξέσπασε ο Α’ Παγκόσμιος Πόλεμος και η ενεργός δράση της ομάδας σταμάτησε για λίγα χρόνια.
Μετά το τέλος του πολέμου, το 1919 επανασυστάθηκε εκ νέου ως Unione Sportiva Palermo.
Την δεκαετία του 1920 αγωνίστηκε στην κύρια κατηγορία της Ιταλίας, αλλά το 1927 υπήρξαν οικονομικά προβλήματα και χρειάστηκε να ενωθεί με μια ομάδα που να μπορεί να την βοηθήσει στο να υπάρξει μέλλον στον σύλλογο.
Ενώθηκε, λοιπόν, με την Βίγκορ Παλέρμο και απέκτησε το όνομα Palermo Football Club.
Η πορεία της συνεχίστηκε και το 1930 έφτασαν ξανά στην πρώτη κατηγορία της Ιταλίας.
Το 1936 άλλαξαν τα χρώματα της για άλλη μια φορά και αυτή είχε λόγο.
Ο λόγος ήταν πως τα χρώματα αυτά θα εκπροσωπήσουν την αντιμετώπιση κατά του φασισμού.
Τα χρώματα ήταν το Κίτρινο και το Κόκκινο.
Το 1940 απορρόφησε μια τοπική ομάδα αποκαλούμενη ως Γιουβεντίνα.
Έτσι ονομάστηκε Palermo-Juventina Sports Club.
Μετά από ένα ακόμα ξέσπασμα του Παγκοσμίου Πολέμου, η Παλέρμο συνέχισε να αγωνίζεται κερδίζοντας το 1947 το πρωτάθλημα της Β’ Κατηγορίας.
Παίκτης-θαύμα ήταν ο Τσεχοσλαβάκος Τσεστμίρ Βιστπάλεκ που είχε αγωνιστεί και στην Γιουβέντους.
Από το 1956 και μετά η ομάδα ανεβοκατέβαινε κατηγορίες στις κορυφαίες κατηγορίες.
Το 1970 ο Ρένζο Μπαρμπέρα ανέλαβε ως πρόεδρος της ομάδας.
Χάρη σε αυτόν έφτασε δύο φορές στα τελικά του Κυπέλλου Ιταλίας.
