Ο Κόνερι γεννήθηκε στο Φάουντενμπριτζ (Fountainbridge) στο Εδιμβούργο. Ήταν γιος της Euphemia “Effie” McBain (πατρ. McLean), καθαρίστριας, και του Τζόζεφ Κόνερι, εργάτη σε εργοστάσιο και οδηγού φορτηγού. Ο πατέρας του ήταν Καθολικός με ιρλανδο-σκωτική καταγωγή, ενώ η μητέρα του ήταν Σκωτσέζα Προτεστάντισσα. Ο ίδιος υποστήριζε ότι τον αποκαλούσαν Σον, το μεσαίο του όνομα, πολύ πριν γίνει ηθοποιός.
Το πρώτο του επάγγελμα ήταν γαλατάς στο Εδιμβούργο. Ακολούθως κατατάχθηκε στο Βασιλικό Ναυτικό, αλλά απολύθηκε λόγω προβλημάτων υγείας και επέστρεψε στην παλιά του δουλειά κάνοντας διάφορες εργασίες όπως οδηγός λεωφορείου, εργάτης, μοντέλο για το κολλέγιο Καλών Τεχνών του Εδιμβούργου, στιλβωτής φέρετρων και μπόντι μπίλντερ. Την Ιθάκη, τον προορισμό και το ταξίδι, εκείνη που ίσως τη βρήκες πτωχική μα δε σε γέλασε, εκείνη, την πολύ ακουσμένη και πολυδιαβασμένη, απαγγέλλει με τον δικό του, χαρακτηριστικό τρόπο, ο Sean Connery.
