上海是中國大陸最早出現股票、股票交易和證券交易所的城市。上海的股票交易可追溯到19世紀60年代，1891年建立的證券掮客公會構成中國大陸證券交易所的雛形。1920年和1921年，上

上海是中國大陸最早出現股票、股票交易和證券交易所的城市。上海的股票交易可追溯到19世紀60年代，1891年建立的證券掮客公會構成中國大陸證券交易所的雛形。1920年和1921年，上海證券物品交易所和上海華商證券交易所開業。1946年以華商證券交易所為基礎成立上海證券交易所股份有限公司，1949年停業。

新中國成立后，特別是改革開放后，隨著社會主義市場經濟的發展，隨著股份制企業的出現，中國證券市場逐步成長起來。1981年恢復國庫券發行，1984年上海等地開始發行股票和企業債券。隨著證券交易規模的擴大以及場外黑市交易的盛行，建立規范的集中統一的場內交易市場十分迫切。1989年12月2日，上海市有關領導在市委常委擴大會議上決定建立上海證券交易所，會議初步決定，盡量爭取在1990年12月開業。

1990年11月26日，在上海華南賓館召開上海證券交易所第一次會員大會，共有22家會員參會，主要討論上交所設立等相關事宜。大會通過交易所章程、交易規則、會員管理辦法、所徽和所旗等；選舉產生第一屆理事會9名理事，選舉產生第一屆監事會4名監事，時任中國人民銀行上海市分行副行長周芝石為第一任監事長，時任中國人民銀行上海市分行金融管理處副處長（正處級）尉文淵為理事、總經理。

1990年12月19日，上交所在上海市黃浦路15號的浦江飯店正式開業。當天上午11點整，時任上交所總經理尉文淵敲響了第一聲開市鑼聲，上交所正式開始交易。

上交所首批上市品種共有39只。其中，首批上市的股票僅8只，俗稱“老八股”，分別是：延中實業、真空電子、飛樂音響、愛使電子、申華電工、飛樂股份、豫園商城、浙江鳳凰（2016年3月21日因信息披露違法被上交所終止上市）。資料顯示，上交所開業當天，交易方式是采用自主研發、微機聯網的電腦自動撮合競價交易系統，進行證券交易，實現了證券委托電腦錄入、系統自動撮合成交、成交行情遠程自動實時傳送等自動交易功能。

開業7年后，1997年12月8日，上交所正式遷入位于上海浦東陸家嘴金融貿易區的上海證券大廈新址。如今，一座功能更完善的證券交易大廈正在浦東建設中。而上交所最初所在地浦江飯店（至今已有180多年的歷史），自2017年底停業后，一直在抓緊裝修，據悉，在這里即將誕生中國證券博物館。