当社は、1994年10月に、住友セメント株式会社と大阪セメント株式会社とが合併し、商号を住友大阪セメント株式会社に変更しました。
住友セメント株式会社は、1906年、広瀬金七、岩崎清七らにより、セメントの製造・販売を目的とする会社としてその設立が企図され、1907年11月、商号を磐城セメント株式会社、資本金を100万円、本店を横浜市太田町3丁目52番として設立されました。その後、1963年10月に商号を住友セメント株式会社に変更しました。
大阪セメント株式会社は、1917年、大阪窯業株式会社のセメント部として発足し、1926年12月、商号を大阪窯業セメント株式会社として設立されました。その後、1963年7月に商号を大阪セメント株式会社に変更しました。
その主な変遷は次の通りであります。

1907年11月	磐城セメント株式会社を設立
1908年9月	四倉工場を新設
1925年7月	日の出セメント株式会社を合併(八戸工場)
1926年12月	大阪窯業セメント株式会社を設立
1940年12月	富国セメント株式会社を合併(現・栃木工場)
1941年11月	七尾セメント株式会社を合併(七尾工場)
1949年5月	東京証券取引所の市場第一部に上場
1950年12月	東洋セメント株式会社を合併
1952年6月	伊吹工場を新設
1954年7月	浜松工場を新設
1960年5月	川崎セメント株式会社を合併(現・岐阜工場)
1961年12月	高知工場を新設
1963年5月	福島セメント株式会社(田村工場)及び住友石灰工業株式会社(現・山口事業所)を合併
1966年6月	滋賀興産株式会社を合併(多賀工場、彦根工場)
同年9月	赤穂第一工場を新設
1975年7月	七尾、多賀両工場を閉鎖
同年12月	赤穂第二工場を新設
1977年9月	八戸工場を分離し、八戸セメント株式会社を設立(現・連結子会社)
1984年11月	浜松工場を閉鎖
1986年9月	四倉工場を閉鎖
1987年4月	赤穂第一工場及び赤穂第二工場を統合し、赤穂工場とする。
同年12月	秋芳鉱業株式会社を設立(現・連結子会社)
1988年12月	OAシステム事業部門を分離し、住友セメントシステム開発株式会社を設立(現・連結子会社)
1990年4月	住友金属工業株式会社(現・日本製鉄株式会社)と共同で和歌山高炉セメント株式会社を設立(現・連結子会社)
同年同月	株式会社エステックを設立(現・連結子会社)
同年9月	千代田エンジニアリング株式会社を株式の追加取得により子会社化(現・連結子会社)
1994年1月	スミセ建材株式会社を設立(現・連結子会社)
同年3月	青木海運株式会社を買収(現・エスオーシー物流株式会社、連結子会社)
同年10月	住友セメント株式会社と大阪セメント株式会社が合併、商号を住友大阪セメント株式会社に変更
1996年3月	彦根工場を閉鎖
同年10月	スミセ興産株式会社を合併
2000年3月	田村工場を閉鎖
2001年4月	泉石灰工業株式会社と栃木興産株式会社が合併(現・泉工業株式会社、連結子会社)
2003年3月	伊吹工場におけるセメント生産を中止
2009年9月	栗本コンクリート工業株式会社を株式の追加取得により子会社化(現・株式会社クリコン、連結子会社)
2010年4月	東京エスオーシー株式会社が市川エスオーシー生コン株式会社を合併(現・連結子会社)
2013年4月	エスオーシー建材株式会社と新北浦商事株式会社が合併(現・北浦エスオーシー株式会社、連結子会社)