１９６１年４月２７日，中国远洋运输公司广州分公司成立，为新中国首个国家远洋运输企业。次日，该公司第一艘客轮“光华”轮悬挂中华人民共和国国旗，在广州黄埔港举行隆重的首航典礼，随后“光华”轮驶往印度尼西亚雅加达港接运受难华侨回国。同年５月２０日，第一艘货轮“和平”轮自黄埔首航雅加达、新加坡、仰光等地。

６０年代初期，该公司主要经营东南亚及非洲远洋运输，并开辟了部分欧洲航线。但此时运输规模较小，运力不足，大部分货物仍需依靠外轮运输。

１９６４年，中国远洋运输业有了长足发展，中远广州分公司在国内率先利用银行贷款购造船舶，提高运输能力。至１９７６年，已拥有１１５艘船，２２７．４万载重吨，远洋船线日益增多，船舶已到达世界上大部分沿海国家和地区。该公司以银行贷款方式，在较短时期内使中国拥有了一支庞大的远洋船队，减少了国家租船所使用的大量外汇；同时，利用营运利润向银行还本付息，还为国家大量创汇，增加积累。这在２０世纪六七十年代的中国是一个创举，树立了一个良好的范例。

１９７９年３月，经交通部批准，中国远洋运输公司广州分公司改称为广州远洋运输公司。经济管理体制改革后，广州远洋运输公司进一步搞活经营，广揽货源，拓展了国内外揽货业务和集装箱运输业务。１９９０年，广州远洋运输公司拥有各种类型船舶１４６艘，２５８万载重吨，航行于１３０多个国家和地区的９００多个港口。货运量从１９６１年的８．８４万吨增至１１６８．７３万吨，货物周转量也从１９６１年的１．１亿吨海里增至５６０．７亿吨海里，成为华南地区规模最大的远洋运输企业。