1834年12月11日，巖崎彌太郎出生在土佐國安藝郡井口村的一個“地下浪人”的家庭。巖崎彌太郎七代以前的祖先，經過多年苦心經營，買下鄉士(鄉居的武士)的地位，使得巖崎家脫離了平民之籍，但後來卻家道中落，彌太郎的祖 父因爲貧困不得不把鄉土地位賣掉。巖崎家從此便被排斥於正規武士之外， 成爲地下浪人，不再有武士家族的榮耀了。巖崎家由於當時嚴格的等級制度， 備受歧視和冷遇。這些屈辱、痛苦的下層生活的經歷，使得小彌太郎胸中充滿憤慈，培養了他不屈不撓的性格。
彌太郎的母親美輪是一位鄉村醫生的女兒。她待人寬厚仁慈，且非常勤 勞。她爲小彌太郎的成長傾注了大量心血。她先送小彌太郎到自己的孃家， 讓他跟隨彌太郎的姥姥學識字和書法。後來，她又與丈夫商量，讓小彌太郎拜本地最有名的私塾先生爲師。 1848年，小彌太郎被送到他姨夫陽明學者岡本寧浦家。岡本寧浦在家鄉開辦私塾，彌太郎也就成爲他的門徒。經過一段時間的接觸，岡本逐漸瞭解到彌太郎雖調皮卻是很有前途的孩子，他求知慾旺盛，在詩文方面十分有天賦。因此，岡本一度曾想收彌太郎做養子，可彌太郎的父母沒有答應。那時候，岡本寧浦以前的學生奧宮造齋也做了彌太郎的老師。
1854年，岡本因病去世了。奧宮覺得在閉塞的家鄉難以有所發展，準備到江戶去尋找新的生活。聽到奧宮老師去江戶的消息，彌太郎激動不已。對於一直在井口村長大的彌太郎來說，江戶猶如天上的星星一般遙不可及。但是，彌太郎的心中卻涌上無法抑制的渴望。他三番五次到三裏遠的布師田村去拜訪奧宮老師，央求他帶自己到江戶求學。奧宮老師拗不過他，又念他是先師岡本寧浦所器重的學生，就答應了彌太郎的懇求。彌太郎跟隨老師到江戶後，拜江戶“昌平堂”的名師艮齋爲師，才學大有長進。
1855年10月2日，江戶發生大地震。“昌平堂”的學生部爭先恐後避難去了，只有彌太郎不顧危險，堅持在學堂附近照顧艮齋老師一位生病的親戚。艮齋老師因此非常感激他，認爲他是個很重情義的年輕人。也就在這個時候，彌太郎得到父親彌次郎遭人陷害的消息。他救父親不成，自己也身陷囹圄，結果在牢獄中呆了近一年，1857年正月才獲得自由。 彌太郎出獄後，他的姓(當時只有士族纔有姓)與刀都被剝奪，同時還受到活動範圍受限制的處分。彌太郎被迫過起了隱居的生活。這時，他深切體會到了社會的不公道，改變黑暗現實的願望也越發強烈。他靜下心來讀了好些書，見識大長，精神境界也提高了一層。一天，他與弟弟彌之助在安芝河釣魚。看着滔滔的河水，他說：“這河面真寬闊啊!”弟弟彌之助說：“洪水漲時，如果沒有寬闊的河面，就會產生嚴重的後果。”彌太郎此時突發奇想：要是能在河岸築堤，攔河造田，那不是一舉兩得的美事嗎?當時，他在朋友的幫助下，已重新獲得了曾被祖父賣掉的鄉士身份，因而，當他以最快的速度向本藩的郡公所提出攔河造田的申請方案時，很快就被批准了。
1864年，攔河造田大功告成。當年，他的糧、棉都獲得了豐收。從此，河邊幾百公畝的田產給彌太郎帶來了豐厚的收入，甚至給他帶來仕途好運：彌太郎因造田有功，被任命爲高知城奉行所的下級官員。後來，因政局變動，後藤象二郎控制了高知政權。
1866年，後藤創立”開成館”作爲藩的直營商館，彌太郎被任命爲開成館貨殖局的下級官員。開成館的業務就是將藩內的產物(紙、樟腦、砂糖、茶、柴魚等)販賣到別藩。所得款項作爲藩的資金，其目的在於購買武器。然而，開成館並沒有得到好評，有人戲稱它是“愚人館”，做的是“傀儡生意”。的確，官辦的機構總是作風拖沓，效率很低，開銷又大，彌太郎實在無法忍受這種氣氛，在1866年3月就辭職了。
這中間的1865年，彌太郎的長子巖崎久彌出生。家中增添人口，全家人都很高興。彌太郎辭職不久，“開成館”分館“土佐商會”與外國商會產生糾紛。 後藤處理不當，背了一屁股債。這樣下去，不僅“開成館”會倒閉，連土佐藩的財政也岌岌可危。後藤開始找尋能夠替他收拾善後的人。大家一致認爲除巖崎彌太郎外，無他人可勝任。從此，彌太郎重新受到後藤的器重。不久，後藤任命彌太郎爲長崎“土佐商會”的負責人。
1867年底，巖崎彌太郎因爲工作成績顯著，被提升爲新留守居組。第二年，日本國內局勢發生了很大變化。當時，主張改革的大久保利通等領導了倒幕運動。在伏見鳥羽之戰中，德川方面完全崩潰。在戰亂中，長崎發生大火，長崎士佐商會被燒燬。1868年9月8日，新政府改年號爲明治，史稱明治維新政府。這時後藤已升任爲新政府的參議。1869年1月，因長崎土佐商會已被封閉，彌太郎由長崎調至土佐藩開成館大阪商會，7月被任命爲開成館代理幹事。
1870年，土佐藩基於財務困難，決定縮小“大阪商會”。也正是這一年， 明治維新政府認爲藩營事業會壓迫民間企業，決定大舉廢止藩營事業。彌太郎在這一年9月來到東京，與後藤等商談，決定9月底“大販商會”脫藩自立，以“土佐開成商社”民間商社的名義繼續營運。但是新商會在正式開張 時，商號卻不叫“土佐開成商社”，而稱“九十九商會”，這個商號取名於土佐九十九灣。彌太郎雖然表面上沒有參與九十九商會，可卻是實際上的負責人。他獲得了商會裏的紅葉、夕顏、鶴等三艘藩船的使用權，開始經營大阪——東京、神戶——高知的海上運輸業。
1871年7月，明治政府決定廢藩置縣，土佐藩變成高知縣。縣當局勸彌太郎將“九十九商會”轉變爲個人的事業，彌太郎同意了。他以4萬兩銀子將夕顏、鶴兩艘船買下，船上的標誌與今天的三菱標誌一樣，是由三柏葉的標誌與巖崎家的三階菱組合形成的。
1872年1月，“九十九商會”改爲“三川商會”。1873年3月，彌太郎又將“三川商會”改名爲“三菱商會”，正式向各界表明，三菱商會是他個人的企業。三菱商會擁有原來隸屬於藩的商會財產以及汽船6艘。拖船2艘，庫船、帆船、腳船各1艘。彌太郎長久以來在官場服務，雖無大過，但也無所建樹。回想過去，彌太郎感慨萬千，他決心脫下官服，專心從事海運事業，有一番大的作爲。
