最终使张三丰下定决心外出求仙问道的是一个姓邱的道士。
某一天，一个自称姓邱的道士敲门来访，二人相见如故，两碟小菜一壶浊酒，谈些玄理，聊些仙道。等到邱道士辞别以后，张三丰远眺远方的群山站了好久。
有关这位邱道士，有学者说是邱处机，当然这些人连邱处机和张三丰这二位是哪年生的哪年死的都不屑于看看的，可能只知道一个邱处机姓邱才张嘴就说吧。人家邱处机1227年就羽化了，就算张三丰哪年生的还没有定论，这二位也不怎么可能见面，何况几十年以后这二位又一次相遇呢，除非是仙侠世界里面了。
张三丰具体是哪一年离开家乡的没有准确记载，不过他在这期间写过不少诗，从里面可以推测出他的行踪和经历，时间有三十几年，地方嘛，可以说是天南海北好多地方，“北燕赵，东齐鲁，南韩魏，往来名山古刹”。比如其中有一首《三十二岁北游》的诗是这么说的：
幽冀重来感慨忘，
乌纱改作道人装。
明朝佩剑携琴去，
却上西山望太行。
算下来，张三丰18岁入仕，二十多岁丁忧回家，守制按27个月算，所以他出去云游时最多也就是三十。这三十多年游下来，运气非常不好，也可能是机缘未到，总之是一直没什么际遇，同样可以从他的诗作中得到印证。
比如张三丰游到庐山时说“四十八岁空销磨，人生寿命能几何”，显然二十来年还没有机遇吧。
接着他来到河东时又说“三年步履遍河东……海岳几时逢道侣，尘寰何处访仙翁？”诗中可以看得出来，还是没收获。
期间张三丰也因为多年寻仙不遇免不了也会有时灰心丧气，比如他说“不如觅个安闲地，了了忘忘养寸衷。”当然，这种消极的时候并不多。
接着张三丰来到了中州，颇有感慨，自然少不了吟诗，便来了一句“中州南北遍寻真，到处高歌吊古文。”
当他来到嵩山的时候，估计此时的心态也调整得不错了，AAAAA级景区嘛，风景的确不错，多少烦恼也能忘掉，所以来了一句“不遇真仙亦快活，留将鸿爪记嵩山。”
虽然没有遇到仙缘，张三丰这三十多年的经历还是相当丰富的，同样是通过他的诗看出来的，就不一一列举了。总体上看，他的向道之心虽有小波折，但却一直坚持不懈地追索着。
当张三丰已经六十多岁时，他已经走遍了大江南北，踏遍了无数名山大川，一直没有仙缘，向道之心却弥坚，于是他深邃的双眼看向了传说中的秦陇，也把希望更多地投向了那里。
出发前，张三丰用诗表达自己的志向：
胸中五岳待全探，
泰岱恒嵩已过三。
今日更登西华去，
白云开处望终南。
心说，我都走了三十多年，访道的事先不说，就连五岳名山都没有见识全呢，很没面子，下一站华山走起。
来到了秦陇之地，张三丰首先造访了华山陈抟高卧之处。可能真的和陈抟老祖有缘，延佑元年（1314年），张三丰在终南山里终于遇到了陈抟的弟子火龙真人，如愿得到了他的真传。
有了这次机缘，学到了正宗的道门心法，张三丰先是给自己起了个玄素的法名，后来又改成了玄化。前面说过，张三丰是经常改名字的，这两个名字也没用多久，想着两个名字都有玄字，便又改成了玄玄子。
山中无岁月，转眼跟随火龙真人潜修了四年，虽有进步，但是张三丰总感觉大道触手可及但是却始终无从下手，一直抓不住，抓啊抓地总也没感觉自然就很苦恼，老泪就有点止不住了。
当然这并不丢人，可是恰好被火龙真人看到了，一问之下张三丰只好老实交代说：“师傅啊，以前弟子喜欢云游访道，还喜欢仗义疏财，弄得口袋里比官府的粮仓还干净，现在要修外丹，可是这些铅、汞、朱砂、人参、鹿茸之类的实验材料根本买不起，修道也就没有寸进。再一想我都七老八十了，如果还是修不成大道您就得给我送终了，想着想着一伤心所以才悄悄抹眼泪。”
火龙真人一听才明白，大笑一声说：“倒是为师忽略了。修为到了为师这个层次，凡间财货可以信手幻化，所以从来就没有在意过。你修行尚浅，还没这个能力，既然离不开这些物什，为师现在就传给你丹砂点化妙诀，有此妙诀何愁黄白之物，学成之后你就下山修行去吧。”于是，张三丰便辞别师傅再次入世修行，时间是延佑五年。
入世修行的过程中，张三丰用各种方法锤炼心性，甚至还进过丽春院这种可以说凡世间最为污浊的地方，为了炼性也真的是拼了。在妓院里面，张三丰闭三宝、守黄房、擒五贼，当挑战成功以后也相当高兴，说：
俺是个试金石，高低便见；
俺是个铁馒头，下口难餐；
俺是个清静海，一尘不染；
俺是个夜明珠，空里常悬。
看来效果应该不错。
泰定春（1324年），张三丰来到武当山（太和山），这里真的是他的福地，在山里“九年无事又无诗，默默昏昏不自知”。通过他的诗可以知道，在武当山里的这九年，是张三丰真正丹道大成的重要时期。成功出关后张三丰才真正感觉到“调神九载而道始成”。为什么这么说呢，张三丰诗中说当时感觉自己的状态太好了，“捉虎擒龙浑易事”，岂不是道法大成，武功修到了绝顶的样子，打个老虎还算个事儿？
当然了，内行人知道他这里实际上说的是龙虎丹法大成，所谓龙虎、阴阳、铅汞这些词本就是内丹方面的术语，能自由操纵龙虎就说明他内丹功夫大成了。
再算算时间，此时的张三丰已经85岁左右了。出关那天，张三丰仰望九天，星汉高远，回想这么多年辛苦求道终于成功，便兴奋地又写了一首诗：“洞里深藏太古春，心虚气静养元神。直寻世外千年蕴，不染人间半点尘……凡愚何处求丹法？此是吾家不二门。”
道法大成的张三丰不再受年龄限制了，好动的他又开始云游了，而且是“隐显遨游”，也就是说他这次出游是带着仙气的。当然，这次出游他还有一个想法，打算“天下有人能似我，愿拈丹诀尽传之”，收弟子，广传道法，这是大事。
期间为了追寻祖迹，张三丰又去了一次四川大邑县鹤鸣山。道友们应该还记得吧，想当年张道陵就是在这里修道的。张三丰在那里也停留过不短的一段时间，留下不少传说，至今还有他种下的柏树和留下的绝句：
道士来时石鹤鸣，
飞神天谷署长生。
只今两涧潺湲水，
助我龙吟虎啸声。
至顺三年（1332年），传说中说张三丰来到苏州，恰好江南大财主陆道源正过五十大寿。张三丰看这位大财主与道有缘，便和他好好谈了谈。二人经过这次富有传奇色彩的座谈后，陆道源便把家财分给了大管家沈万三和葛德昭二人，自己在澄湖畔修了座瑞云观，改名为宋静，在观里当住持过上了隐士生活。
陆道源不是重点，重点是沈万三，这是沈万三第一次遇到张三丰。
沈万三是何许人相信道友们都知道吧，在他得到家主赠送的财产后便回到了周庄，接下来就是大力发展海外国际贸易，很快就成为了全国首富。
几年后，张三丰突然想回家了，主要是想祭拜一次父母，于是在至正初年（1341年）回到懿州。
张三丰这次返乡史料记载很少，仅从他的诗中能分析出来，如《辽阳积翠村二首》其中一首是这样写的：
手执长弓逐鸟飞，
是谁知是老翁归？
白杨墓上留诗句，
城郭人民半是非。
给父母扫过墓，张三丰又到大都访友，结果和积翠村里一样，“公卿故交死亡已尽矣”。想想也应该，他二十多岁时认识的或结交的人，现在都过去七十多年了，凡夫俗子哪能不死，于是便又是天南地北四处游了起来。
至正十九年（1359年），张三丰来到了金陵，再次遇到了沈万三，把丹法真功夫传给了他，这才是沈万三的机缘。
因为知道这位弟子有徙边之祸，临别前张三丰给沈万三留下首诗：
群雄扰扰尽征戡，
我与先生把道谈。
今日东南王气盛，
他年晤子到西南。
洪武初年，一百二十多岁高龄的张三丰再次来到武当山，也是动极思静了吧，便在玉虚宫前结庐为庵，住了下来。
张三丰的庵前有五株古松，这是他最喜欢的地方，每天都会在树下睡一觉。时间长了，就有人发现这里多了一个有点疯癫的老道士，天天不洗衣服不洗澡，慢慢的就以邋遢张呼之。
对了，上面不是讲张三丰总要改名吗，当听说别人叫他张邋遢或邋遢张以后还很高兴，说这个名字太好了，绝对算是千古独一份，谁也没用过的名字，于是也欣然接受了这个名字。
不过人们也发现了这个老道的不凡之处，上山灵活地像猿猴，大冬天也不怕冷，大雪天也能在雪地里睡觉，而且呼噜声闻数里，那叫一个响啊，附近的猛兽、凶禽都吓跑了。
渐渐地有人感觉他有点神奇，没准是个神仙，便忍着他身上的那股怪味来搭讪，不过却什么也问不出来。
当然，还是有识真人的人，不久邱玄靖便拜在了门下，随后，陆续收了孙碧云、周真德、杨善澄、刘古泉、卢秋云等人。其中，周真德、杨善澄、刘古泉、卢秋云这四位江湖上混了一个太和四仙的绰号。
张三丰在武当山住了不短的时间，当时邱元靖在五龙，卢秋云在南岩，刘古泉和杨善澄在紫霄，张三丰自己则住到了遇真宫，是他传播全真道的主要阶段。
也许有道友会问，金庸小说中的武当七侠呢，不也是张三丰的弟子吗？这七位还真的存在，也是凑巧遇到了张三丰，学了不少太极功夫，不过真正拜在张三丰门下的应该只有张松溪和张翠山二人，得到真传的也只有张松溪一人，并且他还开创了武当松溪派。
由于张松溪的原因，武当山的功夫开始盛行于江南，也有了北少林、南武当的说法。特别是朱棣从各地抽调大量的道士来到武当山搞援建开发以后，武当山的名气大了，张三丰的名气也更大了，因为这些人都尊张三丰为祖师。