1942年1月17日，阿里出生在美国肯塔基州路易斯韦尔的一个黑人家庭中。美国的种族歧视很严重，对于这一点阿里从小就深有体会。有一次阿里和弟弟一起到街上去玩，他们感觉有些口渴，便到一家白人开的小店里买水喝，结果刚进门便被人赶了出来。回家后，阿里问母亲：“为什么我们不能在店里喝水呢？”母亲摸着阿里的头，无奈地说：“谁让我们的皮肤是黑色的呢？”这件事对阿里幼小的心灵触动很大，他暗暗下决心，长大后一定要为黑人争气。
阿里从小就是个要强的孩子，比如他和伙伴们比赛摔跤，他会用尽全身的力气赢取胜利。如果有哪次输了，他就会开始天天打沙袋、做俯卧撑，准备下一次比赛。上学的时候，如果在这个期末他有哪科成绩没有考好，下一学期期末他一定会是班里该学科的最高分取得者。
12岁的时候，阿里开始练习拳击。到体育馆练拳的第一天，他的教练问他：“练拳可是很苦，你能坚持下来吗？”“当然，先生，我的目标是做世界上最好的拳击手！”阿里大声说。