现知最早的鱼类化石，发现于距今约5亿年前的寒武纪晚期地层中，但只是一些零散的鳞片，未能解释一个有关鱼类身态的轮廓。到距今4亿年至3亿5千万年前的志留纪晚期和泥盆纪时，才有大量鱼化石被发现。这些鱼化石，有的在构造特征上彼此已很不一样，说明当时已有多类鱼类存在。最早出现的鱼类是无颌鱼，它们没有上、下颌，只有一个漏斗式的口位于身体前端，现在的鱼就是由这种无颌鱼进化来的。