Il s'agit d'une série de cavernes en partie naturelles, vieilles de 5000 ans avant J.C., dans lesquelles l'océan pénètre à marée haute et dont l'ouverture représenterait la forme du continent africain.Des vestiges préhistoriques y furent découverts. Elle doit leur nom à la mythologie grecque selon laquelle Hercule s'y reposa pendant l'accomplissement de ses 12 travaux, au moment de la cueillette des pommes d'or du jardin des Hespérides.