Bien que les Rroma soient arrivés en Europe dans l'empire byzantin avant la fin du premier millénium, vers le début du 10e siècle, les premières écrits européens faisant références aux Rroma sont apparues autour de 1100. Un moine géorgien, dans un texte sur la vie du saint George Mtacmindeli, qui a vécu au monastère d’Iberon sur le Mt. Athos a décrit des gens à Constantinople qui étaient d’excellents « diseurs de bonne aventure » et qui s’appelaient Athincanoi ou Adsinganoi. Nom duquel est dérivé le nom donné aux Rroma dans beaucoup de langues européennes : Tzigan, Zigeuner, Zingari etc.
En 1322, le franciscain Simeon Simeonis a rencontré Rroma en Crète, en 1348 et 1362, on trouve des écrits sur les « Czingarije » en Serbie et en Croatie. La plus part des Rroma est resté dans les Balkans jusqu'aux invasions turques.
L’absence de textes antérieurs a 1100, ne signifie pas que les Rroma sont seulement apparus dans l'empire byzantin à cette période. Au contraire, Rroma étaient déjà là depuis longtemps. Ils sont arrivés le plus probablement aux Balkans, particulièrement en Thrace, avant la fin du premier millénaire. Comment ils sont arrivés n'est pas sur, mais l'explication la plus probable est qu'ils ont été déportés avec les Arméniens dans ces régions suivant la défaite du Pauliciens par les forces byzantines. Le nom qu’on leur a donné, Athinganoi, correspond à celui d'une secte qui était souvent associée, au moins pendant des périodes byzantines, avec le Pauliciens.
Il faut insister qu'il y a beaucoup de documents à partir du 13e et du 14e siècles qui peuvent se rapporter à des Rroma et à leur présence dans divers pays européens. Il est, malheureusement souvent difficile de décider si c'est le cas ou non. Nous avons choisi de nous référer à des documents de lesquels peut raisonnement supposer qu’ils se rapportent à des Rroma. Beaucoup d'experts pensent que lorsque les Rroma sont arrivés aux Balkans et dans les pays voisins, bon nombre d'entre eux ont trouvé le travail comme forgerons ou dans d’autres activités. La population autochtone avait besoin d'ouvriers, des Rroma et de leurs travail. Pour cette raison, la plupart des Rroma se sont définitivement installés dans ces pays, construits leurs maisons, villages et quartiers Rroma (mahalades).
Ceci a continué même selon la domination turque. Les ouvriers Rroma requis par les Turcs ont reçu certains privilèges et un certain nombre de Rroma a même travaillé pour les troupes irrégulières turques. Ceci est peut-être la raison pour laquelle il y a beaucoup plus de Rroma de nos jours dans les Balkans et dans les régions voisines telles que la Roumanie et la Hongrie.