Existe-t-il des règles d'utilisation des préfixes ?

Oui, il y en a, bien que certaines choses concernant les préfixes soient assez arbitraires. Malheureusement, les préfixes les plus courants, un- et in-, sont interchangeables et doivent simplement être appris.
Sinon, il existe quelques règles utiles, principalement à propos des préfixes négatifs :
Ir- apparaît uniquement avant les mots commençant par "r" (régulier, pertinent)
il- est avant "l" (légal, légitime)
je suis- est avant "m" ou "p" (incommensurable, impossible)
Une note de prudence, cependant; alors que les préfixes ci-dessus ne peuvent être utilisés qu'avec les lettres indiquées, les lettres elles-mêmes sont souvent utilisées avec d'autres préfixes (peu fiables, illégaux, antipatriotiques)
a toujours le sens d'une erreur (malentendu, raté)
cela a un sens de changement ou de différence plutôt que d'absence/manque, par exemple "insatisfait" signifie que vous n'êtes pas satisfait de la qualité de quelque chose que vous avez, alors que "insatisfait" suggère un manque de quelque chose. (Si vous n'êtes pas satisfait de votre repas au restaurant, vous vous plaignez ; si vous n'êtes pas satisfait, vous commandez plus.)
Avec la plupart des autres préfixes, ce n'est pas tant une question de règles que d'apprendre leur signification : bientôt.

Je ne suis pas tout à fait d'accord avec Paulaw. Il existe d'autres mots "le" qui ne prennent pas le préfixe "il" (trompez, déchaînez).
De plus, il existe d'autres mots avec des préfixes "il" qui n'ont pas "le" (illogique, illettré).
"ne pas aimer" est une exception pour la règle "l+une autre voyelle" après le préfixe "un".

Je déteste les exceptions... tellement frustrant pour mes étudiants ESL ! Je leur dis juste de mémoriser et de lire autant que possible...

Eh bien, il- est utilisé avant l dans des mots d'origine étrangère comme légal et lettré... C'est trop compliqué de revenir dans l'étymologie donc le mieux est de comprendre ce que signifie le préfixe (comme mentionné ci-dessus) et de mémoriser les mots avec lequel ça marche. Chanceux apprenants ESL !