Кавказский на самом деле имеет два значения. Этот термин был придуман антропологами в 19 веке для обозначения практически любого белого человека, включая выходцев из Индии. В наши дни это может означать кого-то с Кавказа или просто белого человека, но сейчас это устаревший термин.
Из словаря:
Кавказский --- 1. Белый человек; человек европейского происхождения.
--- 2. Человек с Кавказа.
Одно время считалось (я думаю, с очень небольшими доказательствами), что бледнокожие «европейские» расы произошли с Кавказа. Отсюда «кавказец».
И, как уже заметил кто-то другой, он менее политизирован, чем "белый" ...