Decir “el agua es polar y el aceite no” es un buen comienzo, pero la explicación completa tiene algo más.
Las moléculas de agua tienen zonas con cargas eléctricas parciales y forman fuertes interacciones entre sí. Las moléculas de los aceites están compuestas en gran parte por regiones no polares.
Cuando intentamos dispersar aceite en agua, las moléculas de agua deben reorganizarse alrededor de las partes no polares del aceite. En conjunto, al sistema le resulta más favorable que gran parte del aceite se agrupe y reduzca el contacto con el agua. Por eso, si no añadimos una que estabilice la mezcla, las dos fases vuelven a separarse.
Ejemplo: al agitar una vinagreta, puedes romper el aceite en gotitas diminutas y durante un rato parece mezclado. Si dejas el frasco quieto, las gotas chocan y vuelven a unirse hasta formar una capa separada.
El aceite suele quedar arriba porque la mayoría de los aceites de cocina tienen menor que el agua. Eso explica cuál capa queda arriba, no por qué no se mezclan. Son dos ideas diferentes.
El jabón puede cambiar la situación. Sus moléculas tienen una parte compatible con agua y otra con aceite, por lo que pueden rodear pequeñas gotas y estabilizarlas durante más tiempo. A esa mezcla de gotas de un dentro de otro se le llama emulsión.
Mayonesa y leche son ejemplos de sistemas donde sustancias especiales ayudan a mantener grasa dispersa en agua.
Por qué llegamos a esta respuesta: está bien estudiada la tendencia de las partes no polares del aceite a agruparse cuando están rodeadas de agua. Evitamos la explicación demasiado simple de que “las moléculas se rechazan” como imanes; el comportamiento depende de las interacciones y del energético y de organización de todo el sistema.