Depende; o Minecraft usa a memória RAM para armazenar texturas, blocos, entidades, partículas, quanto mais memória você reservar para ele mais alta pode ser sua renderização, por exemplo; pois mais objetos, blocos e entidades poderão ser carregados, "vão caber" na memória RAM.
Entretanto, não adianta alocar mais memória para carregar mais coisas que o seu processador central e o processador da placa de vídeo (caso seja não seja onboard) sejam capazes de processar rapidamente, e se isso ocorrer ocorrerão perda de FPS, pois menos frames serão gerados; isso quer dizer que a taxa de FPS dependerá mais do seu processador central e do processador da sua placa de vídeo do que da quantidade de memória RAM. Uma prova disso é que eu consigo jogar com uma taxa de FPS bem semelhante, com a mesma configurações de vídeo, independente da quantidade de memória RAM que coloco para o Minecraft (tenho 5GB), pois ele usará só o suficiente para carregar tudo o que está no campo de renderização.
A recomendação que posso fazer é que não reserve muita memória para não travar o seu sistema operacional e nem tão pouco para não ter o suficiente para carregar o mapa, faça alguns testes e verifique a quantidade usada pelo Minecraft, lembre-se vai depender muito da sua renderização e mods instalados.
Para melhorar o desempenho (FPS):
1. Antes de tudo procure saber se seu computador pode executar o Minecraft (Requisitos mínimos).
2. Procure manter sempre o mínimo de mods possíveis, ou usar só os essenciais.
3. Evite manter mais de um programa aberto ao mesmo tempo enquanto joga.
4. Se seu Minecraft ainda está muito lento tente usar configurações de vídeo mais leves, renderização menor, gráficos rápidos.
5. Não tive bons resultados com texturas, mas pode tentar uma mais "leve" talvez ajude.
6. Mantenha seus drivers, Java, até o launcher atualizados, não sei se ajuda mas é bom manter em dia.
Como ver a quantidade de memoria RAM usada pelo Minecraft:
1. Aperte a tecla F3 para ver a memória reservada e a quantidade em uso; as informações essa tela pode mudar conforme a versão do Minecraft, mods instalados (como Optfine):
2. Se ver esse gráfico você pode usar as teclas numéricas em cima do teclado, as com caracteres especiais (não as do teclado numérico) para mudar o que o gráfico mostra.
3. Se deseja voltar é só apertar o número 0.
Espero ter ajudado e que não tenha sido tão complicado de entender.
Clique para expandir...