Não adianta ter placa de video boa se o processador não suporta ela, so aumentaria o lag.
Usa visão tiny
Os 3 mods que diminui o lag:
Optifine (Para deixar a qualidade baixa de tudo e da um aumento no fps, você tem que desativar tudo de animção,detalhes,etc tudo que der pra desativar em configuração de video)
Xray do craftminer(Quando aperta o botão (r) some com todos os blocos e diminui o lag em mapa pesado)
Enchanted item fps-fix:
http://www.minecraftforum.net/topic/1936314-enchanted-item-fps-fix/ (Tira o efeito do brilho do encantamento como espada e arco que da um super lag mas não tira a habilidade dos itens apenas tira o brilho deles)
OUTRAS SUGESTÃO: Caso seu windows for o 7 ou o 8 tenta trocar pro linux o windows xp (O linux é gratis e tem para download na internet e tem videos ensinando como instalar)
Tambem você pode usar o gamebooster para reduzir processos e dar maior desempenho mas eu uso o windows xp e custumo aperta ctrl + shift + esc e finalizar manualmente
Clique para expandir...