Os dois protocolos resolvem o mesmo problema: fazer o tráfego do proxy ficar indistinguível de uma visita normal a um site comum. O censor vê uma conexão TLS com algum host, nada mais. A diferença está em como chegam lá.
Trojan: uma boa mentira precisa de um site real
O Trojan roda no seu próprio domínio, com o seu próprio certificado válido. Para quem observa, seu tráfego é uma sessão com um site comum. Se alguém sondar o endpoint sem a senha certa, ele responde exatamente como o site comum por trás daquele domínio — esse é todo o disfarce.
O custo: o domínio precisa ser seu e o certificado, estar válido — e se a própria frente for bloqueada, o disfarce morre com ela.
VLESS: um protocolo interno mais leve
VLESS é um protocolo minimalista para o canal em si. Quase não adiciona sobrecarga e suporta transportes modernos — incluindo o Reality, que coloca no lugar do seu o handshake TLS de um grande serviço real e não guarda certificado nenhum. Para o censor, a conexão parece tráfego para um grande serviço popular; o seu domínio não aparece em lugar nenhum — sobra ao censor mirar apenas no endereço do servidor.
O VLESS é suportado por todos os grandes clientes abertos, e o formato de assinatura é um padrão do ecossistema — um link serve para todos.
Por que rodamos os dois
Qualquer protocolo pode cair em desgraça junto a um censor em um país ou rede específica. Dois protocolos em cada nó significam um plano B que não exige uma segunda compra: troque a configuração no seu app e continue trabalhando. O link de assinatura carrega os dois — muitos apps escolhem sozinhos o mais rápido; nos demais, a troca é manual em dois toques.