Oi, Admilton!
Qual é teu objetivo?
Caso Textbox2 * Textbox3 for maior que Textbox2 * Textbox4 atribuir o resultado de Textbox2 * Textbox3 ao Texbox1?
Segue um exemplo simples que pode ajudar:
Private Sub CommandButton1_Click()
'atribui o resultado da multiplicação às variáveis V1 e V2 para facilitar
V1 = TextBox2.Value * TextBox3.Value
V2 = TextBox2.Value * TextBox4.Value
If V1 > V2 Then
TextBox1.Value = V1
ElseIf V1 < V2 Then
TextBox1.Value = V2
End If
End Sub
Observe que se V1 for igual a V2 nenhum dos casos será verdadeiro.
Tu pode usar "Else" no lugar de "ElseIf V1 < V2 Then " para retornar verdadeiro se V1 for igual a V2.
Sugiro usar a propriedade .value para garantir que nenhum valor seja tratado como texto.
Sugiro usar a formatação apenas no final.
Espero que eu tenha entendido o problema e ajudado.