function checar(){
var txt=document.getElementsByTagName('textarea')[0];
txt.value=txt.value.replace(/a/gi,"α");
txt.value=txt.value.replace(/b/gi,"в");
txt.value=txt.value.replace(/e/gi,"є");
txt.value=txt.value.replace(/f/gi,"ƒ");
void(0);
}
<textarea name="texto" onKeyUp="java script:checar();"></textarea> testei aqui e funfou de boa! você estava chamando uma função de nome diferente!