Светодиод оптопары PC817 нормально работает при токе, через него 20мА и напряжении на нем 1,2 вольта.

При ограничивающем сопротивлении R5 10k и при напряжении на INPUT 5v, через светодиод протекает ток

(5v-1.2v)/10k=3,8mA.

Этот ток чаще всего не сможет "открыть" оптопару.

Для нормальной работы от 5v, R5 должно быть, с учетом выпрямительного моста на входе.

(5v-1.2v-3v)/20мА=40ом

Я поставил 91ом и все работает