Podkręcanie pamięci na Zen/Zen+ to niewdzięczny temat. Nie wiem dokładnie jakie masz kostki, ale jeśli nie mają timingów drugiego/trzeciego rzędu dostosowanych do Ryzena, to będziesz miał kwiatki takie jak opisujesz. Jedyna skuteczna metoda to testowanie narzędziami mocno dociążającymi RAM - ja używam Memtest HCI i się sprawdza - bardzo szybko wyłapuje potencjalne błędy i zazwyczaj jak idzie bezbłednie przez 15-20 minut, to już wystarcza żeby potwierdzić stabilność RAMu / kontrolera pamięci.

Co do problemu, to niestety przypadłość kart AMD. Popróbuj z innymi wersjami sterowników. Tutaj jest trochę opisu:
(You need to Login or Register to view media files and links)