Essa biblioteca que está dando um erro é relacionada com um codec AV1, caso não precise do suporte a esse codec então pode remover da flag de compilação.
USE="bindist -system-av1" emerge firefox
Porém vale a pena olhar todas as flags de compilação para ver se vai funcionar bem com o seu sistema atual. Você tem uma interface gráfica instalada nesse sistema?