Dado o sistema: A alternativa correta é:

resolução

Isola a de a-b=-5 :

a=b-5

Substitui em a²+b²=13:

(b-5)²+b²=13

b²-10b+25+b²=13

2b²-10b+12 -> simplifica por 2

b²-5b+6 -> Por soma e produto ou bhaskara: b1=3 e b2=2

Substituindo os b na equação a=b-5

b1: a=3-5 -> a1= -2

b2: a=2-5 -> a2= -3

Agora analisando as alternativas, a única que se encaixa é a letra D.