6)Найдем скалярные произведения bc, ab, ac:
bc=|b|*|c|*cos(90)=0
ab=|a|*|b|*cos(60)=1*2*(1/2)=1
ac=|a|*|c|*cos(120)=1*3*(-1/2)=-3/2
Теперь найдем скалярное произведение векторов a-b-c и b:
(a-b-c)b=ab-b^2-cb=1-4-0=-3
и квадрат длины a-b-c:
(a-b-c)^2=a^2+b^2+c^2-2ac-2ab+2bc=1+4+9+2*(3/2)-2*1+2*0=15
Значит, искомый косинус равен ((a-b-c)b)/(|b|*|a-b-c|)=-3/(2√15).
ответ : -3/(2√15).