Explanation:
sin² α + cos²(α+β) + 2 sin α sin β cos(α+β)
Use angle sum formula:
sin² α + (cos α cos β − sin α sin β)² + 2 sin α sin β (cos α cos β − sin α sin β)
Distribute:
sin² α + cos² α cos² β − 2 sin α sin β cos α cos β + sin² α sin² β + 2 sin α sin β cos α cos β − 2 sin² α sin² β
Simplify:
sin² α + cos² α cos² β − sin² α sin² β
Rearrange and factor:
sin² α − sin² α sin² β + cos² α cos² β
sin² α (1 − sin² β) + cos² α cos² β
sin² α cos² β + cos² α cos² β
(sin² α + cos² α) cos² β
cos² β