A={-1,3}

　　有

　　f(-1)=-1f(3)=3

　　列出来就是

　　1-a-b=-1

　　9+3a-b=3

　　解得

　　a=-1b=3

　　f(x)=x^2-x-3

　　B={1,-3,√3,-√3}

　　倒数第二步怎么推到最后一步的啊？

　　你把方程展开写成M(x)=0的形式由于A是B的子集，所以-1和3一定是M(x)=0的解。这样M(x)=(x+1)(x-3)m(x)这样通过因式分解或者多项式的除法可以找到m(x)，m(x)是二次的，能解。

　　对不起我没看懂，你能不能说的详细一点，谢谢

　　f(f(x)=x将其展开得到一个一元四次方程不过不用拍，我们已经知道了他的两个解-1，3，分解因式即可