因为四边形ABCD的两条对角线AC,BD垂直,所以四边形的面积S=1/2*AC*BD.

　　因此只要求AC*BD的最大值.

　　过圆心O分别作AC,BD的垂线,垂足分别为F,G.易知F,G分别为AC,BD的中点,所以AF=1/2AC,BG=1/2BD.这样只需求AF*BG的最大值.

　　由勾股定理:AF^2=R^2-OF^2,BG^2=R^2-OG^2,R是圆的半径.注意到OP是矩形OFPG的对角线,所以OP^2=OF^2+OG^2,因此

　　AF^2*BG^2

　　=(R^2-OF^2)(R^2-OG^2)(展开)

　　=R^4-R^2(OF^2+OG^2)+OF^2*OG^2(由OF^2+OG^2=OP^2=3)

　　=R^4-3R^2+OF^2*OG^2(1)

　　注意到OF^2+OG^2为定值(OP^2=3),所以其乘积OF^2*OG^2必在OF=OG时取得最大值(用二次函数或者均值不等式容易验证).此时OF^2=OG^2=3/2,代入(1)式可得：

　　AF^2*BG^2

　　=R^4-3R^2+OF^2*OG^2

　　=16-12+9/4

　　=25/4

　　从而AF*BG=5/2.再将AC=2AF,BD=2BG带回即得面积最大值为

　　S=1/2*AC*BD=1/2*(4*5/2)=5.