解:∵△ABC中, ∠C=90°,BC=8,AC=6
∴S△ABC=(AC*BC)/2=6*8/2=24,AB=√AC^2+BC^2=10
∵DF//AC,DE//BC
∴DF/AC=BD/AB,DE/BC=AD/AB=(AB-BD)/AB=1-BD/AB
∵DF=x,BC=8,AB=10,AC=6
∴x/6=BD/10,DE/8=1-BD/10
解得:DE=-4x/3+8
∵DECF是矩形
∴SDECF=S=DF*DE=x*(-4x/3+8)=-4x^2/3+8x
∵DE,DF分别是矩形的长和宽
∴x>0, -4x/3+8>0
解得:0<x<6
∴S与x的函数关系式为S=-4x^2/3+8x(0<x<6)
∵S=-4x^2/3+8x(0<x<6)
∴S=-4/3(x^2-6x)=-4/3[(x-3)^2-9]=12-[4(x-3)^2]/3
∴当x=3时,S最大,最大面积是12。
。