解:分别过点A、B作AF⊥y轴于点F,AD⊥x轴于点D,BG⊥y轴于点G,BE⊥x轴于点E,
∵反比例函数y=
的图象在第二象限,k x
∴k<0,
∵点A是反比例函数图象上的点,
∴S△AOD=S△AOF=
,|k| 2
∵A、B两点的横坐标分别是a、3a,
∴AD=3BE,
∴点B是AC的三等分点,
∴DE=2a,CE=a,
∴S△AOC=S梯形ACOF-S△AOF=
(OE+CE+AF)×OF-1 2
=|k| 2
×5a×1 2
-|k| a
=6,解得k=-3.|k| 2
故选A.