static int32_t avc_coeff_last64_msa( int16_t *p_src )
{
uint32_t u_res;
v8i16 src0, src1, src2, src3, src4, src5, src6, src7;
v8i16 tmp_h0, tmp_h1, tmp_h2, tmp_h3, tmp_h4, tmp_h5, tmp_h6, tmp_h7;
v16u8 tmp0, tmp1, tmp2, tmp3;
v8u16 vec0, vec1, vec2, vec3;
v4i32 out0;
v16u8 mask = { 1, 2, 4, 8, 16, 32, 64, 128, 1, 2, 4, 8, 16, 32, 64, 128 };
LD_SH8( p_src, 8, src0, src1, src2, src3, src4, src5, src6, src7 );
tmp_h0 = __msa_ceqi_h( src0, 0 );
tmp_h1 = __msa_ceqi_h( src1, 0 );
tmp_h2 = __msa_ceqi_h( src2, 0 );
tmp_h3 = __msa_ceqi_h( src3, 0 );
tmp_h4 = __msa_ceqi_h( src4, 0 );
tmp_h5 = __msa_ceqi_h( src5, 0 );
tmp_h6 = __msa_ceqi_h( src6, 0 );
tmp_h7 = __msa_ceqi_h( src7, 0 );
PCKEV_B4_UB( tmp_h1, tmp_h0, tmp_h3, tmp_h2, tmp_h5, tmp_h4, tmp_h7, tmp_h6,
tmp0, tmp1, tmp2, tmp3 );
tmp0 = tmp0 & mask;
tmp1 = tmp1 & mask;
tmp2 = tmp2 & mask;
tmp3 = tmp3 & mask;
HADD_UB4_UH( tmp0, tmp1, tmp2, tmp3, vec0, vec1, vec2, vec3 );
PCKEV_B2_UB( vec1, vec0, vec3, vec2, tmp0, tmp1 );
HADD_UB2_UH( tmp0, tmp1, vec0, vec1 );
tmp0 = ( v16u8 ) __msa_pckev_b( ( v16i8 ) vec1, ( v16i8 ) vec0 );
vec0 = __msa_hadd_u_h( tmp0, tmp0 );
tmp0 = ( v16u8 ) __msa_pckev_b( ( v16i8 ) vec0, ( v16i8 ) vec0 );
out0 = ( v4i32 ) __msa_nloc_d( ( v2i64 ) tmp0 );
u_res = __msa_copy_u_w( out0, 0 );
return ( 63 - u_res );
}
static void hevc_addblk_32x32_msa(int16_t *coeffs, uint8_t *dst, int32_t stride)
{
uint8_t loop_cnt;
uint8_t *temp_dst = dst;
v16u8 dst0, dst1, dst2, dst3, dst4, dst5, dst6, dst7;
v8i16 dst_r0, dst_l0, dst_r1, dst_l1, dst_r2, dst_l2, dst_r3, dst_l3;
v8i16 in0, in1, in2, in3, in4, in5, in6, in7;
/* Pre-load for next iteration */
LD_UB2(temp_dst, 16, dst4, dst5);
temp_dst += stride;
LD_UB2(temp_dst, 16, dst6, dst7);
temp_dst += stride;
LD_SH4(coeffs, 16, in0, in2, in4, in6);
LD_SH4((coeffs + 8), 16, in1, in3, in5, in7);
coeffs += 64;
for (loop_cnt = 14; loop_cnt--;) {
UNPCK_UB_SH(dst4, dst_r0, dst_l0);
UNPCK_UB_SH(dst5, dst_r1, dst_l1);
UNPCK_UB_SH(dst6, dst_r2, dst_l2);
UNPCK_UB_SH(dst7, dst_r3, dst_l3);
dst_r0 += in0;
dst_l0 += in1;
dst_r1 += in2;
dst_l1 += in3;
dst_r2 += in4;
dst_l2 += in5;
dst_r3 += in6;
dst_l3 += in7;
/* Pre-load for next iteration */
LD_UB2(temp_dst, 16, dst4, dst5);
temp_dst += stride;
LD_UB2(temp_dst, 16, dst6, dst7);
temp_dst += stride;
LD_SH4(coeffs, 16, in0, in2, in4, in6);
LD_SH4((coeffs + 8), 16, in1, in3, in5, in7);
coeffs += 64;
CLIP_SH4_0_255(dst_r0, dst_l0, dst_r1, dst_l1);
CLIP_SH4_0_255(dst_r2, dst_l2, dst_r3, dst_l3);
PCKEV_B4_UB(dst_l0, dst_r0, dst_l1, dst_r1, dst_l2, dst_r2, dst_l3,
dst_r3, dst0, dst1, dst2, dst3);
ST_UB2(dst0, dst1, dst, 16);
dst += stride;
ST_UB2(dst2, dst3, dst, 16);
dst += stride;
}
UNPCK_UB_SH(dst4, dst_r0, dst_l0);
UNPCK_UB_SH(dst5, dst_r1, dst_l1);
UNPCK_UB_SH(dst6, dst_r2, dst_l2);
UNPCK_UB_SH(dst7, dst_r3, dst_l3);
dst_r0 += in0;
dst_l0 += in1;
dst_r1 += in2;
dst_l1 += in3;
dst_r2 += in4;
dst_l2 += in5;
dst_r3 += in6;
dst_l3 += in7;
/* Pre-load for next iteration */
LD_UB2(temp_dst, 16, dst4, dst5);
temp_dst += stride;
LD_UB2(temp_dst, 16, dst6, dst7);
temp_dst += stride;
LD_SH4(coeffs, 16, in0, in2, in4, in6);
LD_SH4((coeffs + 8), 16, in1, in3, in5, in7);
CLIP_SH4_0_255(dst_r0, dst_l0, dst_r1, dst_l1);
CLIP_SH4_0_255(dst_r2, dst_l2, dst_r3, dst_l3);
PCKEV_B4_UB(dst_l0, dst_r0, dst_l1, dst_r1, dst_l2, dst_r2, dst_l3,
dst_r3, dst0, dst1, dst2, dst3);
ST_UB2(dst0, dst1, dst, 16);
dst += stride;
ST_UB2(dst2, dst3, dst, 16);
dst += stride;
UNPCK_UB_SH(dst4, dst_r0, dst_l0);
UNPCK_UB_SH(dst5, dst_r1, dst_l1);
UNPCK_UB_SH(dst6, dst_r2, dst_l2);
UNPCK_UB_SH(dst7, dst_r3, dst_l3);
dst_r0 += in0;
dst_l0 += in1;
dst_r1 += in2;
dst_l1 += in3;
dst_r2 += in4;
dst_l2 += in5;
dst_r3 += in6;
dst_l3 += in7;
CLIP_SH4_0_255(dst_r0, dst_l0, dst_r1, dst_l1);
CLIP_SH4_0_255(dst_r2, dst_l2, dst_r3, dst_l3);
PCKEV_B4_UB(dst_l0, dst_r0, dst_l1, dst_r1, dst_l2, dst_r2, dst_l3,
dst_r3, dst0, dst1, dst2, dst3);
ST_UB2(dst0, dst1, dst, 16);
dst += stride;
ST_UB2(dst2, dst3, dst, 16);
}
