NMSEDEC_BITS 77 libavcodec/j2kenc.c #define NMSEDEC_FRACBITS (NMSEDEC_BITS-1) NMSEDEC_BITS 84 libavcodec/j2kenc.c static int lut_nmsedec_ref [1<<NMSEDEC_BITS], NMSEDEC_BITS 85 libavcodec/j2kenc.c lut_nmsedec_ref0[1<<NMSEDEC_BITS], NMSEDEC_BITS 86 libavcodec/j2kenc.c lut_nmsedec_sig [1<<NMSEDEC_BITS], NMSEDEC_BITS 87 libavcodec/j2kenc.c lut_nmsedec_sig0[1<<NMSEDEC_BITS]; NMSEDEC_BITS 523 libavcodec/j2kenc.c for (i = 0; i < (1 << NMSEDEC_BITS); i++){ NMSEDEC_BITS 527 libavcodec/j2kenc.c a = (i >> (NMSEDEC_BITS-2)&2) + 1; NMSEDEC_BITS 530 libavcodec/j2kenc.c lut_nmsedec_ref0[i] = FFMAX(((i * i - (i << NMSEDEC_BITS) + (1 << 2 * NMSEDEC_FRACBITS) + (1 << (NMSEDEC_FRACBITS - 1))) & mask) NMSEDEC_BITS 539 libavcodec/j2kenc.c return lut_nmsedec_sig[(x >> (bpno - NMSEDEC_FRACBITS)) & ((1 << NMSEDEC_BITS) - 1)]; NMSEDEC_BITS 540 libavcodec/j2kenc.c return lut_nmsedec_sig0[x & ((1 << NMSEDEC_BITS) - 1)]; NMSEDEC_BITS 546 libavcodec/j2kenc.c return lut_nmsedec_ref[(x >> (bpno - NMSEDEC_FRACBITS)) & ((1 << NMSEDEC_BITS) - 1)]; NMSEDEC_BITS 547 libavcodec/j2kenc.c return lut_nmsedec_ref0[x & ((1 << NMSEDEC_BITS) - 1)];