Fix a bunch of sign mismatch warnings.
[pdfium.git] / core / src / fxcodec / codec / fx_codec_jpx_opj.cpp
1 // Copyright 2014 PDFium Authors. All rights reserved.
2 // Use of this source code is governed by a BSD-style license that can be
3 // found in the LICENSE file.
4
5 // Original code copyright 2014 Foxit Software Inc. http://www.foxitsoftware.com
6
7 #include <algorithm>
8 #include <limits>
9 #include <vector>
10
11 #include "../../../../third_party/lcms2-2.6/include/lcms2.h"
12 #include "../../../../third_party/libopenjpeg20/openjpeg.h"
13 #include "../../../include/fxcodec/fx_codec.h"
14 #include "codec_int.h"
15
16 static void fx_error_callback(const char* msg, void* client_data) {
17   (void)client_data;
18 }
19 static void fx_warning_callback(const char* msg, void* client_data) {
20   (void)client_data;
21 }
22 static void fx_info_callback(const char* msg, void* client_data) {
23   (void)client_data;
24 }
25 OPJ_SIZE_T opj_read_from_memory(void* p_buffer,
26                                 OPJ_SIZE_T nb_bytes,
27                                 void* p_user_data) {
28   DecodeData* srcData = static_cast<DecodeData*>(p_user_data);
29   if (!srcData || !srcData->src_data || srcData->src_size == 0) {
30     return -1;
31   }
32   // Reads at EOF return an error code.
33   if (srcData->offset >= srcData->src_size) {
34     return -1;
35   }
36   OPJ_SIZE_T bufferLength = srcData->src_size - srcData->offset;
37   OPJ_SIZE_T readlength = nb_bytes < bufferLength ? nb_bytes : bufferLength;
38   memcpy(p_buffer, &srcData->src_data[srcData->offset], readlength);
39   srcData->offset += readlength;
40   return readlength;
41 }
42 OPJ_SIZE_T opj_write_from_memory(void* p_buffer,
43                                  OPJ_SIZE_T nb_bytes,
44                                  void* p_user_data) {
45   DecodeData* srcData = static_cast<DecodeData*>(p_user_data);
46   if (!srcData || !srcData->src_data || srcData->src_size == 0) {
47     return -1;
48   }
49   // Writes at EOF return an error code.
50   if (srcData->offset >= srcData->src_size) {
51     return -1;
52   }
53   OPJ_SIZE_T bufferLength = srcData->src_size - srcData->offset;
54   OPJ_SIZE_T writeLength = nb_bytes < bufferLength ? nb_bytes : bufferLength;
55   memcpy(&srcData->src_data[srcData->offset], p_buffer, writeLength);
56   srcData->offset += writeLength;
57   return writeLength;
58 }
59 OPJ_OFF_T opj_skip_from_memory(OPJ_OFF_T nb_bytes, void* p_user_data) {
60   DecodeData* srcData = static_cast<DecodeData*>(p_user_data);
61   if (!srcData || !srcData->src_data || srcData->src_size == 0) {
62     return -1;
63   }
64   // Offsets are signed and may indicate a negative skip. Do not support this
65   // because of the strange return convention where either bytes skipped or
66   // -1 is returned. Following that convention, a successful relative seek of
67   // -1 bytes would be required to to give the same result as the error case.
68   if (nb_bytes < 0) {
69     return -1;
70   }
71   // FIXME: use std::make_unsigned<OPJ_OFF_T>::type once c++11 lib is OK'd.
72   uint64_t unsignedNbBytes = static_cast<uint64_t>(nb_bytes);
73   // Additionally, the offset may take us beyond the range of a size_t (e.g.
74   // 32-bit platforms). If so, just clamp at EOF.
75   if (unsignedNbBytes >
76       std::numeric_limits<OPJ_SIZE_T>::max() - srcData->offset) {
77     srcData->offset = srcData->src_size;
78   } else {
79     OPJ_SIZE_T checkedNbBytes = static_cast<OPJ_SIZE_T>(unsignedNbBytes);
80     // Otherwise, mimic fseek() semantics to always succeed, even past EOF,
81     // clamping at EOF.  We can get away with this since we don't actually
82     // provide negative relative skips from beyond EOF back to inside the
83     // data, which would be the only reason to need to know exactly how far
84     // beyond EOF we are.
85     srcData->offset =
86         std::min(srcData->offset + checkedNbBytes, srcData->src_size);
87   }
88   return nb_bytes;
89 }
90 OPJ_BOOL opj_seek_from_memory(OPJ_OFF_T nb_bytes, void* p_user_data) {
91   DecodeData* srcData = static_cast<DecodeData*>(p_user_data);
92   if (!srcData || !srcData->src_data || srcData->src_size == 0) {
93     return OPJ_FALSE;
94   }
95   // Offsets are signed and may indicate a negative position, which would
96   // be before the start of the file. Do not support this.
97   if (nb_bytes < 0) {
98     return OPJ_FALSE;
99   }
100   // FIXME: use std::make_unsigned<OPJ_OFF_T>::type once c++11 lib is OK'd.
101   uint64_t unsignedNbBytes = static_cast<uint64_t>(nb_bytes);
102   // Additionally, the offset may take us beyond the range of a size_t (e.g.
103   // 32-bit platforms). If so, just clamp at EOF.
104   if (unsignedNbBytes > std::numeric_limits<OPJ_SIZE_T>::max()) {
105     srcData->offset = srcData->src_size;
106   } else {
107     OPJ_SIZE_T checkedNbBytes = static_cast<OPJ_SIZE_T>(nb_bytes);
108     // Otherwise, mimic fseek() semantics to always succeed, even past EOF,
109     // again clamping at EOF.
110     srcData->offset = std::min(checkedNbBytes, srcData->src_size);
111   }
112   return OPJ_TRUE;
113 }
114 opj_stream_t* fx_opj_stream_create_memory_stream(DecodeData* data,
115                                                  OPJ_SIZE_T p_size,
116                                                  OPJ_BOOL p_is_read_stream) {
117   opj_stream_t* l_stream = 00;
118   if (!data || !data->src_data || data->src_size <= 0) {
119     return NULL;
120   }
121   l_stream = opj_stream_create(p_size, p_is_read_stream);
122   if (!l_stream) {
123     return NULL;
124   }
125   opj_stream_set_user_data(l_stream, data, NULL);
126   opj_stream_set_user_data_length(l_stream, data->src_size);
127   opj_stream_set_read_function(l_stream, opj_read_from_memory);
128   opj_stream_set_write_function(l_stream, opj_write_from_memory);
129   opj_stream_set_skip_function(l_stream, opj_skip_from_memory);
130   opj_stream_set_seek_function(l_stream, opj_seek_from_memory);
131   return l_stream;
132 }
133 static void sycc_to_rgb(int offset,
134                         int upb,
135                         int y,
136                         int cb,
137                         int cr,
138                         int* out_r,
139                         int* out_g,
140                         int* out_b) {
141   int r, g, b;
142   cb -= offset;
143   cr -= offset;
144   r = y + (int)(1.402 * (float)cr);
145   if (r < 0) {
146     r = 0;
147   } else if (r > upb) {
148     r = upb;
149   }
150   *out_r = r;
151   g = y - (int)(0.344 * (float)cb + 0.714 * (float)cr);
152   if (g < 0) {
153     g = 0;
154   } else if (g > upb) {
155     g = upb;
156   }
157   *out_g = g;
158   b = y + (int)(1.772 * (float)cb);
159   if (b < 0) {
160     b = 0;
161   } else if (b > upb) {
162     b = upb;
163   }
164   *out_b = b;
165 }
166 static void sycc444_to_rgb(opj_image_t* img) {
167   int *d0, *d1, *d2, *r, *g, *b;
168   const int *y, *cb, *cr;
169   int maxw, maxh, max, i, offset, upb;
170   i = (int)img->comps[0].prec;
171   offset = 1 << (i - 1);
172   upb = (1 << i) - 1;
173   maxw = (int)img->comps[0].w;
174   maxh = (int)img->comps[0].h;
175   max = maxw * maxh;
176   y = img->comps[0].data;
177   cb = img->comps[1].data;
178   cr = img->comps[2].data;
179   d0 = r = FX_Alloc(int, (size_t)max);
180   d1 = g = FX_Alloc(int, (size_t)max);
181   d2 = b = FX_Alloc(int, (size_t)max);
182   for (i = 0; i < max; ++i) {
183     sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
184     ++y;
185     ++cb;
186     ++cr;
187     ++r;
188     ++g;
189     ++b;
190   }
191   FX_Free(img->comps[0].data);
192   img->comps[0].data = d0;
193   FX_Free(img->comps[1].data);
194   img->comps[1].data = d1;
195   FX_Free(img->comps[2].data);
196   img->comps[2].data = d2;
197 }
198 static void sycc422_to_rgb(opj_image_t* img) {
199   int *d0, *d1, *d2, *r, *g, *b;
200   const int *y, *cb, *cr;
201   int maxw, maxh, max, offset, upb;
202   int i, j;
203   i = (int)img->comps[0].prec;
204   offset = 1 << (i - 1);
205   upb = (1 << i) - 1;
206   maxw = (int)img->comps[0].w;
207   maxh = (int)img->comps[0].h;
208   max = maxw * maxh;
209   y = img->comps[0].data;
210   cb = img->comps[1].data;
211   cr = img->comps[2].data;
212   d0 = r = FX_Alloc(int, (size_t)max);
213   d1 = g = FX_Alloc(int, (size_t)max);
214   d2 = b = FX_Alloc(int, (size_t)max);
215   for (i = 0; i < maxh; ++i) {
216     for (j = 0; (OPJ_UINT32)j < (maxw & ~(OPJ_UINT32)1); j += 2) {
217       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
218       ++y;
219       ++r;
220       ++g;
221       ++b;
222       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
223       ++y;
224       ++r;
225       ++g;
226       ++b;
227       ++cb;
228       ++cr;
229     }
230     if (j < maxw) {
231       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
232       ++y;
233       ++r;
234       ++g;
235       ++b;
236       ++cb;
237       ++cr;
238     }
239   }
240   FX_Free(img->comps[0].data);
241   img->comps[0].data = d0;
242   FX_Free(img->comps[1].data);
243   img->comps[1].data = d1;
244   FX_Free(img->comps[2].data);
245   img->comps[2].data = d2;
246   img->comps[1].w = maxw;
247   img->comps[1].h = maxh;
248   img->comps[2].w = maxw;
249   img->comps[2].h = maxh;
250   img->comps[1].w = (OPJ_UINT32)maxw;
251   img->comps[1].h = (OPJ_UINT32)maxh;
252   img->comps[2].w = (OPJ_UINT32)maxw;
253   img->comps[2].h = (OPJ_UINT32)maxh;
254   img->comps[1].dx = img->comps[0].dx;
255   img->comps[2].dx = img->comps[0].dx;
256   img->comps[1].dy = img->comps[0].dy;
257   img->comps[2].dy = img->comps[0].dy;
258 }
259 static void sycc420_to_rgb(opj_image_t* img) {
260   int *d0, *d1, *d2, *r, *g, *b, *nr, *ng, *nb;
261   const int *y, *cb, *cr, *ny;
262   int maxw, maxh, max, offset, upb;
263   int i, j;
264   i = (int)img->comps[0].prec;
265   offset = 1 << (i - 1);
266   upb = (1 << i) - 1;
267   maxw = (int)img->comps[0].w;
268   maxh = (int)img->comps[0].h;
269   max = maxw * maxh;
270   y = img->comps[0].data;
271   cb = img->comps[1].data;
272   cr = img->comps[2].data;
273   d0 = r = FX_Alloc(int, (size_t)max);
274   d1 = g = FX_Alloc(int, (size_t)max);
275   d2 = b = FX_Alloc(int, (size_t)max);
276   for (i = 0; (OPJ_UINT32)i < (maxh & ~(OPJ_UINT32)1); i += 2) {
277     ny = y + maxw;
278     nr = r + maxw;
279     ng = g + maxw;
280     nb = b + maxw;
281     for (j = 0; (OPJ_UINT32)j < (maxw & ~(OPJ_UINT32)1); j += 2) {
282       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
283       ++y;
284       ++r;
285       ++g;
286       ++b;
287       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
288       ++y;
289       ++r;
290       ++g;
291       ++b;
292       sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
293       ++ny;
294       ++nr;
295       ++ng;
296       ++nb;
297       sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
298       ++ny;
299       ++nr;
300       ++ng;
301       ++nb;
302       ++cb;
303       ++cr;
304     }
305     if (j < maxw) {
306       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
307       ++y;
308       ++r;
309       ++g;
310       ++b;
311       sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
312       ++ny;
313       ++nr;
314       ++ng;
315       ++nb;
316       ++cb;
317       ++cr;
318     }
319     y += maxw;
320     r += maxw;
321     g += maxw;
322     b += maxw;
323   }
324   if (i < maxh) {
325     for (j = 0; (OPJ_UINT32)j < (maxw & ~(OPJ_UINT32)1); j += 2) {
326       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
327       ++y;
328       ++r;
329       ++g;
330       ++b;
331       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
332       ++y;
333       ++r;
334       ++g;
335       ++b;
336       ++cb;
337       ++cr;
338     }
339     if (j < maxw) {
340       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
341     }
342   }
343
344   FX_Free(img->comps[0].data);
345   img->comps[0].data = d0;
346   FX_Free(img->comps[1].data);
347   img->comps[1].data = d1;
348   FX_Free(img->comps[2].data);
349   img->comps[2].data = d2;
350   img->comps[1].w = maxw;
351   img->comps[1].h = maxh;
352   img->comps[2].w = maxw;
353   img->comps[2].h = maxh;
354   img->comps[1].w = (OPJ_UINT32)maxw;
355   img->comps[1].h = (OPJ_UINT32)maxh;
356   img->comps[2].w = (OPJ_UINT32)maxw;
357   img->comps[2].h = (OPJ_UINT32)maxh;
358   img->comps[1].dx = img->comps[0].dx;
359   img->comps[2].dx = img->comps[0].dx;
360   img->comps[1].dy = img->comps[0].dy;
361   img->comps[2].dy = img->comps[0].dy;
362 }
363 void color_sycc_to_rgb(opj_image_t* img) {
364   if (img->numcomps < 3) {
365     img->color_space = OPJ_CLRSPC_GRAY;
366     return;
367   }
368   if ((img->comps[0].dx == 1) && (img->comps[1].dx == 2) &&
369       (img->comps[2].dx == 2) && (img->comps[0].dy == 1) &&
370       (img->comps[1].dy == 2) && (img->comps[2].dy == 2)) {
371     sycc420_to_rgb(img);
372   } else if ((img->comps[0].dx == 1) && (img->comps[1].dx == 2) &&
373              (img->comps[2].dx == 2) && (img->comps[0].dy == 1) &&
374              (img->comps[1].dy == 1) && (img->comps[2].dy == 1)) {
375     sycc422_to_rgb(img);
376   } else if ((img->comps[0].dx == 1) && (img->comps[1].dx == 1) &&
377              (img->comps[2].dx == 1) && (img->comps[0].dy == 1) &&
378              (img->comps[1].dy == 1) && (img->comps[2].dy == 1)) {
379     sycc444_to_rgb(img);
380   } else {
381     return;
382   }
383   img->color_space = OPJ_CLRSPC_SRGB;
384 }
385 void color_apply_icc_profile(opj_image_t* image) {
386   cmsHPROFILE out_prof;
387   cmsUInt32Number in_type;
388   cmsUInt32Number out_type;
389   int* r;
390   int* g;
391   int* b;
392   int max;
393   cmsHPROFILE in_prof =
394       cmsOpenProfileFromMem(image->icc_profile_buf, image->icc_profile_len);
395   if (in_prof == NULL) {
396     return;
397   }
398   cmsColorSpaceSignature out_space = cmsGetColorSpace(in_prof);
399   cmsUInt32Number intent = cmsGetHeaderRenderingIntent(in_prof);
400   int max_w = (int)image->comps[0].w;
401   int max_h = (int)image->comps[0].h;
402   int prec = (int)image->comps[0].prec;
403   OPJ_COLOR_SPACE oldspace = image->color_space;
404   if (out_space == cmsSigRgbData) {
405     if (prec <= 8) {
406       in_type = TYPE_RGB_8;
407       out_type = TYPE_RGB_8;
408     } else {
409       in_type = TYPE_RGB_16;
410       out_type = TYPE_RGB_16;
411     }
412     out_prof = cmsCreate_sRGBProfile();
413     image->color_space = OPJ_CLRSPC_SRGB;
414   } else if (out_space == cmsSigGrayData) {
415     if (prec <= 8) {
416       in_type = TYPE_GRAY_8;
417       out_type = TYPE_RGB_8;
418     } else {
419       in_type = TYPE_GRAY_16;
420       out_type = TYPE_RGB_16;
421     }
422     out_prof = cmsCreate_sRGBProfile();
423     image->color_space = OPJ_CLRSPC_SRGB;
424   } else if (out_space == cmsSigYCbCrData) {
425     in_type = TYPE_YCbCr_16;
426     out_type = TYPE_RGB_16;
427     out_prof = cmsCreate_sRGBProfile();
428     image->color_space = OPJ_CLRSPC_SRGB;
429   } else {
430     return;
431   }
432   cmsHTRANSFORM transform =
433       cmsCreateTransform(in_prof, in_type, out_prof, out_type, intent, 0);
434   cmsCloseProfile(in_prof);
435   cmsCloseProfile(out_prof);
436   if (transform == NULL) {
437     image->color_space = oldspace;
438     return;
439   }
440   if (image->numcomps > 2) {
441     if (prec <= 8) {
442       unsigned char *inbuf, *outbuf, *in, *out;
443       max = max_w * max_h;
444       cmsUInt32Number nr_samples = max * 3 * sizeof(unsigned char);
445       in = inbuf = FX_Alloc(unsigned char, nr_samples);
446       out = outbuf = FX_Alloc(unsigned char, nr_samples);
447       r = image->comps[0].data;
448       g = image->comps[1].data;
449       b = image->comps[2].data;
450       for (int i = 0; i < max; ++i) {
451         *in++ = (unsigned char)*r++;
452         *in++ = (unsigned char)*g++;
453         *in++ = (unsigned char)*b++;
454       }
455       cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
456       r = image->comps[0].data;
457       g = image->comps[1].data;
458       b = image->comps[2].data;
459       for (int i = 0; i < max; ++i) {
460         *r++ = (int)*out++;
461         *g++ = (int)*out++;
462         *b++ = (int)*out++;
463       }
464       FX_Free(inbuf);
465       FX_Free(outbuf);
466     } else {
467       unsigned short *inbuf, *outbuf, *in, *out;
468       max = max_w * max_h;
469       cmsUInt32Number nr_samples = max * 3 * sizeof(unsigned short);
470       in = inbuf = FX_Alloc(unsigned short, nr_samples);
471       out = outbuf = FX_Alloc(unsigned short, nr_samples);
472       r = image->comps[0].data;
473       g = image->comps[1].data;
474       b = image->comps[2].data;
475       for (int i = 0; i < max; ++i) {
476         *in++ = (unsigned short)*r++;
477         *in++ = (unsigned short)*g++;
478         *in++ = (unsigned short)*b++;
479       }
480       cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
481       r = image->comps[0].data;
482       g = image->comps[1].data;
483       b = image->comps[2].data;
484       for (int i = 0; i < max; ++i) {
485         *r++ = (int)*out++;
486         *g++ = (int)*out++;
487         *b++ = (int)*out++;
488       }
489       FX_Free(inbuf);
490       FX_Free(outbuf);
491     }
492   } else {
493     unsigned char *in, *inbuf, *out, *outbuf;
494     max = max_w * max_h;
495     cmsUInt32Number nr_samples =
496         (cmsUInt32Number)max * 3 * sizeof(unsigned char);
497     in = inbuf = FX_Alloc(unsigned char, nr_samples);
498     out = outbuf = FX_Alloc(unsigned char, nr_samples);
499     image->comps = (opj_image_comp_t*)realloc(
500         image->comps, (image->numcomps + 2) * sizeof(opj_image_comp_t));
501     if (image->numcomps == 2) {
502       image->comps[3] = image->comps[1];
503     }
504     image->comps[1] = image->comps[0];
505     image->comps[2] = image->comps[0];
506     image->comps[1].data = FX_Alloc(int, (size_t)max);
507     FXSYS_memset(image->comps[1].data, 0, sizeof(int) * (size_t)max);
508     image->comps[2].data = FX_Alloc(int, (size_t)max);
509     FXSYS_memset(image->comps[2].data, 0, sizeof(int) * (size_t)max);
510     image->numcomps += 2;
511     r = image->comps[0].data;
512     for (int i = 0; i < max; ++i) {
513       *in++ = (unsigned char)*r++;
514     }
515     cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
516     r = image->comps[0].data;
517     g = image->comps[1].data;
518     b = image->comps[2].data;
519     for (int i = 0; i < max; ++i) {
520       *r++ = (int)*out++;
521       *g++ = (int)*out++;
522       *b++ = (int)*out++;
523     }
524     FX_Free(inbuf);
525     FX_Free(outbuf);
526   }
527   cmsDeleteTransform(transform);
528 }
529 void color_apply_conversion(opj_image_t* image) {
530   int* row;
531   int enumcs, numcomps;
532   numcomps = image->numcomps;
533   if (numcomps < 3) {
534     return;
535   }
536   row = (int*)image->icc_profile_buf;
537   enumcs = row[0];
538   if (enumcs == 14) {
539     int *L, *a, *b, *red, *green, *blue, *src0, *src1, *src2;
540     double rl, ol, ra, oa, rb, ob, prec0, prec1, prec2;
541     double minL, maxL, mina, maxa, minb, maxb;
542     unsigned int default_type;
543     unsigned int i, max;
544     cmsHPROFILE in, out;
545     cmsHTRANSFORM transform;
546     cmsUInt16Number RGB[3];
547     cmsCIELab Lab;
548     in = cmsCreateLab4Profile(NULL);
549     out = cmsCreate_sRGBProfile();
550     transform = cmsCreateTransform(in, TYPE_Lab_DBL, out, TYPE_RGB_16,
551                                    INTENT_PERCEPTUAL, 0);
552     cmsCloseProfile(in);
553     cmsCloseProfile(out);
554     if (transform == NULL) {
555       return;
556     }
557     prec0 = (double)image->comps[0].prec;
558     prec1 = (double)image->comps[1].prec;
559     prec2 = (double)image->comps[2].prec;
560     default_type = row[1];
561     if (default_type == 0x44454600) {
562       rl = 100;
563       ra = 170;
564       rb = 200;
565       ol = 0;
566       oa = pow(2, prec1 - 1);
567       ob = pow(2, prec2 - 2) + pow(2, prec2 - 3);
568     } else {
569       rl = row[2];
570       ra = row[4];
571       rb = row[6];
572       ol = row[3];
573       oa = row[5];
574       ob = row[7];
575     }
576     L = src0 = image->comps[0].data;
577     a = src1 = image->comps[1].data;
578     b = src2 = image->comps[2].data;
579     max = image->comps[0].w * image->comps[0].h;
580     red = FX_Alloc(int, max);
581     image->comps[0].data = red;
582     green = FX_Alloc(int, max);
583     image->comps[1].data = green;
584     blue = FX_Alloc(int, max);
585     image->comps[2].data = blue;
586     minL = -(rl * ol) / (pow(2, prec0) - 1);
587     maxL = minL + rl;
588     mina = -(ra * oa) / (pow(2, prec1) - 1);
589     maxa = mina + ra;
590     minb = -(rb * ob) / (pow(2, prec2) - 1);
591     maxb = minb + rb;
592     for (i = 0; i < max; ++i) {
593       Lab.L = minL + (double)(*L) * (maxL - minL) / (pow(2, prec0) - 1);
594       ++L;
595       Lab.a = mina + (double)(*a) * (maxa - mina) / (pow(2, prec1) - 1);
596       ++a;
597       Lab.b = minb + (double)(*b) * (maxb - minb) / (pow(2, prec2) - 1);
598       ++b;
599       cmsDoTransform(transform, &Lab, RGB, 1);
600       *red++ = RGB[0];
601       *green++ = RGB[1];
602       *blue++ = RGB[2];
603     }
604     cmsDeleteTransform(transform);
605     FX_Free(src0);
606     FX_Free(src1);
607     FX_Free(src2);
608     image->color_space = OPJ_CLRSPC_SRGB;
609     image->comps[0].prec = 16;
610     image->comps[1].prec = 16;
611     image->comps[2].prec = 16;
612     return;
613   }
614 }
615 class CJPX_Decoder {
616  public:
617   explicit CJPX_Decoder(bool use_colorspace);
618   ~CJPX_Decoder();
619   FX_BOOL Init(const unsigned char* src_data, FX_DWORD src_size);
620   void GetInfo(FX_DWORD* width, FX_DWORD* height, FX_DWORD* components);
621   bool Decode(uint8_t* dest_buf,
622               int pitch,
623               const std::vector<uint8_t>& offsets);
624
625  private:
626   const uint8_t* m_SrcData;
627   FX_DWORD m_SrcSize;
628   opj_image_t* image;
629   opj_codec_t* l_codec;
630   opj_stream_t* l_stream;
631   const bool m_UseColorSpace;
632 };
633
634 CJPX_Decoder::CJPX_Decoder(bool use_colorspace)
635     : image(nullptr),
636       l_codec(nullptr),
637       l_stream(nullptr),
638       m_UseColorSpace(use_colorspace) {
639 }
640
641 CJPX_Decoder::~CJPX_Decoder() {
642   if (l_codec) {
643     opj_destroy_codec(l_codec);
644   }
645   if (l_stream) {
646     opj_stream_destroy(l_stream);
647   }
648   if (image) {
649     opj_image_destroy(image);
650   }
651 }
652
653 FX_BOOL CJPX_Decoder::Init(const unsigned char* src_data, FX_DWORD src_size) {
654   static const unsigned char szJP2Header[] = {
655       0x00, 0x00, 0x00, 0x0c, 0x6a, 0x50, 0x20, 0x20, 0x0d, 0x0a, 0x87, 0x0a};
656   if (!src_data || src_size < sizeof(szJP2Header))
657     return FALSE;
658
659   image = NULL;
660   m_SrcData = src_data;
661   m_SrcSize = src_size;
662   DecodeData srcData(const_cast<unsigned char*>(src_data), src_size);
663   l_stream = fx_opj_stream_create_memory_stream(&srcData,
664                                                 OPJ_J2K_STREAM_CHUNK_SIZE, 1);
665   if (l_stream == NULL) {
666     return FALSE;
667   }
668   opj_dparameters_t parameters;
669   opj_set_default_decoder_parameters(&parameters);
670   parameters.decod_format = 0;
671   parameters.cod_format = 3;
672   if (FXSYS_memcmp(m_SrcData, szJP2Header, sizeof(szJP2Header)) == 0) {
673     l_codec = opj_create_decompress(OPJ_CODEC_JP2);
674     parameters.decod_format = 1;
675   } else {
676     l_codec = opj_create_decompress(OPJ_CODEC_J2K);
677   }
678   if (!l_codec) {
679     return FALSE;
680   }
681   opj_set_info_handler(l_codec, fx_info_callback, 00);
682   opj_set_warning_handler(l_codec, fx_warning_callback, 00);
683   opj_set_error_handler(l_codec, fx_error_callback, 00);
684   if (!opj_setup_decoder(l_codec, &parameters)) {
685     return FALSE;
686   }
687   if (!opj_read_header(l_stream, l_codec, &image)) {
688     image = NULL;
689     return FALSE;
690   }
691   image->pdfium_use_colorspace = m_UseColorSpace;
692
693   if (!parameters.nb_tile_to_decode) {
694     if (!opj_set_decode_area(l_codec, image, parameters.DA_x0, parameters.DA_y0,
695                              parameters.DA_x1, parameters.DA_y1)) {
696       opj_image_destroy(image);
697       image = NULL;
698       return FALSE;
699     }
700     if (!(opj_decode(l_codec, l_stream, image) &&
701           opj_end_decompress(l_codec, l_stream))) {
702       opj_image_destroy(image);
703       image = NULL;
704       return FALSE;
705     }
706   } else {
707     if (!opj_get_decoded_tile(l_codec, l_stream, image,
708                               parameters.tile_index)) {
709       return FALSE;
710     }
711   }
712   opj_stream_destroy(l_stream);
713   l_stream = NULL;
714   if (image->color_space != OPJ_CLRSPC_SYCC && image->numcomps == 3 &&
715       image->comps[0].dx == image->comps[0].dy && image->comps[1].dx != 1) {
716     image->color_space = OPJ_CLRSPC_SYCC;
717   } else if (image->numcomps <= 2) {
718     image->color_space = OPJ_CLRSPC_GRAY;
719   }
720   if (image->color_space == OPJ_CLRSPC_SYCC) {
721     color_sycc_to_rgb(image);
722   }
723   if (image->icc_profile_buf) {
724     FX_Free(image->icc_profile_buf);
725     image->icc_profile_buf = NULL;
726     image->icc_profile_len = 0;
727   }
728   if (!image) {
729     return FALSE;
730   }
731   return TRUE;
732 }
733
734 void CJPX_Decoder::GetInfo(FX_DWORD* width,
735                            FX_DWORD* height,
736                            FX_DWORD* components) {
737   *width = (FX_DWORD)image->x1;
738   *height = (FX_DWORD)image->y1;
739   *components = (FX_DWORD)image->numcomps;
740 }
741
742 bool CJPX_Decoder::Decode(uint8_t* dest_buf,
743                           int pitch,
744                           const std::vector<uint8_t>& offsets) {
745   if (image->comps[0].w != image->x1 || image->comps[0].h != image->y1)
746     return false;
747
748   if (pitch<(int)(image->comps[0].w * 8 * image->numcomps + 31)>> 5 << 2)
749     return false;
750
751   FXSYS_memset(dest_buf, 0xff, image->y1 * pitch);
752   std::vector<uint8_t*> channel_bufs(image->numcomps);
753   std::vector<int> adjust_comps(image->numcomps);
754   for (uint32_t i = 0; i < image->numcomps; i++) {
755     channel_bufs[i] = dest_buf + offsets[i];
756     adjust_comps[i] = image->comps[i].prec - 8;
757     if (i > 0) {
758       if (image->comps[i].dx != image->comps[i - 1].dx ||
759           image->comps[i].dy != image->comps[i - 1].dy ||
760           image->comps[i].prec != image->comps[i - 1].prec) {
761         return false;
762       }
763     }
764   }
765   int width = image->comps[0].w;
766   int height = image->comps[0].h;
767   for (uint32_t channel = 0; channel < image->numcomps; ++channel) {
768     uint8_t* pChannel = channel_bufs[channel];
769     if (adjust_comps[channel] < 0) {
770       for (int row = 0; row < height; ++row) {
771         uint8_t* pScanline = pChannel + row * pitch;
772         for (int col = 0; col < width; ++col) {
773           uint8_t* pPixel = pScanline + col * image->numcomps;
774           int src = image->comps[channel].data[row * width + col];
775           src += image->comps[channel].sgnd
776                      ? 1 << (image->comps[channel].prec - 1)
777                      : 0;
778           if (adjust_comps[channel] > 0) {
779             *pPixel = 0;
780           } else {
781             *pPixel = (uint8_t)(src << -adjust_comps[channel]);
782           }
783         }
784       }
785     } else {
786       for (int row = 0; row < height; ++row) {
787         uint8_t* pScanline = pChannel + row * pitch;
788         for (int col = 0; col < width; ++col) {
789           uint8_t* pPixel = pScanline + col * image->numcomps;
790           if (!image->comps[channel].data) {
791             continue;
792           }
793           int src = image->comps[channel].data[row * width + col];
794           src += image->comps[channel].sgnd
795                      ? 1 << (image->comps[channel].prec - 1)
796                      : 0;
797           if (adjust_comps[channel] - 1 < 0) {
798             *pPixel = (uint8_t)((src >> adjust_comps[channel]));
799           } else {
800             int tmpPixel = (src >> adjust_comps[channel]) +
801                            ((src >> (adjust_comps[channel] - 1)) % 2);
802             if (tmpPixel > 255) {
803               tmpPixel = 255;
804             } else if (tmpPixel < 0) {
805               tmpPixel = 0;
806             }
807             *pPixel = (uint8_t)tmpPixel;
808           }
809         }
810       }
811     }
812   }
813   return true;
814 }
815
816 CCodec_JpxModule::CCodec_JpxModule() {}
817 CCodec_JpxModule::~CCodec_JpxModule() {
818 }
819
820 CJPX_Decoder* CCodec_JpxModule::CreateDecoder(const uint8_t* src_buf,
821                                               FX_DWORD src_size,
822                                               bool use_colorspace) {
823   nonstd::unique_ptr<CJPX_Decoder> decoder(new CJPX_Decoder(use_colorspace));
824   return decoder->Init(src_buf, src_size) ? decoder.release() : nullptr;
825 }
826
827 void CCodec_JpxModule::GetImageInfo(CJPX_Decoder* pDecoder,
828                                     FX_DWORD* width,
829                                     FX_DWORD* height,
830                                     FX_DWORD* components) {
831   pDecoder->GetInfo(width, height, components);
832 }
833
834 bool CCodec_JpxModule::Decode(CJPX_Decoder* pDecoder,
835                               uint8_t* dest_data,
836                               int pitch,
837                               const std::vector<uint8_t>& offsets) {
838   return pDecoder->Decode(dest_data, pitch, offsets);
839 }
840
841 void CCodec_JpxModule::DestroyDecoder(CJPX_Decoder* pDecoder) {
842   delete pDecoder;
843 }