Cleanup casting of FX_Alloc() return values.
[pdfium.git] / core / src / fxcodec / codec / fx_codec_jpx_opj.cpp
1 // Copyright 2014 PDFium Authors. All rights reserved.
2 // Use of this source code is governed by a BSD-style license that can be
3 // found in the LICENSE file.
4
5 // Original code copyright 2014 Foxit Software Inc. http://www.foxitsoftware.com
6
7 #include <algorithm>
8 #include <limits>
9
10 #include "../../../../third_party/lcms2-2.6/include/lcms2.h"
11 #include "../../../../third_party/libopenjpeg20/openjpeg.h"
12 #include "../../../include/fxcodec/fx_codec.h"
13 #include "codec_int.h"
14
15 static void fx_error_callback(const char* msg, void* client_data) {
16   (void)client_data;
17 }
18 static void fx_warning_callback(const char* msg, void* client_data) {
19   (void)client_data;
20 }
21 static void fx_info_callback(const char* msg, void* client_data) {
22   (void)client_data;
23 }
24 OPJ_SIZE_T opj_read_from_memory(void* p_buffer,
25                                 OPJ_SIZE_T nb_bytes,
26                                 void* p_user_data) {
27   DecodeData* srcData = static_cast<DecodeData*>(p_user_data);
28   if (!srcData || !srcData->src_data || srcData->src_size == 0) {
29     return -1;
30   }
31   // Reads at EOF return an error code.
32   if (srcData->offset >= srcData->src_size) {
33     return -1;
34   }
35   OPJ_SIZE_T bufferLength = srcData->src_size - srcData->offset;
36   OPJ_SIZE_T readlength = nb_bytes < bufferLength ? nb_bytes : bufferLength;
37   memcpy(p_buffer, &srcData->src_data[srcData->offset], readlength);
38   srcData->offset += readlength;
39   return readlength;
40 }
41 OPJ_SIZE_T opj_write_from_memory(void* p_buffer,
42                                  OPJ_SIZE_T nb_bytes,
43                                  void* p_user_data) {
44   DecodeData* srcData = static_cast<DecodeData*>(p_user_data);
45   if (!srcData || !srcData->src_data || srcData->src_size == 0) {
46     return -1;
47   }
48   // Writes at EOF return an error code.
49   if (srcData->offset >= srcData->src_size) {
50     return -1;
51   }
52   OPJ_SIZE_T bufferLength = srcData->src_size - srcData->offset;
53   OPJ_SIZE_T writeLength = nb_bytes < bufferLength ? nb_bytes : bufferLength;
54   memcpy(&srcData->src_data[srcData->offset], p_buffer, writeLength);
55   srcData->offset += writeLength;
56   return writeLength;
57 }
58 OPJ_OFF_T opj_skip_from_memory(OPJ_OFF_T nb_bytes, void* p_user_data) {
59   DecodeData* srcData = static_cast<DecodeData*>(p_user_data);
60   if (!srcData || !srcData->src_data || srcData->src_size == 0) {
61     return -1;
62   }
63   // Offsets are signed and may indicate a negative skip. Do not support this
64   // because of the strange return convention where either bytes skipped or
65   // -1 is returned. Following that convention, a successful relative seek of
66   // -1 bytes would be required to to give the same result as the error case.
67   if (nb_bytes < 0) {
68     return -1;
69   }
70   // FIXME: use std::make_unsigned<OPJ_OFF_T>::type once c++11 lib is OK'd.
71   uint64_t unsignedNbBytes = static_cast<uint64_t>(nb_bytes);
72   // Additionally, the offset may take us beyond the range of a size_t (e.g.
73   // 32-bit platforms). If so, just clamp at EOF.
74   if (unsignedNbBytes >
75       std::numeric_limits<OPJ_SIZE_T>::max() - srcData->offset) {
76     srcData->offset = srcData->src_size;
77   } else {
78     OPJ_SIZE_T checkedNbBytes = static_cast<OPJ_SIZE_T>(unsignedNbBytes);
79     // Otherwise, mimic fseek() semantics to always succeed, even past EOF,
80     // clamping at EOF.  We can get away with this since we don't actually
81     // provide negative relative skips from beyond EOF back to inside the
82     // data, which would be the only reason to need to know exactly how far
83     // beyond EOF we are.
84     srcData->offset =
85         std::min(srcData->offset + checkedNbBytes, srcData->src_size);
86   }
87   return nb_bytes;
88 }
89 OPJ_BOOL opj_seek_from_memory(OPJ_OFF_T nb_bytes, void* p_user_data) {
90   DecodeData* srcData = static_cast<DecodeData*>(p_user_data);
91   if (!srcData || !srcData->src_data || srcData->src_size == 0) {
92     return OPJ_FALSE;
93   }
94   // Offsets are signed and may indicate a negative position, which would
95   // be before the start of the file. Do not support this.
96   if (nb_bytes < 0) {
97     return OPJ_FALSE;
98   }
99   // FIXME: use std::make_unsigned<OPJ_OFF_T>::type once c++11 lib is OK'd.
100   uint64_t unsignedNbBytes = static_cast<uint64_t>(nb_bytes);
101   // Additionally, the offset may take us beyond the range of a size_t (e.g.
102   // 32-bit platforms). If so, just clamp at EOF.
103   if (unsignedNbBytes > std::numeric_limits<OPJ_SIZE_T>::max()) {
104     srcData->offset = srcData->src_size;
105   } else {
106     OPJ_SIZE_T checkedNbBytes = static_cast<OPJ_SIZE_T>(nb_bytes);
107     // Otherwise, mimic fseek() semantics to always succeed, even past EOF,
108     // again clamping at EOF.
109     srcData->offset = std::min(checkedNbBytes, srcData->src_size);
110   }
111   return OPJ_TRUE;
112 }
113 opj_stream_t* fx_opj_stream_create_memory_stream(DecodeData* data,
114                                                  OPJ_SIZE_T p_size,
115                                                  OPJ_BOOL p_is_read_stream) {
116   opj_stream_t* l_stream = 00;
117   if (!data || !data->src_data || data->src_size <= 0) {
118     return NULL;
119   }
120   l_stream = opj_stream_create(p_size, p_is_read_stream);
121   if (!l_stream) {
122     return NULL;
123   }
124   opj_stream_set_user_data(l_stream, data, NULL);
125   opj_stream_set_user_data_length(l_stream, data->src_size);
126   opj_stream_set_read_function(l_stream, opj_read_from_memory);
127   opj_stream_set_write_function(l_stream, opj_write_from_memory);
128   opj_stream_set_skip_function(l_stream, opj_skip_from_memory);
129   opj_stream_set_seek_function(l_stream, opj_seek_from_memory);
130   return l_stream;
131 }
132 static void sycc_to_rgb(int offset,
133                         int upb,
134                         int y,
135                         int cb,
136                         int cr,
137                         int* out_r,
138                         int* out_g,
139                         int* out_b) {
140   int r, g, b;
141   cb -= offset;
142   cr -= offset;
143   r = y + (int)(1.402 * (float)cr);
144   if (r < 0) {
145     r = 0;
146   } else if (r > upb) {
147     r = upb;
148   }
149   *out_r = r;
150   g = y - (int)(0.344 * (float)cb + 0.714 * (float)cr);
151   if (g < 0) {
152     g = 0;
153   } else if (g > upb) {
154     g = upb;
155   }
156   *out_g = g;
157   b = y + (int)(1.772 * (float)cb);
158   if (b < 0) {
159     b = 0;
160   } else if (b > upb) {
161     b = upb;
162   }
163   *out_b = b;
164 }
165 static void sycc444_to_rgb(opj_image_t* img) {
166   int *d0, *d1, *d2, *r, *g, *b;
167   const int *y, *cb, *cr;
168   int maxw, maxh, max, i, offset, upb;
169   i = (int)img->comps[0].prec;
170   offset = 1 << (i - 1);
171   upb = (1 << i) - 1;
172   maxw = (int)img->comps[0].w;
173   maxh = (int)img->comps[0].h;
174   max = maxw * maxh;
175   y = img->comps[0].data;
176   cb = img->comps[1].data;
177   cr = img->comps[2].data;
178   d0 = r = FX_Alloc(int, (size_t)max);
179   d1 = g = FX_Alloc(int, (size_t)max);
180   d2 = b = FX_Alloc(int, (size_t)max);
181   for (i = 0; i < max; ++i) {
182     sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
183     ++y;
184     ++cb;
185     ++cr;
186     ++r;
187     ++g;
188     ++b;
189   }
190   FX_Free(img->comps[0].data);
191   img->comps[0].data = d0;
192   FX_Free(img->comps[1].data);
193   img->comps[1].data = d1;
194   FX_Free(img->comps[2].data);
195   img->comps[2].data = d2;
196 }
197 static void sycc422_to_rgb(opj_image_t* img) {
198   int *d0, *d1, *d2, *r, *g, *b;
199   const int *y, *cb, *cr;
200   int maxw, maxh, max, offset, upb;
201   int i, j;
202   i = (int)img->comps[0].prec;
203   offset = 1 << (i - 1);
204   upb = (1 << i) - 1;
205   maxw = (int)img->comps[0].w;
206   maxh = (int)img->comps[0].h;
207   max = maxw * maxh;
208   y = img->comps[0].data;
209   cb = img->comps[1].data;
210   cr = img->comps[2].data;
211   d0 = r = FX_Alloc(int, (size_t)max);
212   d1 = g = FX_Alloc(int, (size_t)max);
213   d2 = b = FX_Alloc(int, (size_t)max);
214   for (i = 0; i < maxh; ++i) {
215     for (j = 0; (OPJ_UINT32)j < (maxw & ~(OPJ_UINT32)1); j += 2) {
216       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
217       ++y;
218       ++r;
219       ++g;
220       ++b;
221       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
222       ++y;
223       ++r;
224       ++g;
225       ++b;
226       ++cb;
227       ++cr;
228     }
229     if (j < maxw) {
230       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
231       ++y;
232       ++r;
233       ++g;
234       ++b;
235       ++cb;
236       ++cr;
237     }
238   }
239   FX_Free(img->comps[0].data);
240   img->comps[0].data = d0;
241   FX_Free(img->comps[1].data);
242   img->comps[1].data = d1;
243   FX_Free(img->comps[2].data);
244   img->comps[2].data = d2;
245   img->comps[1].w = maxw;
246   img->comps[1].h = maxh;
247   img->comps[2].w = maxw;
248   img->comps[2].h = maxh;
249   img->comps[1].w = (OPJ_UINT32)maxw;
250   img->comps[1].h = (OPJ_UINT32)maxh;
251   img->comps[2].w = (OPJ_UINT32)maxw;
252   img->comps[2].h = (OPJ_UINT32)maxh;
253   img->comps[1].dx = img->comps[0].dx;
254   img->comps[2].dx = img->comps[0].dx;
255   img->comps[1].dy = img->comps[0].dy;
256   img->comps[2].dy = img->comps[0].dy;
257 }
258 static void sycc420_to_rgb(opj_image_t* img) {
259   int *d0, *d1, *d2, *r, *g, *b, *nr, *ng, *nb;
260   const int *y, *cb, *cr, *ny;
261   int maxw, maxh, max, offset, upb;
262   int i, j;
263   i = (int)img->comps[0].prec;
264   offset = 1 << (i - 1);
265   upb = (1 << i) - 1;
266   maxw = (int)img->comps[0].w;
267   maxh = (int)img->comps[0].h;
268   max = maxw * maxh;
269   y = img->comps[0].data;
270   cb = img->comps[1].data;
271   cr = img->comps[2].data;
272   d0 = r = FX_Alloc(int, (size_t)max);
273   d1 = g = FX_Alloc(int, (size_t)max);
274   d2 = b = FX_Alloc(int, (size_t)max);
275   for (i = 0; (OPJ_UINT32)i < (maxh & ~(OPJ_UINT32)1); i += 2) {
276     ny = y + maxw;
277     nr = r + maxw;
278     ng = g + maxw;
279     nb = b + maxw;
280     for (j = 0; (OPJ_UINT32)j < (maxw & ~(OPJ_UINT32)1); j += 2) {
281       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
282       ++y;
283       ++r;
284       ++g;
285       ++b;
286       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
287       ++y;
288       ++r;
289       ++g;
290       ++b;
291       sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
292       ++ny;
293       ++nr;
294       ++ng;
295       ++nb;
296       sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
297       ++ny;
298       ++nr;
299       ++ng;
300       ++nb;
301       ++cb;
302       ++cr;
303     }
304     if (j < maxw) {
305       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
306       ++y;
307       ++r;
308       ++g;
309       ++b;
310       sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
311       ++ny;
312       ++nr;
313       ++ng;
314       ++nb;
315       ++cb;
316       ++cr;
317     }
318     y += maxw;
319     r += maxw;
320     g += maxw;
321     b += maxw;
322   }
323   if (i < maxh) {
324     for (j = 0; (OPJ_UINT32)j < (maxw & ~(OPJ_UINT32)1); j += 2) {
325       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
326       ++y;
327       ++r;
328       ++g;
329       ++b;
330       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
331       ++y;
332       ++r;
333       ++g;
334       ++b;
335       ++cb;
336       ++cr;
337     }
338     if (j < maxw) {
339       sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
340     }
341   }
342
343   FX_Free(img->comps[0].data);
344   img->comps[0].data = d0;
345   FX_Free(img->comps[1].data);
346   img->comps[1].data = d1;
347   FX_Free(img->comps[2].data);
348   img->comps[2].data = d2;
349   img->comps[1].w = maxw;
350   img->comps[1].h = maxh;
351   img->comps[2].w = maxw;
352   img->comps[2].h = maxh;
353   img->comps[1].w = (OPJ_UINT32)maxw;
354   img->comps[1].h = (OPJ_UINT32)maxh;
355   img->comps[2].w = (OPJ_UINT32)maxw;
356   img->comps[2].h = (OPJ_UINT32)maxh;
357   img->comps[1].dx = img->comps[0].dx;
358   img->comps[2].dx = img->comps[0].dx;
359   img->comps[1].dy = img->comps[0].dy;
360   img->comps[2].dy = img->comps[0].dy;
361 }
362 void color_sycc_to_rgb(opj_image_t* img) {
363   if (img->numcomps < 3) {
364     img->color_space = OPJ_CLRSPC_GRAY;
365     return;
366   }
367   if ((img->comps[0].dx == 1) && (img->comps[1].dx == 2) &&
368       (img->comps[2].dx == 2) && (img->comps[0].dy == 1) &&
369       (img->comps[1].dy == 2) && (img->comps[2].dy == 2)) {
370     sycc420_to_rgb(img);
371   } else if ((img->comps[0].dx == 1) && (img->comps[1].dx == 2) &&
372              (img->comps[2].dx == 2) && (img->comps[0].dy == 1) &&
373              (img->comps[1].dy == 1) && (img->comps[2].dy == 1)) {
374     sycc422_to_rgb(img);
375   } else if ((img->comps[0].dx == 1) && (img->comps[1].dx == 1) &&
376              (img->comps[2].dx == 1) && (img->comps[0].dy == 1) &&
377              (img->comps[1].dy == 1) && (img->comps[2].dy == 1)) {
378     sycc444_to_rgb(img);
379   } else {
380     return;
381   }
382   img->color_space = OPJ_CLRSPC_SRGB;
383 }
384 void color_apply_icc_profile(opj_image_t* image) {
385   cmsHPROFILE out_prof;
386   cmsUInt32Number in_type;
387   cmsUInt32Number out_type;
388   int* r;
389   int* g;
390   int* b;
391   int max;
392   cmsHPROFILE in_prof =
393       cmsOpenProfileFromMem(image->icc_profile_buf, image->icc_profile_len);
394   if (in_prof == NULL) {
395     return;
396   }
397   cmsColorSpaceSignature out_space = cmsGetColorSpace(in_prof);
398   cmsUInt32Number intent = cmsGetHeaderRenderingIntent(in_prof);
399   int max_w = (int)image->comps[0].w;
400   int max_h = (int)image->comps[0].h;
401   int prec = (int)image->comps[0].prec;
402   OPJ_COLOR_SPACE oldspace = image->color_space;
403   if (out_space == cmsSigRgbData) {
404     if (prec <= 8) {
405       in_type = TYPE_RGB_8;
406       out_type = TYPE_RGB_8;
407     } else {
408       in_type = TYPE_RGB_16;
409       out_type = TYPE_RGB_16;
410     }
411     out_prof = cmsCreate_sRGBProfile();
412     image->color_space = OPJ_CLRSPC_SRGB;
413   } else if (out_space == cmsSigGrayData) {
414     if (prec <= 8) {
415       in_type = TYPE_GRAY_8;
416       out_type = TYPE_RGB_8;
417     } else {
418       in_type = TYPE_GRAY_16;
419       out_type = TYPE_RGB_16;
420     }
421     out_prof = cmsCreate_sRGBProfile();
422     image->color_space = OPJ_CLRSPC_SRGB;
423   } else if (out_space == cmsSigYCbCrData) {
424     in_type = TYPE_YCbCr_16;
425     out_type = TYPE_RGB_16;
426     out_prof = cmsCreate_sRGBProfile();
427     image->color_space = OPJ_CLRSPC_SRGB;
428   } else {
429     return;
430   }
431   cmsHTRANSFORM transform =
432       cmsCreateTransform(in_prof, in_type, out_prof, out_type, intent, 0);
433   cmsCloseProfile(in_prof);
434   cmsCloseProfile(out_prof);
435   if (transform == NULL) {
436     image->color_space = oldspace;
437     return;
438   }
439   if (image->numcomps > 2) {
440     if (prec <= 8) {
441       unsigned char *inbuf, *outbuf, *in, *out;
442       max = max_w * max_h;
443       cmsUInt32Number nr_samples = max * 3 * sizeof(unsigned char);
444       in = inbuf = FX_Alloc(unsigned char, nr_samples);
445       out = outbuf = FX_Alloc(unsigned char, nr_samples);
446       r = image->comps[0].data;
447       g = image->comps[1].data;
448       b = image->comps[2].data;
449       for (int i = 0; i < max; ++i) {
450         *in++ = (unsigned char)*r++;
451         *in++ = (unsigned char)*g++;
452         *in++ = (unsigned char)*b++;
453       }
454       cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
455       r = image->comps[0].data;
456       g = image->comps[1].data;
457       b = image->comps[2].data;
458       for (int i = 0; i < max; ++i) {
459         *r++ = (int)*out++;
460         *g++ = (int)*out++;
461         *b++ = (int)*out++;
462       }
463       FX_Free(inbuf);
464       FX_Free(outbuf);
465     } else {
466       unsigned short *inbuf, *outbuf, *in, *out;
467       max = max_w * max_h;
468       cmsUInt32Number nr_samples = max * 3 * sizeof(unsigned short);
469       in = inbuf = FX_Alloc(unsigned short, nr_samples);
470       out = outbuf = FX_Alloc(unsigned short, nr_samples);
471       r = image->comps[0].data;
472       g = image->comps[1].data;
473       b = image->comps[2].data;
474       for (int i = 0; i < max; ++i) {
475         *in++ = (unsigned short)*r++;
476         *in++ = (unsigned short)*g++;
477         *in++ = (unsigned short)*b++;
478       }
479       cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
480       r = image->comps[0].data;
481       g = image->comps[1].data;
482       b = image->comps[2].data;
483       for (int i = 0; i < max; ++i) {
484         *r++ = (int)*out++;
485         *g++ = (int)*out++;
486         *b++ = (int)*out++;
487       }
488       FX_Free(inbuf);
489       FX_Free(outbuf);
490     }
491   } else {
492     unsigned char *in, *inbuf, *out, *outbuf;
493     max = max_w * max_h;
494     cmsUInt32Number nr_samples =
495         (cmsUInt32Number)max * 3 * sizeof(unsigned char);
496     in = inbuf = FX_Alloc(unsigned char, nr_samples);
497     out = outbuf = FX_Alloc(unsigned char, nr_samples);
498     image->comps = (opj_image_comp_t*)realloc(
499         image->comps, (image->numcomps + 2) * sizeof(opj_image_comp_t));
500     if (image->numcomps == 2) {
501       image->comps[3] = image->comps[1];
502     }
503     image->comps[1] = image->comps[0];
504     image->comps[2] = image->comps[0];
505     image->comps[1].data = FX_Alloc(int, (size_t)max);
506     FXSYS_memset(image->comps[1].data, 0, sizeof(int) * (size_t)max);
507     image->comps[2].data = FX_Alloc(int, (size_t)max);
508     FXSYS_memset(image->comps[2].data, 0, sizeof(int) * (size_t)max);
509     image->numcomps += 2;
510     r = image->comps[0].data;
511     for (int i = 0; i < max; ++i) {
512       *in++ = (unsigned char)*r++;
513     }
514     cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
515     r = image->comps[0].data;
516     g = image->comps[1].data;
517     b = image->comps[2].data;
518     for (int i = 0; i < max; ++i) {
519       *r++ = (int)*out++;
520       *g++ = (int)*out++;
521       *b++ = (int)*out++;
522     }
523     FX_Free(inbuf);
524     FX_Free(outbuf);
525   }
526   cmsDeleteTransform(transform);
527 }
528 void color_apply_conversion(opj_image_t* image) {
529   int* row;
530   int enumcs, numcomps;
531   numcomps = image->numcomps;
532   if (numcomps < 3) {
533     return;
534   }
535   row = (int*)image->icc_profile_buf;
536   enumcs = row[0];
537   if (enumcs == 14) {
538     int *L, *a, *b, *red, *green, *blue, *src0, *src1, *src2;
539     double rl, ol, ra, oa, rb, ob, prec0, prec1, prec2;
540     double minL, maxL, mina, maxa, minb, maxb;
541     unsigned int default_type;
542     unsigned int i, max;
543     cmsHPROFILE in, out;
544     cmsHTRANSFORM transform;
545     cmsUInt16Number RGB[3];
546     cmsCIELab Lab;
547     in = cmsCreateLab4Profile(NULL);
548     out = cmsCreate_sRGBProfile();
549     transform = cmsCreateTransform(in, TYPE_Lab_DBL, out, TYPE_RGB_16,
550                                    INTENT_PERCEPTUAL, 0);
551     cmsCloseProfile(in);
552     cmsCloseProfile(out);
553     if (transform == NULL) {
554       return;
555     }
556     prec0 = (double)image->comps[0].prec;
557     prec1 = (double)image->comps[1].prec;
558     prec2 = (double)image->comps[2].prec;
559     default_type = row[1];
560     if (default_type == 0x44454600) {
561       rl = 100;
562       ra = 170;
563       rb = 200;
564       ol = 0;
565       oa = pow(2, prec1 - 1);
566       ob = pow(2, prec2 - 2) + pow(2, prec2 - 3);
567     } else {
568       rl = row[2];
569       ra = row[4];
570       rb = row[6];
571       ol = row[3];
572       oa = row[5];
573       ob = row[7];
574     }
575     L = src0 = image->comps[0].data;
576     a = src1 = image->comps[1].data;
577     b = src2 = image->comps[2].data;
578     max = image->comps[0].w * image->comps[0].h;
579     red = FX_Alloc(int, max);
580     image->comps[0].data = red;
581     green = FX_Alloc(int, max);
582     image->comps[1].data = green;
583     blue = FX_Alloc(int, max);
584     image->comps[2].data = blue;
585     minL = -(rl * ol) / (pow(2, prec0) - 1);
586     maxL = minL + rl;
587     mina = -(ra * oa) / (pow(2, prec1) - 1);
588     maxa = mina + ra;
589     minb = -(rb * ob) / (pow(2, prec2) - 1);
590     maxb = minb + rb;
591     for (i = 0; i < max; ++i) {
592       Lab.L = minL + (double)(*L) * (maxL - minL) / (pow(2, prec0) - 1);
593       ++L;
594       Lab.a = mina + (double)(*a) * (maxa - mina) / (pow(2, prec1) - 1);
595       ++a;
596       Lab.b = minb + (double)(*b) * (maxb - minb) / (pow(2, prec2) - 1);
597       ++b;
598       cmsDoTransform(transform, &Lab, RGB, 1);
599       *red++ = RGB[0];
600       *green++ = RGB[1];
601       *blue++ = RGB[2];
602     }
603     cmsDeleteTransform(transform);
604     FX_Free(src0);
605     FX_Free(src1);
606     FX_Free(src2);
607     image->color_space = OPJ_CLRSPC_SRGB;
608     image->comps[0].prec = 16;
609     image->comps[1].prec = 16;
610     image->comps[2].prec = 16;
611     return;
612   }
613 }
614 class CJPX_Decoder {
615  public:
616   explicit CJPX_Decoder(bool use_colorspace);
617   ~CJPX_Decoder();
618   FX_BOOL Init(const unsigned char* src_data, int src_size);
619   void GetInfo(FX_DWORD* width, FX_DWORD* height, FX_DWORD* components);
620   FX_BOOL Decode(uint8_t* dest_buf,
621                  int pitch,
622                  uint8_t* offsets);
623
624  private:
625   const uint8_t* m_SrcData;
626   int m_SrcSize;
627   opj_image_t* image;
628   opj_codec_t* l_codec;
629   opj_stream_t* l_stream;
630   const bool m_UseColorSpace;
631 };
632
633 CJPX_Decoder::CJPX_Decoder(bool use_colorspace)
634     : image(nullptr),
635       l_codec(nullptr),
636       l_stream(nullptr),
637       m_UseColorSpace(use_colorspace) {
638 }
639
640 CJPX_Decoder::~CJPX_Decoder() {
641   if (l_codec) {
642     opj_destroy_codec(l_codec);
643   }
644   if (l_stream) {
645     opj_stream_destroy(l_stream);
646   }
647   if (image) {
648     opj_image_destroy(image);
649   }
650 }
651
652 FX_BOOL CJPX_Decoder::Init(const unsigned char* src_data, int src_size) {
653   static const unsigned char szJP2Header[] = {
654       0x00, 0x00, 0x00, 0x0c, 0x6a, 0x50, 0x20, 0x20, 0x0d, 0x0a, 0x87, 0x0a};
655   if (!src_data || src_size < sizeof(szJP2Header)) {
656     return FALSE;
657   }
658   image = NULL;
659   m_SrcData = src_data;
660   m_SrcSize = src_size;
661   DecodeData srcData(const_cast<unsigned char*>(src_data), src_size);
662   l_stream = fx_opj_stream_create_memory_stream(&srcData,
663                                                 OPJ_J2K_STREAM_CHUNK_SIZE, 1);
664   if (l_stream == NULL) {
665     return FALSE;
666   }
667   opj_dparameters_t parameters;
668   opj_set_default_decoder_parameters(&parameters);
669   parameters.decod_format = 0;
670   parameters.cod_format = 3;
671   if (FXSYS_memcmp(m_SrcData, szJP2Header, sizeof(szJP2Header)) == 0) {
672     l_codec = opj_create_decompress(OPJ_CODEC_JP2);
673     parameters.decod_format = 1;
674   } else {
675     l_codec = opj_create_decompress(OPJ_CODEC_J2K);
676   }
677   if (!l_codec) {
678     return FALSE;
679   }
680   opj_set_info_handler(l_codec, fx_info_callback, 00);
681   opj_set_warning_handler(l_codec, fx_warning_callback, 00);
682   opj_set_error_handler(l_codec, fx_error_callback, 00);
683   if (!opj_setup_decoder(l_codec, &parameters)) {
684     return FALSE;
685   }
686   if (!opj_read_header(l_stream, l_codec, &image)) {
687     image = NULL;
688     return FALSE;
689   }
690   image->pdfium_use_colorspace = m_UseColorSpace;
691
692   if (!parameters.nb_tile_to_decode) {
693     if (!opj_set_decode_area(l_codec, image, parameters.DA_x0, parameters.DA_y0,
694                              parameters.DA_x1, parameters.DA_y1)) {
695       opj_image_destroy(image);
696       image = NULL;
697       return FALSE;
698     }
699     if (!(opj_decode(l_codec, l_stream, image) &&
700           opj_end_decompress(l_codec, l_stream))) {
701       opj_image_destroy(image);
702       image = NULL;
703       return FALSE;
704     }
705   } else {
706     if (!opj_get_decoded_tile(l_codec, l_stream, image,
707                               parameters.tile_index)) {
708       return FALSE;
709     }
710   }
711   opj_stream_destroy(l_stream);
712   l_stream = NULL;
713   if (image->color_space != OPJ_CLRSPC_SYCC && image->numcomps == 3 &&
714       image->comps[0].dx == image->comps[0].dy && image->comps[1].dx != 1) {
715     image->color_space = OPJ_CLRSPC_SYCC;
716   } else if (image->numcomps <= 2) {
717     image->color_space = OPJ_CLRSPC_GRAY;
718   }
719   if (image->color_space == OPJ_CLRSPC_SYCC) {
720     color_sycc_to_rgb(image);
721   }
722   if (image->icc_profile_buf) {
723     FX_Free(image->icc_profile_buf);
724     image->icc_profile_buf = NULL;
725     image->icc_profile_len = 0;
726   }
727   if (!image) {
728     return FALSE;
729   }
730   return TRUE;
731 }
732
733 void CJPX_Decoder::GetInfo(FX_DWORD* width,
734                            FX_DWORD* height,
735                            FX_DWORD* components) {
736   *width = (FX_DWORD)image->x1;
737   *height = (FX_DWORD)image->y1;
738   *components = (FX_DWORD)image->numcomps;
739 }
740
741 FX_BOOL CJPX_Decoder::Decode(uint8_t* dest_buf,
742                              int pitch,
743                              uint8_t* offsets) {
744   int i, wid, hei, row, col, channel, src;
745   uint8_t* pChannel;
746   uint8_t* pScanline;
747   uint8_t* pPixel;
748
749   if (image->comps[0].w != image->x1 || image->comps[0].h != image->y1) {
750     return FALSE;
751   }
752   if (pitch<(int)(image->comps[0].w * 8 * image->numcomps + 31)>> 5 << 2) {
753     return FALSE;
754   }
755   FXSYS_memset(dest_buf, 0xff, image->y1 * pitch);
756   uint8_t** channel_bufs = FX_Alloc(uint8_t*, image->numcomps);
757   FX_BOOL result = FALSE;
758   int* adjust_comps = FX_Alloc(int, image->numcomps);
759   for (i = 0; i < (int)image->numcomps; i++) {
760     channel_bufs[i] = dest_buf + offsets[i];
761     adjust_comps[i] = image->comps[i].prec - 8;
762     if (i > 0) {
763       if (image->comps[i].dx != image->comps[i - 1].dx ||
764           image->comps[i].dy != image->comps[i - 1].dy ||
765           image->comps[i].prec != image->comps[i - 1].prec) {
766         goto done;
767       }
768     }
769   }
770   wid = image->comps[0].w;
771   hei = image->comps[0].h;
772   for (channel = 0; channel < (int)image->numcomps; channel++) {
773     pChannel = channel_bufs[channel];
774     if (adjust_comps[channel] < 0) {
775       for (row = 0; row < hei; row++) {
776         pScanline = pChannel + row * pitch;
777         for (col = 0; col < wid; col++) {
778           pPixel = pScanline + col * image->numcomps;
779           src = image->comps[channel].data[row * wid + col];
780           src += image->comps[channel].sgnd
781                      ? 1 << (image->comps[channel].prec - 1)
782                      : 0;
783           if (adjust_comps[channel] > 0) {
784             *pPixel = 0;
785           } else {
786             *pPixel = (uint8_t)(src << -adjust_comps[channel]);
787           }
788         }
789       }
790     } else {
791       for (row = 0; row < hei; row++) {
792         pScanline = pChannel + row * pitch;
793         for (col = 0; col < wid; col++) {
794           pPixel = pScanline + col * image->numcomps;
795           if (!image->comps[channel].data) {
796             continue;
797           }
798           src = image->comps[channel].data[row * wid + col];
799           src += image->comps[channel].sgnd
800                      ? 1 << (image->comps[channel].prec - 1)
801                      : 0;
802           if (adjust_comps[channel] - 1 < 0) {
803             *pPixel = (uint8_t)((src >> adjust_comps[channel]));
804           } else {
805             int tmpPixel = (src >> adjust_comps[channel]) +
806                            ((src >> (adjust_comps[channel] - 1)) % 2);
807             if (tmpPixel > 255) {
808               tmpPixel = 255;
809             } else if (tmpPixel < 0) {
810               tmpPixel = 0;
811             }
812             *pPixel = (uint8_t)tmpPixel;
813           }
814         }
815       }
816     }
817   }
818   result = TRUE;
819
820 done:
821   FX_Free(channel_bufs);
822   FX_Free(adjust_comps);
823   return result;
824 }
825
826 CCodec_JpxModule::CCodec_JpxModule() {}
827 CCodec_JpxModule::~CCodec_JpxModule() {
828 }
829
830 CJPX_Decoder* CCodec_JpxModule::CreateDecoder(const uint8_t* src_buf,
831                                               FX_DWORD src_size,
832                                               bool use_colorspace) {
833   nonstd::unique_ptr<CJPX_Decoder> decoder(new CJPX_Decoder(use_colorspace));
834   return decoder->Init(src_buf, src_size) ? decoder.release() : nullptr;
835 }
836
837 void CCodec_JpxModule::GetImageInfo(CJPX_Decoder* pDecoder,
838                                     FX_DWORD* width,
839                                     FX_DWORD* height,
840                                     FX_DWORD* components) {
841   pDecoder->GetInfo(width, height, components);
842 }
843
844 FX_BOOL CCodec_JpxModule::Decode(CJPX_Decoder* pDecoder,
845                                  uint8_t* dest_data,
846                                  int pitch,
847                                  uint8_t* offsets) {
848   return pDecoder->Decode(dest_data, pitch, offsets);
849 }
850
851 void CCodec_JpxModule::DestroyDecoder(CJPX_Decoder* pDecoder) {
852   delete pDecoder;
853 }