Replace FX_NEW with new, remote tests from fxcodec
[pdfium.git] / core / src / fxcodec / codec / fx_codec_flate.cpp
1 // Copyright 2014 PDFium Authors. All rights reserved.
2 // Use of this source code is governed by a BSD-style license that can be
3 // found in the LICENSE file.
4  
5 // Original code copyright 2014 Foxit Software Inc. http://www.foxitsoftware.com
6
7 #include "../../fx_zlib.h"
8 #include "../../../include/fxcodec/fx_codec.h"
9 #include "codec_int.h"
10 extern "C"
11 {
12     static void* my_alloc_func (void* opaque, unsigned int items, unsigned int size)
13     {
14         return FX_Alloc(FX_BYTE, items * size);
15     }
16     static void   my_free_func  (void* opaque, void* address)
17     {
18         FX_Free(address);
19     }
20     void* FPDFAPI_FlateInit(void* (*alloc_func)(void*, unsigned int, unsigned int),
21                             void (*free_func)(void*, void*))
22     {
23         z_stream* p = (z_stream*)alloc_func(0, 1, sizeof(z_stream));
24         if (p == NULL) {
25             return NULL;
26         }
27         FXSYS_memset32(p, 0, sizeof(z_stream));
28         p->zalloc = alloc_func;
29         p->zfree = free_func;
30         inflateInit(p);
31         return p;
32     }
33     void FPDFAPI_FlateInput(void* context, const unsigned char* src_buf, unsigned int src_size)
34     {
35         ((z_stream*)context)->next_in = (unsigned char*)src_buf;
36         ((z_stream*)context)->avail_in = src_size;
37     }
38     int FPDFAPI_FlateGetTotalOut(void* context)
39     {
40         return ((z_stream*)context)->total_out;
41     }
42     int FPDFAPI_FlateOutput(void* context, unsigned char* dest_buf, unsigned int dest_size)
43     {
44         ((z_stream*)context)->next_out = dest_buf;
45         ((z_stream*)context)->avail_out = dest_size;
46         unsigned int pre_pos = (unsigned int)FPDFAPI_FlateGetTotalOut(context);
47         int ret = inflate((z_stream*)context, Z_SYNC_FLUSH);
48         unsigned int post_pos = (unsigned int)FPDFAPI_FlateGetTotalOut(context);
49         unsigned int written = post_pos - pre_pos;
50         if (written < dest_size) {
51             FXSYS_memset8(dest_buf + written, '\0', dest_size - written);
52         }
53         return ret;
54     }
55     int FPDFAPI_FlateGetTotalIn(void* context)
56     {
57         return ((z_stream*)context)->total_in;
58     }
59     int FPDFAPI_FlateGetAvailOut(void* context)
60     {
61         return ((z_stream*)context)->avail_out;
62     }
63     int FPDFAPI_FlateGetAvailIn(void* context)
64     {
65         return ((z_stream*)context)->avail_in;
66     }
67     void FPDFAPI_FlateEnd(void* context)
68     {
69         inflateEnd((z_stream*)context);
70         ((z_stream*)context)->zfree(0, context);
71     }
72     void FPDFAPI_FlateCompress(unsigned char* dest_buf, unsigned long* dest_size, const unsigned char* src_buf, unsigned long src_size)
73     {
74         compress(dest_buf, dest_size, src_buf, src_size);
75     }
76 }
77 class CLZWDecoder 
78 {
79 public:
80     FX_BOOL Decode(FX_LPBYTE output, FX_DWORD& outlen, const FX_BYTE* input, FX_DWORD& size, FX_BOOL bEarlyChange);
81 private:
82     FX_DWORD    m_InPos;
83     FX_DWORD    m_OutPos;
84     FX_LPBYTE   m_pOutput;
85     const FX_BYTE*      m_pInput;
86     FX_BOOL             m_Early;
87     void                AddCode(FX_DWORD prefix_code, FX_BYTE append_char);
88     FX_DWORD    m_CodeArray[5021];
89     FX_DWORD    m_nCodes;
90     FX_BYTE             m_DecodeStack[4000];
91     FX_DWORD    m_StackLen;
92     void                DecodeString(FX_DWORD code);
93     int                 m_CodeLen;
94 };
95 void CLZWDecoder::AddCode(FX_DWORD prefix_code, FX_BYTE append_char)
96 {
97     if (m_nCodes + m_Early == 4094) {
98         return;
99     }
100     m_CodeArray[m_nCodes ++] = (prefix_code << 16) | append_char;
101     if (m_nCodes + m_Early == 512 - 258) {
102         m_CodeLen = 10;
103     } else if (m_nCodes + m_Early == 1024 - 258) {
104         m_CodeLen = 11;
105     } else if (m_nCodes + m_Early == 2048 - 258) {
106         m_CodeLen = 12;
107     }
108 }
109 void CLZWDecoder::DecodeString(FX_DWORD code)
110 {
111     while (1) {
112         int index = code - 258;
113         if (index < 0 || index >= (int)m_nCodes) {
114             break;
115         }
116         FX_DWORD data = m_CodeArray[index];
117         if (m_StackLen >= sizeof(m_DecodeStack)) {
118             return;
119         }
120         m_DecodeStack[m_StackLen++] = (FX_BYTE)data;
121         code = data >> 16;
122     }
123     if (m_StackLen >= sizeof(m_DecodeStack)) {
124         return;
125     }
126     m_DecodeStack[m_StackLen++] = (FX_BYTE)code;
127 }
128 int CLZWDecoder::Decode(FX_LPBYTE dest_buf, FX_DWORD& dest_size, const FX_BYTE* src_buf, FX_DWORD& src_size, FX_BOOL bEarlyChange)
129 {
130     m_CodeLen = 9;
131     m_InPos = 0;
132     m_OutPos = 0;
133     m_pInput = src_buf;
134     m_pOutput = dest_buf;
135     m_Early = bEarlyChange ? 1 : 0;
136     m_nCodes = 0;
137     FX_DWORD old_code = (FX_DWORD) - 1;
138     FX_BYTE last_char;
139     while (1) {
140         if (m_InPos + m_CodeLen > src_size * 8) {
141             break;
142         }
143         int byte_pos = m_InPos / 8;
144         int bit_pos = m_InPos % 8, bit_left = m_CodeLen;
145         FX_DWORD code = 0;
146         if (bit_pos) {
147             bit_left -= 8 - bit_pos;
148             code = (m_pInput[byte_pos++] & ((1 << (8 - bit_pos)) - 1)) << bit_left;
149         }
150         if (bit_left < 8) {
151             code |= m_pInput[byte_pos] >> (8 - bit_left);
152         } else {
153             bit_left -= 8;
154             code |= m_pInput[byte_pos++] << bit_left;
155             if (bit_left) {
156                 code |= m_pInput[byte_pos] >> (8 - bit_left);
157             }
158         }
159         m_InPos += m_CodeLen;
160         if (code < 256) {
161             if (m_OutPos == dest_size) {
162                 return -5;
163             }
164             if (m_pOutput) {
165                 m_pOutput[m_OutPos] = (FX_BYTE)code;
166             }
167             m_OutPos ++;
168             last_char = (FX_BYTE)code;
169             if (old_code != (FX_DWORD) - 1) {
170                 AddCode(old_code, last_char);
171             }
172             old_code = code;
173         } else if (code == 256) {
174             m_CodeLen = 9;
175             m_nCodes = 0;
176             old_code = (FX_DWORD) - 1;
177         } else if (code == 257) {
178             break;
179         } else {
180             if (old_code == (FX_DWORD) - 1) {
181                 return 2;
182             }
183             m_StackLen = 0;
184             if (code >= m_nCodes + 258) {
185                 if (m_StackLen < sizeof(m_DecodeStack)) {
186                     m_DecodeStack[m_StackLen++] = last_char;
187                 }
188                 DecodeString(old_code);
189             } else {
190                 DecodeString(code);
191             }
192             if (m_OutPos + m_StackLen > dest_size) {
193                 return -5;
194             }
195             if (m_pOutput) {
196                 for (FX_DWORD i = 0; i < m_StackLen; i ++) {
197                     m_pOutput[m_OutPos + i] = m_DecodeStack[m_StackLen - i - 1];
198                 }
199             }
200             m_OutPos += m_StackLen;
201             last_char = m_DecodeStack[m_StackLen - 1];
202             if (old_code < 256) {
203                 AddCode(old_code, last_char);
204             } else if (old_code - 258 >= m_nCodes) {
205                 dest_size = m_OutPos;
206                 src_size = (m_InPos + 7) / 8;
207                 return 0;
208             } else {
209                 AddCode(old_code, last_char);
210             }
211             old_code = code;
212         }
213     }
214     dest_size = m_OutPos;
215     src_size = (m_InPos + 7) / 8;
216     return 0;
217 }
218 static FX_BYTE PaethPredictor(int a, int b, int c)
219 {
220     int p = a + b - c;
221     int pa = FXSYS_abs(p - a);
222     int pb = FXSYS_abs(p - b);
223     int pc = FXSYS_abs(p - c);
224     if (pa <= pb && pa <= pc) {
225         return (FX_BYTE)a;
226     }
227     if (pb <= pc) {
228         return (FX_BYTE)b;
229     }
230     return (FX_BYTE)c;
231 }
232 static void PNG_PredictorEncode(FX_LPBYTE& data_buf, FX_DWORD& data_size, int predictor, int Colors, int BitsPerComponent, int Columns)
233 {
234     int BytesPerPixel = (Colors * BitsPerComponent + 7) / 8;
235     int row_size = (Colors * BitsPerComponent * Columns + 7) / 8;
236     int row_count = (data_size + row_size - 1) / row_size;
237     int last_row_size = data_size % row_size;
238     FX_LPBYTE dest_buf = FX_Alloc( FX_BYTE, (row_size + 1) * row_count);
239     if (dest_buf == NULL) {
240         return;
241     }
242     int byte_cnt = 0;
243     FX_LPBYTE pSrcData = data_buf;
244     FX_LPBYTE pDestData = dest_buf;
245     for (int row = 0; row < row_count; row++) {
246         if (predictor == 10) {
247             pDestData[0] = 0;
248             int move_size = row_size;
249             if (move_size * (row + 1) > (int)data_size) {
250                 move_size = data_size - (move_size * row);
251             }
252             FXSYS_memmove32(pDestData + 1, pSrcData, move_size);
253             pDestData += (move_size + 1);
254             pSrcData += move_size;
255             byte_cnt += move_size;
256             continue;
257         }
258         for (int byte = 0; byte < row_size && byte_cnt < (int)data_size; byte++) {
259             switch (predictor) {
260                 case 11: {
261                         pDestData[0] = 1;
262                         FX_BYTE left = 0;
263                         if (byte >= BytesPerPixel) {
264                             left = pSrcData[byte - BytesPerPixel];
265                         }
266                         pDestData[byte + 1] = pSrcData[byte] - left;
267                     }
268                     break;
269                 case 12: {
270                         pDestData[0] = 2;
271                         FX_BYTE up = 0;
272                         if (row) {
273                             up = pSrcData[byte - row_size];
274                         }
275                         pDestData[byte + 1] = pSrcData[byte] - up;
276                     }
277                     break;
278                 case 13: {
279                         pDestData[0] = 3;
280                         FX_BYTE left = 0;
281                         if (byte >= BytesPerPixel) {
282                             left = pSrcData[byte - BytesPerPixel];
283                         }
284                         FX_BYTE up = 0;
285                         if (row) {
286                             up = pSrcData[byte - row_size];
287                         }
288                         pDestData[byte + 1] = pSrcData[byte] - (left + up) / 2;
289                     }
290                     break;
291                 case 14: {
292                         pDestData[0] = 4;
293                         FX_BYTE left = 0;
294                         if (byte >= BytesPerPixel) {
295                             left = pSrcData[byte - BytesPerPixel];
296                         }
297                         FX_BYTE up = 0;
298                         if (row) {
299                             up = pSrcData[byte - row_size];
300                         }
301                         FX_BYTE upper_left = 0;
302                         if (byte >= BytesPerPixel && row) {
303                             upper_left = pSrcData[byte - row_size - BytesPerPixel];
304                         }
305                         pDestData[byte + 1] = pSrcData[byte] - PaethPredictor(left, up, upper_left);
306                     }
307                     break;
308                 default: {
309                         pDestData[byte + 1] = pSrcData[byte];
310                     }
311                     break;
312             }
313             byte_cnt++;
314         }
315         pDestData += (row_size + 1);
316         pSrcData += row_size;
317     }
318     FX_Free(data_buf);
319     data_buf = dest_buf;
320     data_size = (row_size + 1) * row_count - (last_row_size > 0 ? (row_size - last_row_size) : 0);
321 }
322 static void PNG_PredictLine(FX_LPBYTE pDestData, FX_LPCBYTE pSrcData, FX_LPCBYTE pLastLine,
323                             int bpc, int nColors, int nPixels)
324 {
325     int row_size = (nPixels * bpc * nColors + 7) / 8;
326     int BytesPerPixel = (bpc * nColors + 7) / 8;
327     FX_BYTE tag = pSrcData[0];
328     if (tag == 0) {
329         FXSYS_memmove32(pDestData, pSrcData + 1, row_size);
330         return;
331     }
332     for (int byte = 0; byte < row_size; byte ++) {
333         FX_BYTE raw_byte = pSrcData[byte + 1];
334         switch (tag) {
335             case 1:     {
336                     FX_BYTE left = 0;
337                     if (byte >= BytesPerPixel) {
338                         left = pDestData[byte - BytesPerPixel];
339                     }
340                     pDestData[byte] = raw_byte + left;
341                     break;
342                 }
343             case 2: {
344                     FX_BYTE up = 0;
345                     if (pLastLine) {
346                         up = pLastLine[byte];
347                     }
348                     pDestData[byte] = raw_byte + up;
349                     break;
350                 }
351             case 3: {
352                     FX_BYTE left = 0;
353                     if (byte >= BytesPerPixel) {
354                         left = pDestData[byte - BytesPerPixel];
355                     }
356                     FX_BYTE up = 0;
357                     if (pLastLine) {
358                         up = pLastLine[byte];
359                     }
360                     pDestData[byte] = raw_byte + (up + left) / 2;
361                     break;
362                 }
363             case 4: {
364                     FX_BYTE left = 0;
365                     if (byte >= BytesPerPixel) {
366                         left = pDestData[byte - BytesPerPixel];
367                     }
368                     FX_BYTE up = 0;
369                     if (pLastLine) {
370                         up = pLastLine[byte];
371                     }
372                     FX_BYTE upper_left = 0;
373                     if (byte >= BytesPerPixel && pLastLine) {
374                         upper_left = pLastLine[byte - BytesPerPixel];
375                     }
376                     pDestData[byte] = raw_byte + PaethPredictor(left, up, upper_left);
377                     break;
378                 }
379             default:
380                 pDestData[byte] = raw_byte;
381                 break;
382         }
383     }
384 }
385 static void PNG_Predictor(FX_LPBYTE& data_buf, FX_DWORD& data_size,
386                           int Colors, int BitsPerComponent, int Columns)
387 {
388     int BytesPerPixel = (Colors * BitsPerComponent + 7) / 8;
389     int row_size = (Colors * BitsPerComponent * Columns + 7) / 8;
390     int row_count = (data_size + row_size) / (row_size + 1);
391     int last_row_size = data_size % (row_size + 1);
392     FX_LPBYTE dest_buf = FX_Alloc( FX_BYTE, row_size * row_count);
393     if (dest_buf == NULL) {
394         return;
395     }
396     int byte_cnt = 0;
397     FX_LPBYTE pSrcData = data_buf;
398     FX_LPBYTE pDestData = dest_buf;
399     for (int row = 0; row < row_count; row ++) {
400         FX_BYTE tag = pSrcData[0];
401         byte_cnt++;
402         if (tag == 0) {
403             int move_size = row_size;
404             if ((row + 1) * (move_size + 1) > (int)data_size) {
405                 move_size = last_row_size - 1;
406             }
407             FXSYS_memmove32(pDestData, pSrcData + 1, move_size);
408             pSrcData += move_size + 1;
409             pDestData += move_size;
410             byte_cnt += move_size;
411             continue;
412         }
413         for (int byte = 0; byte < row_size && byte_cnt < (int)data_size; byte ++) {
414             FX_BYTE raw_byte = pSrcData[byte + 1];
415             switch (tag) {
416                 case 1: {
417                         FX_BYTE left = 0;
418                         if (byte >= BytesPerPixel) {
419                             left = pDestData[byte - BytesPerPixel];
420                         }
421                         pDestData[byte] = raw_byte + left;
422                         break;
423                     }
424                 case 2: {
425                         FX_BYTE up = 0;
426                         if (row) {
427                             up = pDestData[byte - row_size];
428                         }
429                         pDestData[byte] = raw_byte + up;
430                         break;
431                     }
432                 case 3: {
433                         FX_BYTE left = 0;
434                         if (byte >= BytesPerPixel) {
435                             left = pDestData[byte - BytesPerPixel];
436                         }
437                         FX_BYTE up = 0;
438                         if (row) {
439                             up = pDestData[byte - row_size];
440                         }
441                         pDestData[byte] = raw_byte + (up + left) / 2;
442                         break;
443                     }
444                 case 4: {
445                         FX_BYTE left = 0;
446                         if (byte >= BytesPerPixel) {
447                             left = pDestData[byte - BytesPerPixel];
448                         }
449                         FX_BYTE up = 0;
450                         if (row) {
451                             up = pDestData[byte - row_size];
452                         }
453                         FX_BYTE upper_left = 0;
454                         if (byte >= BytesPerPixel && row) {
455                             upper_left = pDestData[byte - row_size - BytesPerPixel];
456                         }
457                         pDestData[byte] = raw_byte + PaethPredictor(left, up, upper_left);
458                         break;
459                     }
460                 default:
461                     pDestData[byte] = raw_byte;
462                     break;
463             }
464             byte_cnt++;
465         }
466         pSrcData += row_size + 1;
467         pDestData += row_size;
468     }
469     FX_Free(data_buf);
470     data_buf = dest_buf;
471     data_size = row_size * row_count - (last_row_size > 0 ? (row_size + 1 - last_row_size) : 0);
472 }
473 static void TIFF_PredictorEncodeLine(FX_LPBYTE dest_buf, int row_size, int BitsPerComponent, int Colors, int Columns)
474 {
475     int BytesPerPixel = BitsPerComponent * Colors / 8;
476     if (BitsPerComponent < 8) {
477         FX_BYTE mask = 0x01;
478         if (BitsPerComponent == 2) {
479             mask = 0x03;
480         } else if (BitsPerComponent == 4) {
481             mask = 0x0F;
482         }
483         int row_bits = Colors * BitsPerComponent * Columns;
484         for (int i = row_bits - BitsPerComponent; i >= BitsPerComponent; i -= BitsPerComponent) {
485             int col = i % 8;
486             int index = i / 8;
487             int col_pre = (col == 0) ? (8 - BitsPerComponent) : (col - BitsPerComponent);
488             int index_pre = (col == 0) ? (index - 1) : index;
489             FX_BYTE cur = (dest_buf[index] >> (8 - col - BitsPerComponent)) & mask;
490             FX_BYTE left = (dest_buf[index_pre] >> (8 - col_pre - BitsPerComponent)) & mask;
491             cur -= left;
492             cur &= mask;
493             cur <<= (8 - col - BitsPerComponent);
494             dest_buf[index] &= ~(mask << ((8 - col - BitsPerComponent)));
495             dest_buf[index] |= cur;
496         }
497     } else if (BitsPerComponent == 8) {
498         for (int i = row_size - 1; i >= BytesPerPixel; i--) {
499             dest_buf[i] -= dest_buf[i - BytesPerPixel];
500         }
501     } else {
502         for (int i = row_size - BytesPerPixel; i >= BytesPerPixel; i -= BytesPerPixel) {
503             FX_WORD pixel = (dest_buf[i] << 8) | dest_buf[i + 1];
504             pixel -= (dest_buf[i - BytesPerPixel] << 8) | dest_buf[i - BytesPerPixel + 1];
505             dest_buf[i] = pixel >> 8;
506             dest_buf[i + 1] = (FX_BYTE)pixel;
507         }
508     }
509 }
510 static void TIFF_PredictorEncode(FX_LPBYTE& data_buf, FX_DWORD& data_size,
511                                  int Colors, int BitsPerComponent, int Columns)
512 {
513     int row_size = (Colors * BitsPerComponent * Columns + 7) / 8;
514     int row_count = (data_size + row_size - 1) / row_size;
515     int last_row_size = data_size % row_size;
516     for (int row = 0; row < row_count; row++) {
517         FX_LPBYTE scan_line = data_buf + row * row_size;
518         if ((row + 1) * row_size > (int)data_size) {
519             row_size = last_row_size;
520         }
521         TIFF_PredictorEncodeLine(scan_line, row_size, BitsPerComponent, Colors, Columns);
522     }
523 }
524 static void TIFF_PredictLine(FX_LPBYTE dest_buf, int row_size, int BitsPerComponent, int Colors, int Columns)
525 {
526     if (BitsPerComponent == 1) {
527         int row_bits = FX_MIN(BitsPerComponent * Colors * Columns, row_size * 8);
528         int index_pre = 0;
529         int col_pre = 0;
530         for(int i = 1; i < row_bits; i ++) {
531             int col = i % 8;
532             int index = i / 8;
533             if( ((dest_buf[index] >> (7 - col)) & 1) ^ ((dest_buf[index_pre] >> (7 - col_pre)) & 1) ) {
534                 dest_buf[index] |= 1 << (7 - col);
535             } else {
536                 dest_buf[index] &= ~(1 << (7 - col));
537             }
538             index_pre = index;
539             col_pre = col;
540         }
541         return;
542     }
543     int BytesPerPixel = BitsPerComponent * Colors / 8;
544     if (BitsPerComponent == 16) {
545         for (int i = BytesPerPixel; i < row_size; i += 2) {
546             FX_WORD pixel = (dest_buf[i - BytesPerPixel] << 8) | dest_buf[i - BytesPerPixel + 1];
547             pixel += (dest_buf[i] << 8) | dest_buf[i + 1];
548             dest_buf[i] = pixel >> 8;
549             dest_buf[i + 1] = (FX_BYTE)pixel;
550         }
551     } else {
552         for (int i = BytesPerPixel; i < row_size; i ++) {
553             dest_buf[i] += dest_buf[i - BytesPerPixel];
554         }
555     }
556 }
557 static void TIFF_Predictor(FX_LPBYTE& data_buf, FX_DWORD& data_size,
558                            int Colors, int BitsPerComponent, int Columns)
559 {
560     int row_size = (Colors * BitsPerComponent * Columns + 7) / 8;
561     int row_count = (data_size + row_size - 1) / row_size;
562     int last_row_size = data_size % row_size;
563     for (int row = 0; row < row_count; row ++) {
564         FX_LPBYTE scan_line = data_buf + row * row_size;
565         if ((row + 1) * row_size > (int)data_size) {
566             row_size = last_row_size;
567         }
568         TIFF_PredictLine(scan_line, row_size, BitsPerComponent, Colors, Columns);
569     }
570 }
571 class CCodec_FlateScanlineDecoder : public CCodec_ScanlineDecoder
572 {
573 public:
574     CCodec_FlateScanlineDecoder();
575     ~CCodec_FlateScanlineDecoder();
576     FX_BOOL             Create(FX_LPCBYTE src_buf, FX_DWORD src_size, int width, int height, int nComps, int bpc,
577                        int predictor, int Colors, int BitsPerComponent, int Columns);
578     virtual void                Destroy()
579     {
580         delete this;
581     }
582     virtual void                v_DownScale(int dest_width, int dest_height) {}
583     virtual FX_BOOL             v_Rewind();
584     virtual FX_LPBYTE   v_GetNextLine();
585     virtual FX_DWORD    GetSrcOffset();
586     void*                               m_pFlate;
587     FX_LPCBYTE                  m_SrcBuf;
588     FX_DWORD                    m_SrcSize;
589     FX_LPBYTE                   m_pScanline;
590     FX_LPBYTE                   m_pLastLine;
591     FX_LPBYTE                   m_pPredictBuffer;
592     FX_LPBYTE                   m_pPredictRaw;
593     int                                 m_Predictor;
594     int                                 m_Colors, m_BitsPerComponent, m_Columns, m_PredictPitch, m_LeftOver;
595 };
596 CCodec_FlateScanlineDecoder::CCodec_FlateScanlineDecoder()
597 {
598     m_pFlate = NULL;
599     m_pScanline = NULL;
600     m_pLastLine = NULL;
601     m_pPredictBuffer = NULL;
602     m_pPredictRaw = NULL;
603     m_LeftOver = 0;
604 }
605 CCodec_FlateScanlineDecoder::~CCodec_FlateScanlineDecoder()
606 {
607     if (m_pScanline) {
608         FX_Free(m_pScanline);
609     }
610     if (m_pLastLine) {
611         FX_Free(m_pLastLine);
612     }
613     if (m_pPredictBuffer) {
614         FX_Free(m_pPredictBuffer);
615     }
616     if (m_pPredictRaw) {
617         FX_Free(m_pPredictRaw);
618     }
619     if (m_pFlate) {
620         FPDFAPI_FlateEnd(m_pFlate);
621     }
622 }
623 FX_BOOL CCodec_FlateScanlineDecoder::Create(FX_LPCBYTE src_buf, FX_DWORD src_size, int width, int height,
624         int nComps, int bpc, int predictor, int Colors, int BitsPerComponent, int Columns)
625 {
626     m_SrcBuf = src_buf;
627     m_SrcSize = src_size;
628     m_OutputWidth = m_OrigWidth = width;
629     m_OutputHeight = m_OrigHeight = height;
630     m_nComps = nComps;
631     m_bpc = bpc;
632     m_bColorTransformed = FALSE;
633     m_Pitch = (width * nComps * bpc + 7) / 8;
634     m_pScanline = FX_Alloc(FX_BYTE, m_Pitch);
635     if (m_pScanline == NULL) {
636         return FALSE;
637     }
638     m_Predictor = 0;
639     if (predictor) {
640         if (predictor >= 10) {
641             m_Predictor = 2;
642         } else if (predictor == 2) {
643             m_Predictor = 1;
644         }
645         if (m_Predictor) {
646             if (BitsPerComponent * Colors * Columns == 0) {
647                 BitsPerComponent = m_bpc;
648                 Colors = m_nComps;
649                 Columns = m_OrigWidth;
650             }
651             m_Colors = Colors;
652             m_BitsPerComponent = BitsPerComponent;
653             m_Columns = Columns;
654             m_PredictPitch = (m_BitsPerComponent * m_Colors * m_Columns + 7) / 8;
655             m_pLastLine = FX_Alloc(FX_BYTE, m_PredictPitch);
656             if (m_pLastLine == NULL) {
657                 return FALSE;
658             }
659             m_pPredictRaw = FX_Alloc(FX_BYTE, m_PredictPitch + 1);
660             if (m_pPredictRaw == NULL) {
661                 return FALSE;
662             }
663             m_pPredictBuffer = FX_Alloc(FX_BYTE, m_PredictPitch);
664             if (m_pPredictBuffer == NULL) {
665                 return FALSE;
666             }
667         }
668     }
669     return TRUE;
670 }
671 FX_BOOL CCodec_FlateScanlineDecoder::v_Rewind()
672 {
673     if (m_pFlate) {
674         FPDFAPI_FlateEnd(m_pFlate);
675     }
676     m_pFlate = FPDFAPI_FlateInit(my_alloc_func, my_free_func);
677     if (m_pFlate == NULL) {
678         return FALSE;
679     }
680     FPDFAPI_FlateInput(m_pFlate, m_SrcBuf, m_SrcSize);
681     m_LeftOver = 0;
682     return TRUE;
683 }
684 FX_LPBYTE CCodec_FlateScanlineDecoder::v_GetNextLine()
685 {
686     if (m_Predictor) {
687         if (m_Pitch == m_PredictPitch) {
688             if (m_Predictor == 2) {
689                 FPDFAPI_FlateOutput(m_pFlate, m_pPredictRaw, m_PredictPitch + 1);
690                 PNG_PredictLine(m_pScanline, m_pPredictRaw, m_pLastLine, m_BitsPerComponent, m_Colors, m_Columns);
691                 FXSYS_memcpy32(m_pLastLine, m_pScanline, m_PredictPitch);
692             } else {
693                 FPDFAPI_FlateOutput(m_pFlate, m_pScanline, m_Pitch);
694                 TIFF_PredictLine(m_pScanline, m_PredictPitch, m_bpc, m_nComps, m_OutputWidth);
695             }
696         } else {
697             int bytes_to_go = m_Pitch;
698             int read_leftover = m_LeftOver > bytes_to_go ? bytes_to_go : m_LeftOver;
699             if (read_leftover) {
700                 FXSYS_memcpy32(m_pScanline, m_pPredictBuffer + m_PredictPitch - m_LeftOver, read_leftover);
701                 m_LeftOver -= read_leftover;
702                 bytes_to_go -= read_leftover;
703             }
704             while (bytes_to_go) {
705                 if (m_Predictor == 2) {
706                     FPDFAPI_FlateOutput(m_pFlate, m_pPredictRaw, m_PredictPitch + 1);
707                     PNG_PredictLine(m_pPredictBuffer, m_pPredictRaw, m_pLastLine, m_BitsPerComponent, m_Colors, m_Columns);
708                     FXSYS_memcpy32(m_pLastLine, m_pPredictBuffer, m_PredictPitch);
709                 } else {
710                     FPDFAPI_FlateOutput(m_pFlate, m_pPredictBuffer, m_PredictPitch);
711                     TIFF_PredictLine(m_pPredictBuffer, m_PredictPitch, m_BitsPerComponent, m_Colors, m_Columns);
712                 }
713                 int read_bytes = m_PredictPitch > bytes_to_go ? bytes_to_go : m_PredictPitch;
714                 FXSYS_memcpy32(m_pScanline + m_Pitch - bytes_to_go, m_pPredictBuffer, read_bytes);
715                 m_LeftOver += m_PredictPitch - read_bytes;
716                 bytes_to_go -= read_bytes;
717             }
718         }
719     } else {
720         FPDFAPI_FlateOutput(m_pFlate, m_pScanline, m_Pitch);
721     }
722     return m_pScanline;
723 }
724 FX_DWORD CCodec_FlateScanlineDecoder::GetSrcOffset()
725 {
726     return FPDFAPI_FlateGetTotalIn(m_pFlate);
727 }
728 static void FlateUncompress(FX_LPCBYTE src_buf, FX_DWORD src_size, FX_DWORD orig_size,
729                             FX_LPBYTE& dest_buf, FX_DWORD& dest_size, FX_DWORD& offset)
730 {
731     FX_DWORD guess_size = orig_size ? orig_size : src_size * 2;
732     FX_DWORD alloc_step = orig_size ? 10240 : (src_size < 10240 ? 10240 : src_size);
733     static const FX_DWORD kMaxInitialAllocSize = 10000000;
734     if (guess_size > kMaxInitialAllocSize) {
735         guess_size = kMaxInitialAllocSize;
736         alloc_step = kMaxInitialAllocSize;
737     }
738     FX_LPBYTE guess_buf = FX_Alloc(FX_BYTE, guess_size + 1);
739     if (!guess_buf) {
740         dest_buf = NULL;
741         dest_size = 0;
742         return;
743     }
744     guess_buf[guess_size] = '\0';
745     FX_BOOL useOldImpl = src_size < 10240;
746     void* context = FPDFAPI_FlateInit(my_alloc_func, my_free_func);
747     if (context == NULL) {
748         dest_buf = NULL;
749         dest_size = 0;
750         return ;
751     }
752     FPDFAPI_FlateInput(context, src_buf, src_size);
753     CFX_ArrayTemplate<FX_LPBYTE> result_tmp_bufs;
754     FX_LPBYTE buf = guess_buf;
755     FX_DWORD buf_size = guess_size;
756     FX_DWORD last_buf_size = buf_size;
757     while (1) {
758         FX_INT32 ret = FPDFAPI_FlateOutput(context, buf, buf_size);
759         FX_INT32 avail_buf_size = FPDFAPI_FlateGetAvailOut(context);
760         if (!useOldImpl) {
761             if (ret != Z_OK) {
762                 last_buf_size = buf_size - avail_buf_size;
763                 result_tmp_bufs.Add(buf);
764                 break;
765             }
766             if (avail_buf_size == 0) {
767                 result_tmp_bufs.Add(buf);
768                 buf = NULL;
769                 buf = FX_Alloc(FX_BYTE, buf_size + 1);
770                 if (!buf) {
771                     dest_buf = NULL;
772                     dest_size = 0;
773                     return;
774                 }
775                 buf[buf_size] = '\0';
776             } else {
777                 last_buf_size = buf_size - avail_buf_size;
778                 result_tmp_bufs.Add(buf);
779                 buf = NULL;
780                 break;
781             }
782         } else {
783             if (ret != Z_OK) {
784                 break;
785             }
786             if (avail_buf_size == 0) {
787                 FX_DWORD old_size = guess_size;
788                 guess_size += alloc_step;
789                 if (guess_size < old_size || guess_size + 1 < guess_size) {
790                     dest_buf = NULL;
791                     dest_size = 0;
792                     return;
793                 }
794                 guess_buf = FX_Realloc(FX_BYTE, guess_buf, guess_size + 1);
795                 if (!guess_buf) {
796                     dest_buf = NULL;
797                     dest_size = 0;
798                     return;
799                 }
800                 guess_buf[guess_size] = '\0';
801                 buf = guess_buf + old_size;
802                 buf_size = guess_size - old_size;
803             } else {
804                 break;
805             }
806         }
807     }
808     dest_size = FPDFAPI_FlateGetTotalOut(context);
809     offset = FPDFAPI_FlateGetTotalIn(context);
810     if (!useOldImpl) {
811         if (result_tmp_bufs.GetSize() == 1) {
812             dest_buf = result_tmp_bufs[0];
813         } else {
814             FX_LPBYTE result_buf = FX_Alloc(FX_BYTE, dest_size);
815             if (!result_buf) {
816                 dest_buf = NULL;
817                 dest_size = 0;
818                 return;
819             }
820             FX_DWORD result_pos = 0;
821             for (FX_INT32 i = 0; i < result_tmp_bufs.GetSize(); i++) {
822                 FX_LPBYTE tmp_buf = result_tmp_bufs[i];
823                 FX_DWORD tmp_buf_size = buf_size;
824                 if (i == result_tmp_bufs.GetSize() - 1) {
825                     tmp_buf_size = last_buf_size;
826                 }
827                 FXSYS_memcpy32(result_buf + result_pos, tmp_buf, tmp_buf_size);
828                 result_pos += tmp_buf_size;
829                 FX_Free(tmp_buf);
830                 tmp_buf = NULL;
831                 result_tmp_bufs[i] = NULL;
832             }
833             dest_buf = result_buf;
834         }
835     } else {
836         if (guess_size / 2 > dest_size) {
837             guess_buf = FX_Realloc(FX_BYTE, guess_buf, dest_size + 1);
838             if (!guess_buf) {
839                 dest_buf = NULL;
840                 dest_size = 0;
841                 return;
842             }
843             guess_size = dest_size;
844             guess_buf[guess_size] = '\0';
845         }
846         dest_buf = guess_buf;
847     }
848     FPDFAPI_FlateEnd(context);
849     context = NULL;
850 }
851 ICodec_ScanlineDecoder* CCodec_FlateModule::CreateDecoder(FX_LPCBYTE src_buf, FX_DWORD src_size, int width, int height,
852         int nComps, int bpc, int predictor, int Colors, int BitsPerComponent, int Columns)
853 {
854     CCodec_FlateScanlineDecoder* pDecoder = new CCodec_FlateScanlineDecoder;
855     pDecoder->Create(src_buf, src_size, width, height, nComps, bpc, predictor, Colors, BitsPerComponent, Columns);
856     return pDecoder;
857 }
858 FX_DWORD CCodec_FlateModule::FlateOrLZWDecode(FX_BOOL bLZW, const FX_BYTE* src_buf, FX_DWORD src_size, FX_BOOL bEarlyChange,
859         int predictor, int Colors, int BitsPerComponent, int Columns,
860         FX_DWORD estimated_size, FX_LPBYTE& dest_buf, FX_DWORD& dest_size)
861 {
862     CLZWDecoder* pDecoder = NULL;
863     dest_buf = NULL;
864     FX_DWORD offset = 0;
865     int predictor_type = 0;
866     if (predictor) {
867         if (predictor >= 10) {
868             predictor_type = 2;
869         } else if (predictor == 2) {
870             predictor_type = 1;
871         }
872     }
873     if (bLZW) {
874         pDecoder = new CLZWDecoder;
875         dest_size = (FX_DWORD) - 1;
876         offset = src_size;
877         int err = pDecoder->Decode(NULL, dest_size, src_buf, offset, bEarlyChange);
878         delete pDecoder;
879         if (err || dest_size == 0 || dest_size + 1 < dest_size) {
880             return (FX_DWORD) - 1;
881         }
882         pDecoder = new CLZWDecoder;
883         dest_buf = FX_Alloc( FX_BYTE, dest_size + 1);
884         if (dest_buf == NULL) {
885             return -1;
886         }
887         dest_buf[dest_size] = '\0';
888         pDecoder->Decode(dest_buf, dest_size, src_buf, offset, bEarlyChange);
889         delete pDecoder;
890     } else {
891         FlateUncompress(src_buf, src_size, estimated_size, dest_buf, dest_size, offset);
892     }
893     if (predictor_type == 0) {
894         return offset;
895     }
896     if (predictor_type == 2) {
897         PNG_Predictor(dest_buf, dest_size, Colors, BitsPerComponent, Columns);
898     } else if (predictor_type == 1) {
899         TIFF_Predictor(dest_buf, dest_size, Colors, BitsPerComponent, Columns);
900     }
901     return offset;
902 }
903 FX_BOOL CCodec_FlateModule::Encode(const FX_BYTE* src_buf, FX_DWORD src_size,
904                                    int predictor, int Colors, int BitsPerComponent, int Columns,
905                                    FX_LPBYTE& dest_buf, FX_DWORD& dest_size)
906 {
907     if (predictor != 2 && predictor < 10) {
908         return Encode(src_buf, src_size, dest_buf, dest_size);
909     }
910     FX_BOOL ret = FALSE;
911     FX_LPBYTE pSrcBuf = NULL;
912     pSrcBuf = FX_Alloc(FX_BYTE, src_size);
913     if (pSrcBuf == NULL) {
914         return FALSE;
915     }
916     FXSYS_memcpy32(pSrcBuf, src_buf, src_size);
917     if (predictor == 2) {
918         TIFF_PredictorEncode(pSrcBuf, src_size, Colors, BitsPerComponent, Columns);
919     } else if (predictor >= 10) {
920         PNG_PredictorEncode(pSrcBuf, src_size, predictor, Colors, BitsPerComponent, Columns);
921     }
922     ret = Encode(pSrcBuf, src_size, dest_buf, dest_size);
923     FX_Free(pSrcBuf);
924     return ret;
925 }
926 FX_BOOL CCodec_FlateModule::Encode(FX_LPCBYTE src_buf, FX_DWORD src_size, FX_LPBYTE& dest_buf, FX_DWORD& dest_size)
927 {
928     dest_size = src_size + src_size / 1000 + 12;
929     dest_buf = FX_Alloc( FX_BYTE, dest_size);
930     if (dest_buf == NULL) {
931         return FALSE;
932     }
933     unsigned long temp_size = dest_size;
934     FPDFAPI_FlateCompress(dest_buf, &temp_size, src_buf, src_size);
935     dest_size = (FX_DWORD)temp_size;
936     return TRUE;
937 }