91d28b055394ae5a9ae9fe504b09f2cc645ebe94
[pdfium.git] / core / src / fxcodec / codec / fx_codec_flate.cpp
1 // Copyright 2014 PDFium Authors. All rights reserved.
2 // Use of this source code is governed by a BSD-style license that can be
3 // found in the LICENSE file.
4
5 // Original code copyright 2014 Foxit Software Inc. http://www.foxitsoftware.com
6
7 #include "../../../../third_party/base/nonstd_unique_ptr.h"
8 #include "../../../../third_party/zlib_v128/zlib.h"
9 #include "../../../include/fxcodec/fx_codec.h"
10 #include "../../../include/fxcodec/fx_codec_flate.h"
11 #include "codec_int.h"
12
13 extern "C" {
14 static void* my_alloc_func(void* opaque,
15                            unsigned int items,
16                            unsigned int size) {
17   return FX_Alloc2D(uint8_t, items, size);
18 }
19 static void my_free_func(void* opaque, void* address) {
20   FX_Free(address);
21 }
22 static int FPDFAPI_FlateGetTotalOut(void* context) {
23   return ((z_stream*)context)->total_out;
24 }
25 static int FPDFAPI_FlateGetTotalIn(void* context) {
26   return ((z_stream*)context)->total_in;
27 }
28 static void FPDFAPI_FlateCompress(unsigned char* dest_buf,
29                                   unsigned long* dest_size,
30                                   const unsigned char* src_buf,
31                                   unsigned long src_size) {
32   compress(dest_buf, dest_size, src_buf, src_size);
33 }
34 void* FPDFAPI_FlateInit(void* (*alloc_func)(void*, unsigned int, unsigned int),
35                         void (*free_func)(void*, void*)) {
36   z_stream* p = (z_stream*)alloc_func(0, 1, sizeof(z_stream));
37   if (p == NULL) {
38     return NULL;
39   }
40   FXSYS_memset(p, 0, sizeof(z_stream));
41   p->zalloc = alloc_func;
42   p->zfree = free_func;
43   inflateInit(p);
44   return p;
45 }
46 void FPDFAPI_FlateInput(void* context,
47                         const unsigned char* src_buf,
48                         unsigned int src_size) {
49   ((z_stream*)context)->next_in = (unsigned char*)src_buf;
50   ((z_stream*)context)->avail_in = src_size;
51 }
52 int FPDFAPI_FlateOutput(void* context,
53                         unsigned char* dest_buf,
54                         unsigned int dest_size) {
55   ((z_stream*)context)->next_out = dest_buf;
56   ((z_stream*)context)->avail_out = dest_size;
57   unsigned int pre_pos = (unsigned int)FPDFAPI_FlateGetTotalOut(context);
58   int ret = inflate((z_stream*)context, Z_SYNC_FLUSH);
59   unsigned int post_pos = (unsigned int)FPDFAPI_FlateGetTotalOut(context);
60   unsigned int written = post_pos - pre_pos;
61   if (written < dest_size) {
62     FXSYS_memset(dest_buf + written, '\0', dest_size - written);
63   }
64   return ret;
65 }
66 int FPDFAPI_FlateGetAvailIn(void* context) {
67   return ((z_stream*)context)->avail_in;
68 }
69 int FPDFAPI_FlateGetAvailOut(void* context) {
70   return ((z_stream*)context)->avail_out;
71 }
72 void FPDFAPI_FlateEnd(void* context) {
73   inflateEnd((z_stream*)context);
74   ((z_stream*)context)->zfree(0, context);
75 }
76 }  // extern "C"
77
78 class CLZWDecoder {
79  public:
80   int Decode(uint8_t* output,
81              FX_DWORD& outlen,
82              const uint8_t* input,
83              FX_DWORD& size,
84              FX_BOOL bEarlyChange);
85
86  private:
87   void AddCode(FX_DWORD prefix_code, uint8_t append_char);
88   void DecodeString(FX_DWORD code);
89
90   FX_DWORD m_InPos;
91   FX_DWORD m_OutPos;
92   uint8_t* m_pOutput;
93   const uint8_t* m_pInput;
94   FX_BOOL m_Early;
95   FX_DWORD m_CodeArray[5021];
96   FX_DWORD m_nCodes;
97   uint8_t m_DecodeStack[4000];
98   FX_DWORD m_StackLen;
99   int m_CodeLen;
100 };
101 void CLZWDecoder::AddCode(FX_DWORD prefix_code, uint8_t append_char) {
102   if (m_nCodes + m_Early == 4094) {
103     return;
104   }
105   m_CodeArray[m_nCodes++] = (prefix_code << 16) | append_char;
106   if (m_nCodes + m_Early == 512 - 258) {
107     m_CodeLen = 10;
108   } else if (m_nCodes + m_Early == 1024 - 258) {
109     m_CodeLen = 11;
110   } else if (m_nCodes + m_Early == 2048 - 258) {
111     m_CodeLen = 12;
112   }
113 }
114 void CLZWDecoder::DecodeString(FX_DWORD code) {
115   while (1) {
116     int index = code - 258;
117     if (index < 0 || index >= (int)m_nCodes) {
118       break;
119     }
120     FX_DWORD data = m_CodeArray[index];
121     if (m_StackLen >= sizeof(m_DecodeStack)) {
122       return;
123     }
124     m_DecodeStack[m_StackLen++] = (uint8_t)data;
125     code = data >> 16;
126   }
127   if (m_StackLen >= sizeof(m_DecodeStack)) {
128     return;
129   }
130   m_DecodeStack[m_StackLen++] = (uint8_t)code;
131 }
132 int CLZWDecoder::Decode(uint8_t* dest_buf,
133                         FX_DWORD& dest_size,
134                         const uint8_t* src_buf,
135                         FX_DWORD& src_size,
136                         FX_BOOL bEarlyChange) {
137   m_CodeLen = 9;
138   m_InPos = 0;
139   m_OutPos = 0;
140   m_pInput = src_buf;
141   m_pOutput = dest_buf;
142   m_Early = bEarlyChange ? 1 : 0;
143   m_nCodes = 0;
144   FX_DWORD old_code = (FX_DWORD)-1;
145   uint8_t last_char;
146   while (1) {
147     if (m_InPos + m_CodeLen > src_size * 8) {
148       break;
149     }
150     int byte_pos = m_InPos / 8;
151     int bit_pos = m_InPos % 8, bit_left = m_CodeLen;
152     FX_DWORD code = 0;
153     if (bit_pos) {
154       bit_left -= 8 - bit_pos;
155       code = (m_pInput[byte_pos++] & ((1 << (8 - bit_pos)) - 1)) << bit_left;
156     }
157     if (bit_left < 8) {
158       code |= m_pInput[byte_pos] >> (8 - bit_left);
159     } else {
160       bit_left -= 8;
161       code |= m_pInput[byte_pos++] << bit_left;
162       if (bit_left) {
163         code |= m_pInput[byte_pos] >> (8 - bit_left);
164       }
165     }
166     m_InPos += m_CodeLen;
167     if (code < 256) {
168       if (m_OutPos == dest_size) {
169         return -5;
170       }
171       if (m_pOutput) {
172         m_pOutput[m_OutPos] = (uint8_t)code;
173       }
174       m_OutPos++;
175       last_char = (uint8_t)code;
176       if (old_code != (FX_DWORD)-1) {
177         AddCode(old_code, last_char);
178       }
179       old_code = code;
180     } else if (code == 256) {
181       m_CodeLen = 9;
182       m_nCodes = 0;
183       old_code = (FX_DWORD)-1;
184     } else if (code == 257) {
185       break;
186     } else {
187       if (old_code == (FX_DWORD)-1) {
188         return 2;
189       }
190       m_StackLen = 0;
191       if (code >= m_nCodes + 258) {
192         if (m_StackLen < sizeof(m_DecodeStack)) {
193           m_DecodeStack[m_StackLen++] = last_char;
194         }
195         DecodeString(old_code);
196       } else {
197         DecodeString(code);
198       }
199       if (m_OutPos + m_StackLen > dest_size) {
200         return -5;
201       }
202       if (m_pOutput) {
203         for (FX_DWORD i = 0; i < m_StackLen; i++) {
204           m_pOutput[m_OutPos + i] = m_DecodeStack[m_StackLen - i - 1];
205         }
206       }
207       m_OutPos += m_StackLen;
208       last_char = m_DecodeStack[m_StackLen - 1];
209       if (old_code < 256) {
210         AddCode(old_code, last_char);
211       } else if (old_code - 258 >= m_nCodes) {
212         dest_size = m_OutPos;
213         src_size = (m_InPos + 7) / 8;
214         return 0;
215       } else {
216         AddCode(old_code, last_char);
217       }
218       old_code = code;
219     }
220   }
221   dest_size = m_OutPos;
222   src_size = (m_InPos + 7) / 8;
223   return 0;
224 }
225 static uint8_t PaethPredictor(int a, int b, int c) {
226   int p = a + b - c;
227   int pa = FXSYS_abs(p - a);
228   int pb = FXSYS_abs(p - b);
229   int pc = FXSYS_abs(p - c);
230   if (pa <= pb && pa <= pc) {
231     return (uint8_t)a;
232   }
233   if (pb <= pc) {
234     return (uint8_t)b;
235   }
236   return (uint8_t)c;
237 }
238 static FX_BOOL PNG_PredictorEncode(uint8_t*& data_buf,
239                                    FX_DWORD& data_size,
240                                    int predictor,
241                                    int Colors,
242                                    int BitsPerComponent,
243                                    int Columns) {
244   const int BytesPerPixel = (Colors * BitsPerComponent + 7) / 8;
245   const int row_size = (Colors * BitsPerComponent * Columns + 7) / 8;
246   if (row_size <= 0)
247     return FALSE;
248   const int row_count = (data_size + row_size - 1) / row_size;
249   const int last_row_size = data_size % row_size;
250   uint8_t* dest_buf = FX_Alloc2D(uint8_t, row_size + 1, row_count);
251   int byte_cnt = 0;
252   uint8_t* pSrcData = data_buf;
253   uint8_t* pDestData = dest_buf;
254   for (int row = 0; row < row_count; row++) {
255     if (predictor == 10) {
256       pDestData[0] = 0;
257       int move_size = row_size;
258       if (move_size * (row + 1) > (int)data_size) {
259         move_size = data_size - (move_size * row);
260       }
261       FXSYS_memmove(pDestData + 1, pSrcData, move_size);
262       pDestData += (move_size + 1);
263       pSrcData += move_size;
264       byte_cnt += move_size;
265       continue;
266     }
267     for (int byte = 0; byte < row_size && byte_cnt < (int)data_size; byte++) {
268       switch (predictor) {
269         case 11: {
270           pDestData[0] = 1;
271           uint8_t left = 0;
272           if (byte >= BytesPerPixel) {
273             left = pSrcData[byte - BytesPerPixel];
274           }
275           pDestData[byte + 1] = pSrcData[byte] - left;
276         } break;
277         case 12: {
278           pDestData[0] = 2;
279           uint8_t up = 0;
280           if (row) {
281             up = pSrcData[byte - row_size];
282           }
283           pDestData[byte + 1] = pSrcData[byte] - up;
284         } break;
285         case 13: {
286           pDestData[0] = 3;
287           uint8_t left = 0;
288           if (byte >= BytesPerPixel) {
289             left = pSrcData[byte - BytesPerPixel];
290           }
291           uint8_t up = 0;
292           if (row) {
293             up = pSrcData[byte - row_size];
294           }
295           pDestData[byte + 1] = pSrcData[byte] - (left + up) / 2;
296         } break;
297         case 14: {
298           pDestData[0] = 4;
299           uint8_t left = 0;
300           if (byte >= BytesPerPixel) {
301             left = pSrcData[byte - BytesPerPixel];
302           }
303           uint8_t up = 0;
304           if (row) {
305             up = pSrcData[byte - row_size];
306           }
307           uint8_t upper_left = 0;
308           if (byte >= BytesPerPixel && row) {
309             upper_left = pSrcData[byte - row_size - BytesPerPixel];
310           }
311           pDestData[byte + 1] =
312               pSrcData[byte] - PaethPredictor(left, up, upper_left);
313         } break;
314         default: { pDestData[byte + 1] = pSrcData[byte]; } break;
315       }
316       byte_cnt++;
317     }
318     pDestData += (row_size + 1);
319     pSrcData += row_size;
320   }
321   FX_Free(data_buf);
322   data_buf = dest_buf;
323   data_size = (row_size + 1) * row_count -
324               (last_row_size > 0 ? (row_size - last_row_size) : 0);
325   return TRUE;
326 }
327 static void PNG_PredictLine(uint8_t* pDestData,
328                             const uint8_t* pSrcData,
329                             const uint8_t* pLastLine,
330                             int bpc,
331                             int nColors,
332                             int nPixels) {
333   int row_size = (nPixels * bpc * nColors + 7) / 8;
334   int BytesPerPixel = (bpc * nColors + 7) / 8;
335   uint8_t tag = pSrcData[0];
336   if (tag == 0) {
337     FXSYS_memmove(pDestData, pSrcData + 1, row_size);
338     return;
339   }
340   for (int byte = 0; byte < row_size; byte++) {
341     uint8_t raw_byte = pSrcData[byte + 1];
342     switch (tag) {
343       case 1: {
344         uint8_t left = 0;
345         if (byte >= BytesPerPixel) {
346           left = pDestData[byte - BytesPerPixel];
347         }
348         pDestData[byte] = raw_byte + left;
349         break;
350       }
351       case 2: {
352         uint8_t up = 0;
353         if (pLastLine) {
354           up = pLastLine[byte];
355         }
356         pDestData[byte] = raw_byte + up;
357         break;
358       }
359       case 3: {
360         uint8_t left = 0;
361         if (byte >= BytesPerPixel) {
362           left = pDestData[byte - BytesPerPixel];
363         }
364         uint8_t up = 0;
365         if (pLastLine) {
366           up = pLastLine[byte];
367         }
368         pDestData[byte] = raw_byte + (up + left) / 2;
369         break;
370       }
371       case 4: {
372         uint8_t left = 0;
373         if (byte >= BytesPerPixel) {
374           left = pDestData[byte - BytesPerPixel];
375         }
376         uint8_t up = 0;
377         if (pLastLine) {
378           up = pLastLine[byte];
379         }
380         uint8_t upper_left = 0;
381         if (byte >= BytesPerPixel && pLastLine) {
382           upper_left = pLastLine[byte - BytesPerPixel];
383         }
384         pDestData[byte] = raw_byte + PaethPredictor(left, up, upper_left);
385         break;
386       }
387       default:
388         pDestData[byte] = raw_byte;
389         break;
390     }
391   }
392 }
393 static FX_BOOL PNG_Predictor(uint8_t*& data_buf,
394                              FX_DWORD& data_size,
395                              int Colors,
396                              int BitsPerComponent,
397                              int Columns) {
398   const int BytesPerPixel = (Colors * BitsPerComponent + 7) / 8;
399   const int row_size = (Colors * BitsPerComponent * Columns + 7) / 8;
400   if (row_size <= 0)
401     return FALSE;
402   const int row_count = (data_size + row_size) / (row_size + 1);
403   const int last_row_size = data_size % (row_size + 1);
404   uint8_t* dest_buf = FX_Alloc2D(uint8_t, row_size, row_count);
405   int byte_cnt = 0;
406   uint8_t* pSrcData = data_buf;
407   uint8_t* pDestData = dest_buf;
408   for (int row = 0; row < row_count; row++) {
409     uint8_t tag = pSrcData[0];
410     byte_cnt++;
411     if (tag == 0) {
412       int move_size = row_size;
413       if ((row + 1) * (move_size + 1) > (int)data_size) {
414         move_size = last_row_size - 1;
415       }
416       FXSYS_memmove(pDestData, pSrcData + 1, move_size);
417       pSrcData += move_size + 1;
418       pDestData += move_size;
419       byte_cnt += move_size;
420       continue;
421     }
422     for (int byte = 0; byte < row_size && byte_cnt < (int)data_size; byte++) {
423       uint8_t raw_byte = pSrcData[byte + 1];
424       switch (tag) {
425         case 1: {
426           uint8_t left = 0;
427           if (byte >= BytesPerPixel) {
428             left = pDestData[byte - BytesPerPixel];
429           }
430           pDestData[byte] = raw_byte + left;
431           break;
432         }
433         case 2: {
434           uint8_t up = 0;
435           if (row) {
436             up = pDestData[byte - row_size];
437           }
438           pDestData[byte] = raw_byte + up;
439           break;
440         }
441         case 3: {
442           uint8_t left = 0;
443           if (byte >= BytesPerPixel) {
444             left = pDestData[byte - BytesPerPixel];
445           }
446           uint8_t up = 0;
447           if (row) {
448             up = pDestData[byte - row_size];
449           }
450           pDestData[byte] = raw_byte + (up + left) / 2;
451           break;
452         }
453         case 4: {
454           uint8_t left = 0;
455           if (byte >= BytesPerPixel) {
456             left = pDestData[byte - BytesPerPixel];
457           }
458           uint8_t up = 0;
459           if (row) {
460             up = pDestData[byte - row_size];
461           }
462           uint8_t upper_left = 0;
463           if (byte >= BytesPerPixel && row) {
464             upper_left = pDestData[byte - row_size - BytesPerPixel];
465           }
466           pDestData[byte] = raw_byte + PaethPredictor(left, up, upper_left);
467           break;
468         }
469         default:
470           pDestData[byte] = raw_byte;
471           break;
472       }
473       byte_cnt++;
474     }
475     pSrcData += row_size + 1;
476     pDestData += row_size;
477   }
478   FX_Free(data_buf);
479   data_buf = dest_buf;
480   data_size = row_size * row_count -
481               (last_row_size > 0 ? (row_size + 1 - last_row_size) : 0);
482   return TRUE;
483 }
484 static void TIFF_PredictorEncodeLine(uint8_t* dest_buf,
485                                      int row_size,
486                                      int BitsPerComponent,
487                                      int Colors,
488                                      int Columns) {
489   int BytesPerPixel = BitsPerComponent * Colors / 8;
490   if (BitsPerComponent < 8) {
491     uint8_t mask = 0x01;
492     if (BitsPerComponent == 2) {
493       mask = 0x03;
494     } else if (BitsPerComponent == 4) {
495       mask = 0x0F;
496     }
497     int row_bits = Colors * BitsPerComponent * Columns;
498     for (int i = row_bits - BitsPerComponent; i >= BitsPerComponent;
499          i -= BitsPerComponent) {
500       int col = i % 8;
501       int index = i / 8;
502       int col_pre =
503           (col == 0) ? (8 - BitsPerComponent) : (col - BitsPerComponent);
504       int index_pre = (col == 0) ? (index - 1) : index;
505       uint8_t cur = (dest_buf[index] >> (8 - col - BitsPerComponent)) & mask;
506       uint8_t left =
507           (dest_buf[index_pre] >> (8 - col_pre - BitsPerComponent)) & mask;
508       cur -= left;
509       cur &= mask;
510       cur <<= (8 - col - BitsPerComponent);
511       dest_buf[index] &= ~(mask << ((8 - col - BitsPerComponent)));
512       dest_buf[index] |= cur;
513     }
514   } else if (BitsPerComponent == 8) {
515     for (int i = row_size - 1; i >= BytesPerPixel; i--) {
516       dest_buf[i] -= dest_buf[i - BytesPerPixel];
517     }
518   } else {
519     for (int i = row_size - BytesPerPixel; i >= BytesPerPixel;
520          i -= BytesPerPixel) {
521       FX_WORD pixel = (dest_buf[i] << 8) | dest_buf[i + 1];
522       pixel -=
523           (dest_buf[i - BytesPerPixel] << 8) | dest_buf[i - BytesPerPixel + 1];
524       dest_buf[i] = pixel >> 8;
525       dest_buf[i + 1] = (uint8_t)pixel;
526     }
527   }
528 }
529 static FX_BOOL TIFF_PredictorEncode(uint8_t*& data_buf,
530                                     FX_DWORD& data_size,
531                                     int Colors,
532                                     int BitsPerComponent,
533                                     int Columns) {
534   int row_size = (Colors * BitsPerComponent * Columns + 7) / 8;
535   if (row_size == 0)
536     return FALSE;
537   const int row_count = (data_size + row_size - 1) / row_size;
538   const int last_row_size = data_size % row_size;
539   for (int row = 0; row < row_count; row++) {
540     uint8_t* scan_line = data_buf + row * row_size;
541     if ((row + 1) * row_size > (int)data_size) {
542       row_size = last_row_size;
543     }
544     TIFF_PredictorEncodeLine(scan_line, row_size, BitsPerComponent, Colors,
545                              Columns);
546   }
547   return TRUE;
548 }
549 static void TIFF_PredictLine(uint8_t* dest_buf,
550                              int row_size,
551                              int BitsPerComponent,
552                              int Colors,
553                              int Columns) {
554   if (BitsPerComponent == 1) {
555     int row_bits = FX_MIN(BitsPerComponent * Colors * Columns, row_size * 8);
556     int index_pre = 0;
557     int col_pre = 0;
558     for (int i = 1; i < row_bits; i++) {
559       int col = i % 8;
560       int index = i / 8;
561       if (((dest_buf[index] >> (7 - col)) & 1) ^
562           ((dest_buf[index_pre] >> (7 - col_pre)) & 1)) {
563         dest_buf[index] |= 1 << (7 - col);
564       } else {
565         dest_buf[index] &= ~(1 << (7 - col));
566       }
567       index_pre = index;
568       col_pre = col;
569     }
570     return;
571   }
572   int BytesPerPixel = BitsPerComponent * Colors / 8;
573   if (BitsPerComponent == 16) {
574     for (int i = BytesPerPixel; i < row_size; i += 2) {
575       FX_WORD pixel =
576           (dest_buf[i - BytesPerPixel] << 8) | dest_buf[i - BytesPerPixel + 1];
577       pixel += (dest_buf[i] << 8) | dest_buf[i + 1];
578       dest_buf[i] = pixel >> 8;
579       dest_buf[i + 1] = (uint8_t)pixel;
580     }
581   } else {
582     for (int i = BytesPerPixel; i < row_size; i++) {
583       dest_buf[i] += dest_buf[i - BytesPerPixel];
584     }
585   }
586 }
587 static FX_BOOL TIFF_Predictor(uint8_t*& data_buf,
588                               FX_DWORD& data_size,
589                               int Colors,
590                               int BitsPerComponent,
591                               int Columns) {
592   int row_size = (Colors * BitsPerComponent * Columns + 7) / 8;
593   if (row_size == 0)
594     return FALSE;
595   const int row_count = (data_size + row_size - 1) / row_size;
596   const int last_row_size = data_size % row_size;
597   for (int row = 0; row < row_count; row++) {
598     uint8_t* scan_line = data_buf + row * row_size;
599     if ((row + 1) * row_size > (int)data_size) {
600       row_size = last_row_size;
601     }
602     TIFF_PredictLine(scan_line, row_size, BitsPerComponent, Colors, Columns);
603   }
604   return TRUE;
605 }
606 class CCodec_FlateScanlineDecoder : public CCodec_ScanlineDecoder {
607  public:
608   CCodec_FlateScanlineDecoder();
609   ~CCodec_FlateScanlineDecoder();
610   void Create(const uint8_t* src_buf,
611               FX_DWORD src_size,
612               int width,
613               int height,
614               int nComps,
615               int bpc,
616               int predictor,
617               int Colors,
618               int BitsPerComponent,
619               int Columns);
620   virtual void Destroy() { delete this; }
621   virtual void v_DownScale(int dest_width, int dest_height) {}
622   virtual FX_BOOL v_Rewind();
623   virtual uint8_t* v_GetNextLine();
624   virtual FX_DWORD GetSrcOffset();
625   void* m_pFlate;
626   const uint8_t* m_SrcBuf;
627   FX_DWORD m_SrcSize;
628   uint8_t* m_pScanline;
629   uint8_t* m_pLastLine;
630   uint8_t* m_pPredictBuffer;
631   uint8_t* m_pPredictRaw;
632   int m_Predictor;
633   int m_Colors, m_BitsPerComponent, m_Columns, m_PredictPitch, m_LeftOver;
634 };
635 CCodec_FlateScanlineDecoder::CCodec_FlateScanlineDecoder() {
636   m_pFlate = NULL;
637   m_pScanline = NULL;
638   m_pLastLine = NULL;
639   m_pPredictBuffer = NULL;
640   m_pPredictRaw = NULL;
641   m_LeftOver = 0;
642 }
643 CCodec_FlateScanlineDecoder::~CCodec_FlateScanlineDecoder() {
644   if (m_pScanline) {
645     FX_Free(m_pScanline);
646   }
647   if (m_pLastLine) {
648     FX_Free(m_pLastLine);
649   }
650   if (m_pPredictBuffer) {
651     FX_Free(m_pPredictBuffer);
652   }
653   if (m_pPredictRaw) {
654     FX_Free(m_pPredictRaw);
655   }
656   if (m_pFlate) {
657     FPDFAPI_FlateEnd(m_pFlate);
658   }
659 }
660 void CCodec_FlateScanlineDecoder::Create(const uint8_t* src_buf,
661                                          FX_DWORD src_size,
662                                          int width,
663                                          int height,
664                                          int nComps,
665                                          int bpc,
666                                          int predictor,
667                                          int Colors,
668                                          int BitsPerComponent,
669                                          int Columns) {
670   m_SrcBuf = src_buf;
671   m_SrcSize = src_size;
672   m_OutputWidth = m_OrigWidth = width;
673   m_OutputHeight = m_OrigHeight = height;
674   m_nComps = nComps;
675   m_bpc = bpc;
676   m_bColorTransformed = FALSE;
677   m_Pitch = (width * nComps * bpc + 7) / 8;
678   m_pScanline = FX_Alloc(uint8_t, m_Pitch);
679   m_Predictor = 0;
680   if (predictor) {
681     if (predictor >= 10) {
682       m_Predictor = 2;
683     } else if (predictor == 2) {
684       m_Predictor = 1;
685     }
686     if (m_Predictor) {
687       if (BitsPerComponent * Colors * Columns == 0) {
688         BitsPerComponent = m_bpc;
689         Colors = m_nComps;
690         Columns = m_OrigWidth;
691       }
692       m_Colors = Colors;
693       m_BitsPerComponent = BitsPerComponent;
694       m_Columns = Columns;
695       m_PredictPitch = (m_BitsPerComponent * m_Colors * m_Columns + 7) / 8;
696       m_pLastLine = FX_Alloc(uint8_t, m_PredictPitch);
697       m_pPredictRaw = FX_Alloc(uint8_t, m_PredictPitch + 1);
698       m_pPredictBuffer = FX_Alloc(uint8_t, m_PredictPitch);
699     }
700   }
701 }
702 FX_BOOL CCodec_FlateScanlineDecoder::v_Rewind() {
703   if (m_pFlate) {
704     FPDFAPI_FlateEnd(m_pFlate);
705   }
706   m_pFlate = FPDFAPI_FlateInit(my_alloc_func, my_free_func);
707   if (m_pFlate == NULL) {
708     return FALSE;
709   }
710   FPDFAPI_FlateInput(m_pFlate, m_SrcBuf, m_SrcSize);
711   m_LeftOver = 0;
712   return TRUE;
713 }
714 uint8_t* CCodec_FlateScanlineDecoder::v_GetNextLine() {
715   if (m_Predictor) {
716     if (m_Pitch == m_PredictPitch) {
717       if (m_Predictor == 2) {
718         FPDFAPI_FlateOutput(m_pFlate, m_pPredictRaw, m_PredictPitch + 1);
719         PNG_PredictLine(m_pScanline, m_pPredictRaw, m_pLastLine,
720                         m_BitsPerComponent, m_Colors, m_Columns);
721         FXSYS_memcpy(m_pLastLine, m_pScanline, m_PredictPitch);
722       } else {
723         FPDFAPI_FlateOutput(m_pFlate, m_pScanline, m_Pitch);
724         TIFF_PredictLine(m_pScanline, m_PredictPitch, m_bpc, m_nComps,
725                          m_OutputWidth);
726       }
727     } else {
728       int bytes_to_go = m_Pitch;
729       int read_leftover = m_LeftOver > bytes_to_go ? bytes_to_go : m_LeftOver;
730       if (read_leftover) {
731         FXSYS_memcpy(m_pScanline,
732                      m_pPredictBuffer + m_PredictPitch - m_LeftOver,
733                      read_leftover);
734         m_LeftOver -= read_leftover;
735         bytes_to_go -= read_leftover;
736       }
737       while (bytes_to_go) {
738         if (m_Predictor == 2) {
739           FPDFAPI_FlateOutput(m_pFlate, m_pPredictRaw, m_PredictPitch + 1);
740           PNG_PredictLine(m_pPredictBuffer, m_pPredictRaw, m_pLastLine,
741                           m_BitsPerComponent, m_Colors, m_Columns);
742           FXSYS_memcpy(m_pLastLine, m_pPredictBuffer, m_PredictPitch);
743         } else {
744           FPDFAPI_FlateOutput(m_pFlate, m_pPredictBuffer, m_PredictPitch);
745           TIFF_PredictLine(m_pPredictBuffer, m_PredictPitch, m_BitsPerComponent,
746                            m_Colors, m_Columns);
747         }
748         int read_bytes =
749             m_PredictPitch > bytes_to_go ? bytes_to_go : m_PredictPitch;
750         FXSYS_memcpy(m_pScanline + m_Pitch - bytes_to_go, m_pPredictBuffer,
751                      read_bytes);
752         m_LeftOver += m_PredictPitch - read_bytes;
753         bytes_to_go -= read_bytes;
754       }
755     }
756   } else {
757     FPDFAPI_FlateOutput(m_pFlate, m_pScanline, m_Pitch);
758   }
759   return m_pScanline;
760 }
761 FX_DWORD CCodec_FlateScanlineDecoder::GetSrcOffset() {
762   return FPDFAPI_FlateGetTotalIn(m_pFlate);
763 }
764 static void FlateUncompress(const uint8_t* src_buf,
765                             FX_DWORD src_size,
766                             FX_DWORD orig_size,
767                             uint8_t*& dest_buf,
768                             FX_DWORD& dest_size,
769                             FX_DWORD& offset) {
770   const FX_BOOL useOldImpl = src_size < 10240;
771   FX_DWORD guess_size = orig_size ? orig_size : src_size * 2;
772   FX_DWORD alloc_step =
773       orig_size ? 10240 : (src_size < 10240 ? 10240 : src_size);
774   static const FX_DWORD kMaxInitialAllocSize = 10000000;
775   if (guess_size > kMaxInitialAllocSize) {
776     guess_size = kMaxInitialAllocSize;
777     alloc_step = kMaxInitialAllocSize;
778   }
779   FX_DWORD buf_size = guess_size;
780   FX_DWORD last_buf_size = buf_size;
781   void* context = nullptr;
782
783   uint8_t* guess_buf = FX_Alloc(uint8_t, guess_size + 1);
784   uint8_t* cur_buf = guess_buf;
785   guess_buf[guess_size] = '\0';
786   context = FPDFAPI_FlateInit(my_alloc_func, my_free_func);
787   if (!context)
788     goto fail;
789   FPDFAPI_FlateInput(context, src_buf, src_size);
790   if (useOldImpl) {
791     while (1) {
792       int32_t ret = FPDFAPI_FlateOutput(context, cur_buf, buf_size);
793       if (ret != Z_OK)
794         break;
795       int32_t avail_buf_size = FPDFAPI_FlateGetAvailOut(context);
796       if (avail_buf_size != 0)
797         break;
798
799       // |avail_buf_size| == 0 case.
800       FX_DWORD old_size = guess_size;
801       guess_size += alloc_step;
802       if (guess_size < old_size || guess_size + 1 < guess_size)
803         goto fail;
804       guess_buf = FX_Realloc(uint8_t, guess_buf, guess_size + 1);
805       if (!guess_buf)
806         goto fail;
807       guess_buf[guess_size] = '\0';
808       cur_buf = guess_buf + old_size;
809       buf_size = guess_size - old_size;
810     }
811     dest_size = FPDFAPI_FlateGetTotalOut(context);
812     offset = FPDFAPI_FlateGetTotalIn(context);
813     if (guess_size / 2 > dest_size) {
814       guess_buf = FX_Realloc(uint8_t, guess_buf, dest_size + 1);
815       if (!guess_buf)
816         goto fail;
817       guess_size = dest_size;
818       guess_buf[guess_size] = '\0';
819     }
820     dest_buf = guess_buf;
821   } else {
822     CFX_ArrayTemplate<uint8_t*> result_tmp_bufs;
823     while (1) {
824       int32_t ret = FPDFAPI_FlateOutput(context, cur_buf, buf_size);
825       int32_t avail_buf_size = FPDFAPI_FlateGetAvailOut(context);
826       if (ret != Z_OK) {
827         last_buf_size = buf_size - avail_buf_size;
828         result_tmp_bufs.Add(cur_buf);
829         break;
830       }
831       if (avail_buf_size != 0) {
832         last_buf_size = buf_size - avail_buf_size;
833         result_tmp_bufs.Add(cur_buf);
834         break;
835       }
836
837       // |avail_buf_size| == 0 case.
838       result_tmp_bufs.Add(cur_buf);
839       cur_buf = FX_Alloc(uint8_t, buf_size + 1);
840       cur_buf[buf_size] = '\0';
841     }
842     dest_size = FPDFAPI_FlateGetTotalOut(context);
843     offset = FPDFAPI_FlateGetTotalIn(context);
844     if (result_tmp_bufs.GetSize() == 1) {
845       dest_buf = result_tmp_bufs[0];
846     } else {
847       uint8_t* result_buf = FX_Alloc(uint8_t, dest_size);
848       FX_DWORD result_pos = 0;
849       for (int32_t i = 0; i < result_tmp_bufs.GetSize(); i++) {
850         uint8_t* tmp_buf = result_tmp_bufs[i];
851         FX_DWORD tmp_buf_size = buf_size;
852         if (i == result_tmp_bufs.GetSize() - 1) {
853           tmp_buf_size = last_buf_size;
854         }
855         FXSYS_memcpy(result_buf + result_pos, tmp_buf, tmp_buf_size);
856         result_pos += tmp_buf_size;
857         FX_Free(result_tmp_bufs[i]);
858       }
859       dest_buf = result_buf;
860     }
861   }
862   FPDFAPI_FlateEnd(context);
863   return;
864
865 fail:
866   FX_Free(guess_buf);
867   dest_buf = nullptr;
868   dest_size = 0;
869   return;
870 }
871 ICodec_ScanlineDecoder* CCodec_FlateModule::CreateDecoder(
872     const uint8_t* src_buf,
873     FX_DWORD src_size,
874     int width,
875     int height,
876     int nComps,
877     int bpc,
878     int predictor,
879     int Colors,
880     int BitsPerComponent,
881     int Columns) {
882   CCodec_FlateScanlineDecoder* pDecoder = new CCodec_FlateScanlineDecoder;
883   pDecoder->Create(src_buf, src_size, width, height, nComps, bpc, predictor,
884                    Colors, BitsPerComponent, Columns);
885   return pDecoder;
886 }
887 FX_DWORD CCodec_FlateModule::FlateOrLZWDecode(FX_BOOL bLZW,
888                                               const uint8_t* src_buf,
889                                               FX_DWORD src_size,
890                                               FX_BOOL bEarlyChange,
891                                               int predictor,
892                                               int Colors,
893                                               int BitsPerComponent,
894                                               int Columns,
895                                               FX_DWORD estimated_size,
896                                               uint8_t*& dest_buf,
897                                               FX_DWORD& dest_size) {
898   dest_buf = NULL;
899   FX_DWORD offset = 0;
900   int predictor_type = 0;
901   if (predictor) {
902     if (predictor >= 10) {
903       predictor_type = 2;
904     } else if (predictor == 2) {
905       predictor_type = 1;
906     }
907   }
908   if (bLZW) {
909     {
910       nonstd::unique_ptr<CLZWDecoder> decoder(new CLZWDecoder);
911       dest_size = (FX_DWORD)-1;
912       offset = src_size;
913       int err = decoder->Decode(NULL, dest_size, src_buf, offset, bEarlyChange);
914       if (err || dest_size == 0 || dest_size + 1 < dest_size) {
915         return -1;
916       }
917     }
918     {
919       nonstd::unique_ptr<CLZWDecoder> decoder(new CLZWDecoder);
920       dest_buf = FX_Alloc(uint8_t, dest_size + 1);
921       dest_buf[dest_size] = '\0';
922       decoder->Decode(dest_buf, dest_size, src_buf, offset, bEarlyChange);
923     }
924   } else {
925     FlateUncompress(src_buf, src_size, estimated_size, dest_buf, dest_size,
926                     offset);
927   }
928   if (predictor_type == 0) {
929     return offset;
930   }
931   FX_BOOL ret = TRUE;
932   if (predictor_type == 2) {
933     ret = PNG_Predictor(dest_buf, dest_size, Colors, BitsPerComponent, Columns);
934   } else if (predictor_type == 1) {
935     ret =
936         TIFF_Predictor(dest_buf, dest_size, Colors, BitsPerComponent, Columns);
937   }
938   return ret ? offset : -1;
939 }
940 FX_BOOL CCodec_FlateModule::Encode(const uint8_t* src_buf,
941                                    FX_DWORD src_size,
942                                    int predictor,
943                                    int Colors,
944                                    int BitsPerComponent,
945                                    int Columns,
946                                    uint8_t*& dest_buf,
947                                    FX_DWORD& dest_size) {
948   if (predictor != 2 && predictor < 10) {
949     return Encode(src_buf, src_size, dest_buf, dest_size);
950   }
951   uint8_t* pSrcBuf = NULL;
952   pSrcBuf = FX_Alloc(uint8_t, src_size);
953   FXSYS_memcpy(pSrcBuf, src_buf, src_size);
954   FX_BOOL ret = TRUE;
955   if (predictor == 2) {
956     ret = TIFF_PredictorEncode(pSrcBuf, src_size, Colors, BitsPerComponent,
957                                Columns);
958   } else if (predictor >= 10) {
959     ret = PNG_PredictorEncode(pSrcBuf, src_size, predictor, Colors,
960                               BitsPerComponent, Columns);
961   }
962   if (ret)
963     ret = Encode(pSrcBuf, src_size, dest_buf, dest_size);
964   FX_Free(pSrcBuf);
965   return ret;
966 }
967 FX_BOOL CCodec_FlateModule::Encode(const uint8_t* src_buf,
968                                    FX_DWORD src_size,
969                                    uint8_t*& dest_buf,
970                                    FX_DWORD& dest_size) {
971   dest_size = src_size + src_size / 1000 + 12;
972   dest_buf = FX_Alloc(uint8_t, dest_size);
973   unsigned long temp_size = dest_size;
974   FPDFAPI_FlateCompress(dest_buf, &temp_size, src_buf, src_size);
975   dest_size = (FX_DWORD)temp_size;
976   return TRUE;
977 }