Stop inlining CJBig2_BitStream.
[pdfium.git] / core / src / fxcodec / jbig2 / JBig2_GsidProc.cpp
1 // Copyright 2015 PDFium Authors. All rights reserved.
2 // Use of this source code is governed by a BSD-style license that can be
3 // found in the LICENSE file.
4
5 // Original code copyright 2014 Foxit Software Inc. http://www.foxitsoftware.com
6
7 #include "JBig2_GsidProc.h"
8
9 #include "../../../../third_party/base/nonstd_unique_ptr.h"
10 #include "../../../include/fxcrt/fx_basic.h"
11 #include "JBig2_BitStream.h"
12 #include "JBig2_GrdProc.h"
13 #include "JBig2_Image.h"
14
15 FX_DWORD* CJBig2_GSIDProc::decode_Arith(CJBig2_ArithDecoder* pArithDecoder,
16                                         JBig2ArithCtx* gbContext,
17                                         IFX_Pause* pPause) {
18   nonstd::unique_ptr<CJBig2_GRDProc> pGRD(new CJBig2_GRDProc());
19   pGRD->MMR = GSMMR;
20   pGRD->GBW = GSW;
21   pGRD->GBH = GSH;
22   pGRD->GBTEMPLATE = GSTEMPLATE;
23   pGRD->TPGDON = 0;
24   pGRD->USESKIP = GSUSESKIP;
25   pGRD->SKIP = GSKIP;
26   if (GSTEMPLATE <= 1) {
27     pGRD->GBAT[0] = 3;
28   } else {
29     pGRD->GBAT[0] = 2;
30   }
31   pGRD->GBAT[1] = -1;
32   if (pGRD->GBTEMPLATE == 0) {
33     pGRD->GBAT[2] = -3;
34     pGRD->GBAT[3] = -1;
35     pGRD->GBAT[4] = 2;
36     pGRD->GBAT[5] = -2;
37     pGRD->GBAT[6] = -2;
38     pGRD->GBAT[7] = -2;
39   }
40
41   nonstd::unique_ptr<CJBig2_Image*, FxFreeDeleter> GSPLANES(
42       FX_Alloc(CJBig2_Image*, GSBPP));
43   JBIG2_memset(GSPLANES.get(), 0, sizeof(CJBig2_Image*) * GSBPP);
44   FXCODEC_STATUS status = pGRD->Start_decode_Arith(
45       &GSPLANES.get()[GSBPP - 1], pArithDecoder, gbContext, nullptr);
46   while (status == FXCODEC_STATUS_DECODE_TOBECONTINUE) {
47     pGRD->Continue_decode(pPause);
48   }
49   if (!GSPLANES.get()[GSBPP - 1])
50     return nullptr;
51
52   int32_t J = GSBPP - 2;
53   while (J >= 0) {
54     FXCODEC_STATUS status = pGRD->Start_decode_Arith(
55         &GSPLANES.get()[J], pArithDecoder, gbContext, nullptr);
56     while (status == FXCODEC_STATUS_DECODE_TOBECONTINUE) {
57       pGRD->Continue_decode(pPause);
58     }
59     if (!GSPLANES.get()[J]) {
60       for (int32_t K = GSBPP - 1; K > J; --K) {
61         delete GSPLANES.get()[K];
62         return nullptr;
63       }
64     }
65     GSPLANES.get()[J]->composeFrom(0, 0, GSPLANES.get()[J + 1],
66                                    JBIG2_COMPOSE_XOR);
67     J = J - 1;
68   }
69   nonstd::unique_ptr<FX_DWORD, FxFreeDeleter> GSVALS(
70       FX_Alloc2D(FX_DWORD, GSW, GSH));
71   JBIG2_memset(GSVALS.get(), 0, sizeof(FX_DWORD) * GSW * GSH);
72   for (FX_DWORD y = 0; y < GSH; ++y) {
73     for (FX_DWORD x = 0; x < GSW; ++x) {
74       for (J = 0; J < GSBPP; ++J) {
75         GSVALS.get()[y * GSW + x] |= GSPLANES.get()[J]->getPixel(x, y) << J;
76       }
77     }
78   }
79   for (J = 0; J < GSBPP; ++J) {
80     delete GSPLANES.get()[J];
81   }
82   return GSVALS.release();
83 }
84
85 FX_DWORD* CJBig2_GSIDProc::decode_MMR(CJBig2_BitStream* pStream,
86                                       IFX_Pause* pPause) {
87   nonstd::unique_ptr<CJBig2_GRDProc> pGRD(new CJBig2_GRDProc());
88   pGRD->MMR = GSMMR;
89   pGRD->GBW = GSW;
90   pGRD->GBH = GSH;
91
92   nonstd::unique_ptr<CJBig2_Image*> GSPLANES(FX_Alloc(CJBig2_Image*, GSBPP));
93   JBIG2_memset(GSPLANES.get(), 0, sizeof(CJBig2_Image*) * GSBPP);
94   FXCODEC_STATUS status =
95       pGRD->Start_decode_MMR(&GSPLANES.get()[GSBPP - 1], pStream, nullptr);
96   while (status == FXCODEC_STATUS_DECODE_TOBECONTINUE) {
97     pGRD->Continue_decode(pPause);
98   }
99   if (!GSPLANES.get()[GSBPP - 1])
100     return nullptr;
101
102   pStream->alignByte();
103   pStream->offset(3);
104   int32_t J = GSBPP - 2;
105   while (J >= 0) {
106     FXCODEC_STATUS status =
107         pGRD->Start_decode_MMR(&GSPLANES.get()[J], pStream, nullptr);
108     while (status == FXCODEC_STATUS_DECODE_TOBECONTINUE) {
109       pGRD->Continue_decode(pPause);
110     }
111     if (!GSPLANES.get()[J]) {
112       for (int32_t K = GSBPP - 1; K > J; --K) {
113         delete GSPLANES.get()[K];
114         return nullptr;
115       }
116     }
117     pStream->alignByte();
118     pStream->offset(3);
119     GSPLANES.get()[J]->composeFrom(0, 0, GSPLANES.get()[J + 1],
120                                    JBIG2_COMPOSE_XOR);
121     J = J - 1;
122   }
123   nonstd::unique_ptr<FX_DWORD> GSVALS(FX_Alloc2D(FX_DWORD, GSW, GSH));
124   JBIG2_memset(GSVALS.get(), 0, sizeof(FX_DWORD) * GSW * GSH);
125   for (FX_DWORD y = 0; y < GSH; ++y) {
126     for (FX_DWORD x = 0; x < GSW; ++x) {
127       for (J = 0; J < GSBPP; ++J) {
128         GSVALS.get()[y * GSW + x] |= GSPLANES.get()[J]->getPixel(x, y) << J;
129       }
130     }
131   }
132   for (J = 0; J < GSBPP; ++J) {
133     delete GSPLANES.get()[J];
134   }
135   return GSVALS.release();
136 }