Merge XFA to PDFium master at 4dc95e7 on 10/28/2014
[pdfium.git] / core / src / fxcodec / fx_tiff / tiff_v403 / tif_luv.c
1 /* $Id: tif_luv.c,v 1.35 2011-04-02 20:54:09 bfriesen Exp $ */
2
3 /*
4  * Copyright (c) 1997 Greg Ward Larson
5  * Copyright (c) 1997 Silicon Graphics, Inc.
6  *
7  * Permission to use, copy, modify, distribute, and sell this software and 
8  * its documentation for any purpose is hereby granted without fee, provided
9  * that (i) the above copyright notices and this permission notice appear in
10  * all copies of the software and related documentation, and (ii) the names of
11  * Sam Leffler, Greg Larson and Silicon Graphics may not be used in any
12  * advertising or publicity relating to the software without the specific,
13  * prior written permission of Sam Leffler, Greg Larson and Silicon Graphics.
14  * 
15  * THE SOFTWARE IS PROVIDED "AS-IS" AND WITHOUT WARRANTY OF ANY KIND, 
16  * EXPRESS, IMPLIED OR OTHERWISE, INCLUDING WITHOUT LIMITATION, ANY 
17  * WARRANTY OF MERCHANTABILITY OR FITNESS FOR A PARTICULAR PURPOSE.  
18  * 
19  * IN NO EVENT SHALL SAM LEFFLER, GREG LARSON OR SILICON GRAPHICS BE LIABLE
20  * FOR ANY SPECIAL, INCIDENTAL, INDIRECT OR CONSEQUENTIAL DAMAGES OF ANY KIND,
21  * OR ANY DAMAGES WHATSOEVER RESULTING FROM LOSS OF USE, DATA OR PROFITS,
22  * WHETHER OR NOT ADVISED OF THE POSSIBILITY OF DAMAGE, AND ON ANY THEORY OF 
23  * LIABILITY, ARISING OUT OF OR IN CONNECTION WITH THE USE OR PERFORMANCE 
24  * OF THIS SOFTWARE.
25  */
26 #if (!defined(_FPDFAPI_MINI_) || defined(_TIFF_DECODER_)) && !defined(_USE_ADDIN_) && !defined _FX_NO_ANSIC_ && !defined(_FX_EMB_NOUSE_DECODER_)
27 #include "tiffiop.h"
28 #ifdef LOGLUV_SUPPORT
29
30 /*
31  * TIFF Library.
32  * LogLuv compression support for high dynamic range images.
33  *
34  * Contributed by Greg Larson.
35  *
36  * LogLuv image support uses the TIFF library to store 16 or 10-bit
37  * log luminance values with 8 bits each of u and v or a 14-bit index.
38  *
39  * The codec can take as input and produce as output 32-bit IEEE float values 
40  * as well as 16-bit integer values.  A 16-bit luminance is interpreted
41  * as a sign bit followed by a 15-bit integer that is converted
42  * to and from a linear magnitude using the transformation:
43  *
44  *      L = 2^( (Le+.5)/256 - 64 )              # real from 15-bit
45  *
46  *      Le = floor( 256*(log2(L) + 64) )        # 15-bit from real
47  *
48  * The actual conversion to world luminance units in candelas per sq. meter
49  * requires an additional multiplier, which is stored in the TIFFTAG_STONITS.
50  * This value is usually set such that a reasonable exposure comes from
51  * clamping decoded luminances above 1 to 1 in the displayed image.
52  *
53  * The 16-bit values for u and v may be converted to real values by dividing
54  * each by 32768.  (This allows for negative values, which aren't useful as
55  * far as we know, but are left in case of future improvements in human
56  * color vision.)
57  *
58  * Conversion from (u,v), which is actually the CIE (u',v') system for
59  * you color scientists, is accomplished by the following transformation:
60  *
61  *      u = 4*x / (-2*x + 12*y + 3)
62  *      v = 9*y / (-2*x + 12*y + 3)
63  *
64  *      x = 9*u / (6*u - 16*v + 12)
65  *      y = 4*v / (6*u - 16*v + 12)
66  *
67  * This process is greatly simplified by passing 32-bit IEEE floats
68  * for each of three CIE XYZ coordinates.  The codec then takes care
69  * of conversion to and from LogLuv, though the application is still
70  * responsible for interpreting the TIFFTAG_STONITS calibration factor.
71  *
72  * By definition, a CIE XYZ vector of [1 1 1] corresponds to a neutral white
73  * point of (x,y)=(1/3,1/3).  However, most color systems assume some other
74  * white point, such as D65, and an absolute color conversion to XYZ then
75  * to another color space with a different white point may introduce an
76  * unwanted color cast to the image.  It is often desirable, therefore, to
77  * perform a white point conversion that maps the input white to [1 1 1]
78  * in XYZ, then record the original white point using the TIFFTAG_WHITEPOINT
79  * tag value.  A decoder that demands absolute color calibration may use
80  * this white point tag to get back the original colors, but usually it
81  * will be ignored and the new white point will be used instead that
82  * matches the output color space.
83  *
84  * Pixel information is compressed into one of two basic encodings, depending
85  * on the setting of the compression tag, which is one of COMPRESSION_SGILOG
86  * or COMPRESSION_SGILOG24.  For COMPRESSION_SGILOG, greyscale data is
87  * stored as:
88  *
89  *       1       15
90  *      |-+---------------|
91  *
92  * COMPRESSION_SGILOG color data is stored as:
93  *
94  *       1       15           8        8
95  *      |-+---------------|--------+--------|
96  *       S       Le           ue       ve
97  *
98  * For the 24-bit COMPRESSION_SGILOG24 color format, the data is stored as:
99  *
100  *           10           14
101  *      |----------|--------------|
102  *           Le'          Ce
103  *
104  * There is no sign bit in the 24-bit case, and the (u,v) chromaticity is
105  * encoded as an index for optimal color resolution.  The 10 log bits are
106  * defined by the following conversions:
107  *
108  *      L = 2^((Le'+.5)/64 - 12)                # real from 10-bit
109  *
110  *      Le' = floor( 64*(log2(L) + 12) )        # 10-bit from real
111  *
112  * The 10 bits of the smaller format may be converted into the 15 bits of
113  * the larger format by multiplying by 4 and adding 13314.  Obviously,
114  * a smaller range of magnitudes is covered (about 5 orders of magnitude
115  * instead of 38), and the lack of a sign bit means that negative luminances
116  * are not allowed.  (Well, they aren't allowed in the real world, either,
117  * but they are useful for certain types of image processing.)
118  *
119  * The desired user format is controlled by the setting the internal
120  * pseudo tag TIFFTAG_SGILOGDATAFMT to one of:
121  *  SGILOGDATAFMT_FLOAT       = IEEE 32-bit float XYZ values
122  *  SGILOGDATAFMT_16BIT       = 16-bit integer encodings of logL, u and v
123  * Raw data i/o is also possible using:
124  *  SGILOGDATAFMT_RAW         = 32-bit unsigned integer with encoded pixel
125  * In addition, the following decoding is provided for ease of display:
126  *  SGILOGDATAFMT_8BIT        = 8-bit default RGB gamma-corrected values
127  *
128  * For grayscale images, we provide the following data formats:
129  *  SGILOGDATAFMT_FLOAT       = IEEE 32-bit float Y values
130  *  SGILOGDATAFMT_16BIT       = 16-bit integer w/ encoded luminance
131  *  SGILOGDATAFMT_8BIT        = 8-bit gray monitor values
132  *
133  * Note that the COMPRESSION_SGILOG applies a simple run-length encoding
134  * scheme by separating the logL, u and v bytes for each row and applying
135  * a PackBits type of compression.  Since the 24-bit encoding is not
136  * adaptive, the 32-bit color format takes less space in many cases.
137  *
138  * Further control is provided over the conversion from higher-resolution
139  * formats to final encoded values through the pseudo tag
140  * TIFFTAG_SGILOGENCODE:
141  *  SGILOGENCODE_NODITHER     = do not dither encoded values
142  *  SGILOGENCODE_RANDITHER    = apply random dithering during encoding
143  *
144  * The default value of this tag is SGILOGENCODE_NODITHER for
145  * COMPRESSION_SGILOG to maximize run-length encoding and
146  * SGILOGENCODE_RANDITHER for COMPRESSION_SGILOG24 to turn
147  * quantization errors into noise.
148  */
149
150 #include <stdio.h>
151 #include <stdlib.h>
152 #include <math.h>
153
154 /*
155  * State block for each open TIFF
156  * file using LogLuv compression/decompression.
157  */
158 typedef struct logLuvState LogLuvState;
159
160 struct logLuvState {
161         int                     user_datafmt;   /* user data format */
162         int                     encode_meth;    /* encoding method */
163         int                     pixel_size;     /* bytes per pixel */
164
165         uint8*                  tbuf;           /* translation buffer */
166         tmsize_t                tbuflen;        /* buffer length */
167         void (*tfunc)(LogLuvState*, uint8*, tmsize_t);
168
169         TIFFVSetMethod          vgetparent;     /* super-class method */
170         TIFFVSetMethod          vsetparent;     /* super-class method */
171 };
172
173 #define DecoderState(tif)       ((LogLuvState*) (tif)->tif_data)
174 #define EncoderState(tif)       ((LogLuvState*) (tif)->tif_data)
175
176 #define SGILOGDATAFMT_UNKNOWN -1
177
178 #define MINRUN 4 /* minimum run length */
179
180 /*
181  * Decode a string of 16-bit gray pixels.
182  */
183 static int
184 LogL16Decode(TIFF* tif, uint8* op, tmsize_t occ, uint16 s)
185 {
186         static const char module[] = "LogL16Decode";
187         LogLuvState* sp = DecoderState(tif);
188         int shft;
189         tmsize_t i;
190         tmsize_t npixels;
191         unsigned char* bp;
192         int16* tp;
193         int16 b;
194         tmsize_t cc;
195         int rc;
196
197         assert(s == 0);
198         assert(sp != NULL);
199
200         npixels = occ / sp->pixel_size;
201
202         if (sp->user_datafmt == SGILOGDATAFMT_16BIT)
203                 tp = (int16*) op;
204         else {
205                 assert(sp->tbuflen >= npixels);
206                 tp = (int16*) sp->tbuf;
207         }
208         _TIFFmemset((void*) tp, 0, npixels*sizeof (tp[0]));
209
210         bp = (unsigned char*) tif->tif_rawcp;
211         cc = tif->tif_rawcc;
212         /* get each byte string */
213         for (shft = 2*8; (shft -= 8) >= 0; ) {
214                 for (i = 0; i < npixels && cc > 0; )
215                         if (*bp >= 128) {               /* run */
216                                 rc = *bp++ + (2-128);   /* TODO: potential input buffer overrun when decoding corrupt or truncated data */
217                                 b = (int16)(*bp++ << shft);
218                                 cc -= 2;
219                                 while (rc-- && i < npixels)
220                                         tp[i++] |= b;
221                         } else {                        /* non-run */
222                                 rc = *bp++;             /* nul is noop */
223                                 while (--cc && rc-- && i < npixels)
224                                         tp[i++] |= (int16)*bp++ << shft;
225                         }
226                 if (i != npixels) {
227 #if defined(__WIN32__) && (defined(_MSC_VER) || defined(__MINGW32__))
228                         TIFFErrorExt(tif->tif_clientdata, module,
229                             "Not enough data at row %lu (short %I64d pixels)",
230                                      (unsigned long) tif->tif_row,
231                                      (unsigned __int64) (npixels - i));
232 #else
233                         TIFFErrorExt(tif->tif_clientdata, module,
234                             "Not enough data at row %lu (short %llu pixels)",
235                                      (unsigned long) tif->tif_row,
236                                      (unsigned long long) (npixels - i));
237 #endif
238                         tif->tif_rawcp = (uint8*) bp;
239                         tif->tif_rawcc = cc;
240                         return (0);
241                 }
242         }
243         (*sp->tfunc)(sp, op, npixels);
244         tif->tif_rawcp = (uint8*) bp;
245         tif->tif_rawcc = cc;
246         return (1);
247 }
248
249 /*
250  * Decode a string of 24-bit pixels.
251  */
252 static int
253 LogLuvDecode24(TIFF* tif, uint8* op, tmsize_t occ, uint16 s)
254 {
255         static const char module[] = "LogLuvDecode24";
256         LogLuvState* sp = DecoderState(tif);
257         tmsize_t cc;
258         tmsize_t i;
259         tmsize_t npixels;
260         unsigned char* bp;
261         uint32* tp;
262
263         assert(s == 0);
264         assert(sp != NULL);
265
266         npixels = occ / sp->pixel_size;
267
268         if (sp->user_datafmt == SGILOGDATAFMT_RAW)
269                 tp = (uint32 *)op;
270         else {
271                 assert(sp->tbuflen >= npixels);
272                 tp = (uint32 *) sp->tbuf;
273         }
274         /* copy to array of uint32 */
275         bp = (unsigned char*) tif->tif_rawcp;
276         cc = tif->tif_rawcc;
277         for (i = 0; i < npixels && cc > 0; i++) {
278                 tp[i] = bp[0] << 16 | bp[1] << 8 | bp[2];
279                 bp += 3;
280                 cc -= 3;
281         }
282         tif->tif_rawcp = (uint8*) bp;
283         tif->tif_rawcc = cc;
284         if (i != npixels) {
285 #if defined(__WIN32__) && (defined(_MSC_VER) || defined(__MINGW32__))
286                 TIFFErrorExt(tif->tif_clientdata, module,
287                         "Not enough data at row %lu (short %I64d pixels)",
288                              (unsigned long) tif->tif_row,
289                              (unsigned __int64) (npixels - i));
290 #else
291                 TIFFErrorExt(tif->tif_clientdata, module,
292                         "Not enough data at row %lu (short %llu pixels)",
293                              (unsigned long) tif->tif_row,
294                              (unsigned long long) (npixels - i));
295 #endif
296                 return (0);
297         }
298         (*sp->tfunc)(sp, op, npixels);
299         return (1);
300 }
301
302 /*
303  * Decode a string of 32-bit pixels.
304  */
305 static int
306 LogLuvDecode32(TIFF* tif, uint8* op, tmsize_t occ, uint16 s)
307 {
308         static const char module[] = "LogLuvDecode32";
309         LogLuvState* sp;
310         int shft;
311         tmsize_t i;
312         tmsize_t npixels;
313         unsigned char* bp;
314         uint32* tp;
315         uint32 b;
316         tmsize_t cc;
317         int rc;
318
319         assert(s == 0);
320         sp = DecoderState(tif);
321         assert(sp != NULL);
322
323         npixels = occ / sp->pixel_size;
324
325         if (sp->user_datafmt == SGILOGDATAFMT_RAW)
326                 tp = (uint32*) op;
327         else {
328                 assert(sp->tbuflen >= npixels);
329                 tp = (uint32*) sp->tbuf;
330         }
331         _TIFFmemset((void*) tp, 0, npixels*sizeof (tp[0]));
332
333         bp = (unsigned char*) tif->tif_rawcp;
334         cc = tif->tif_rawcc;
335         /* get each byte string */
336         for (shft = 4*8; (shft -= 8) >= 0; ) {
337                 for (i = 0; i < npixels && cc > 0; )
338                         if (*bp >= 128) {               /* run */
339                                 rc = *bp++ + (2-128);
340                                 b = (uint32)*bp++ << shft;
341                                 cc -= 2;                /* TODO: potential input buffer overrun when decoding corrupt or truncated data */
342                                 while (rc-- && i < npixels)
343                                         tp[i++] |= b;
344                         } else {                        /* non-run */
345                                 rc = *bp++;             /* nul is noop */
346                                 while (--cc && rc-- && i < npixels)
347                                         tp[i++] |= (uint32)*bp++ << shft;
348                         }
349                 if (i != npixels) {
350 #if defined(__WIN32__) && (defined(_MSC_VER) || defined(__MINGW32__))
351                         TIFFErrorExt(tif->tif_clientdata, module,
352                         "Not enough data at row %lu (short %I64d pixels)",
353                                      (unsigned long) tif->tif_row,
354                                      (unsigned __int64) (npixels - i));
355 #else
356                         TIFFErrorExt(tif->tif_clientdata, module,
357                         "Not enough data at row %lu (short %llu pixels)",
358                                      (unsigned long) tif->tif_row,
359                                      (unsigned long long) (npixels - i));
360 #endif
361                         tif->tif_rawcp = (uint8*) bp;
362                         tif->tif_rawcc = cc;
363                         return (0);
364                 }
365         }
366         (*sp->tfunc)(sp, op, npixels);
367         tif->tif_rawcp = (uint8*) bp;
368         tif->tif_rawcc = cc;
369         return (1);
370 }
371
372 /*
373  * Decode a strip of pixels.  We break it into rows to
374  * maintain synchrony with the encode algorithm, which
375  * is row by row.
376  */
377 static int
378 LogLuvDecodeStrip(TIFF* tif, uint8* bp, tmsize_t cc, uint16 s)
379 {
380         tmsize_t rowlen = TIFFScanlineSize(tif);
381
382         assert(cc%rowlen == 0);
383         while (cc && (*tif->tif_decoderow)(tif, bp, rowlen, s))
384                 bp += rowlen, cc -= rowlen;
385         return (cc == 0);
386 }
387
388 /*
389  * Decode a tile of pixels.  We break it into rows to
390  * maintain synchrony with the encode algorithm, which
391  * is row by row.
392  */
393 static int
394 LogLuvDecodeTile(TIFF* tif, uint8* bp, tmsize_t cc, uint16 s)
395 {
396         tmsize_t rowlen = TIFFTileRowSize(tif);
397
398         assert(cc%rowlen == 0);
399         while (cc && (*tif->tif_decoderow)(tif, bp, rowlen, s))
400                 bp += rowlen, cc -= rowlen;
401         return (cc == 0);
402 }
403
404 /*
405  * Encode a row of 16-bit pixels.
406  */
407 static int
408 LogL16Encode(TIFF* tif, uint8* bp, tmsize_t cc, uint16 s)
409 {
410         LogLuvState* sp = EncoderState(tif);
411         int shft;
412         tmsize_t i;
413         tmsize_t j;
414         tmsize_t npixels;
415         uint8* op;
416         int16* tp;
417         int16 b;
418         tmsize_t occ;
419         int rc=0, mask;
420         tmsize_t beg;
421
422         assert(s == 0);
423         assert(sp != NULL);
424         npixels = cc / sp->pixel_size;
425
426         if (sp->user_datafmt == SGILOGDATAFMT_16BIT)
427                 tp = (int16*) bp;
428         else {
429                 tp = (int16*) sp->tbuf;
430                 assert(sp->tbuflen >= npixels);
431                 (*sp->tfunc)(sp, bp, npixels);
432         }
433         /* compress each byte string */
434         op = tif->tif_rawcp;
435         occ = tif->tif_rawdatasize - tif->tif_rawcc;
436         for (shft = 2*8; (shft -= 8) >= 0; )
437                 for (i = 0; i < npixels; i += rc) {
438                         if (occ < 4) {
439                                 tif->tif_rawcp = op;
440                                 tif->tif_rawcc = tif->tif_rawdatasize - occ;
441                                 if (!TIFFFlushData1(tif))
442                                         return (-1);
443                                 op = tif->tif_rawcp;
444                                 occ = tif->tif_rawdatasize - tif->tif_rawcc;
445                         }
446                         mask = 0xff << shft;            /* find next run */
447                         for (beg = i; beg < npixels; beg += rc) {
448                                 b = (int16) (tp[beg] & mask);
449                                 rc = 1;
450                                 while (rc < 127+2 && beg+rc < npixels &&
451                                     (tp[beg+rc] & mask) == b)
452                                         rc++;
453                                 if (rc >= MINRUN)
454                                         break;          /* long enough */
455                         }
456                         if (beg-i > 1 && beg-i < MINRUN) {
457                                 b = (int16) (tp[i] & mask);/*check short run */
458                                 j = i+1;
459                                 while ((tp[j++] & mask) == b)
460                                         if (j == beg) {
461                                                 *op++ = (uint8)(128-2+j-i);
462                                                 *op++ = (uint8)(b >> shft);
463                                                 occ -= 2;
464                                                 i = beg;
465                                                 break;
466                                         }
467                         }
468                         while (i < beg) {               /* write out non-run */
469                                 if ((j = beg-i) > 127) j = 127;
470                                 if (occ < j+3) {
471                                         tif->tif_rawcp = op;
472                                         tif->tif_rawcc = tif->tif_rawdatasize - occ;
473                                         if (!TIFFFlushData1(tif))
474                                                 return (-1);
475                                         op = tif->tif_rawcp;
476                                         occ = tif->tif_rawdatasize - tif->tif_rawcc;
477                                 }
478                                 *op++ = (uint8) j; occ--;
479                                 while (j--) {
480                                         *op++ = (uint8) (tp[i++] >> shft & 0xff);
481                                         occ--;
482                                 }
483                         }
484                         if (rc >= MINRUN) {             /* write out run */
485                                 *op++ = (uint8) (128-2+rc);
486                                 *op++ = (uint8) (tp[beg] >> shft & 0xff);
487                                 occ -= 2;
488                         } else
489                                 rc = 0;
490                 }
491         tif->tif_rawcp = op;
492         tif->tif_rawcc = tif->tif_rawdatasize - occ;
493
494         return (1);
495 }
496
497 /*
498  * Encode a row of 24-bit pixels.
499  */
500 static int
501 LogLuvEncode24(TIFF* tif, uint8* bp, tmsize_t cc, uint16 s)
502 {
503         LogLuvState* sp = EncoderState(tif);
504         tmsize_t i;
505         tmsize_t npixels;
506         tmsize_t occ;
507         uint8* op;
508         uint32* tp;
509
510         assert(s == 0);
511         assert(sp != NULL);
512         npixels = cc / sp->pixel_size;
513
514         if (sp->user_datafmt == SGILOGDATAFMT_RAW)
515                 tp = (uint32*) bp;
516         else {
517                 tp = (uint32*) sp->tbuf;
518                 assert(sp->tbuflen >= npixels);
519                 (*sp->tfunc)(sp, bp, npixels);
520         }
521         /* write out encoded pixels */
522         op = tif->tif_rawcp;
523         occ = tif->tif_rawdatasize - tif->tif_rawcc;
524         for (i = npixels; i--; ) {
525                 if (occ < 3) {
526                         tif->tif_rawcp = op;
527                         tif->tif_rawcc = tif->tif_rawdatasize - occ;
528                         if (!TIFFFlushData1(tif))
529                                 return (-1);
530                         op = tif->tif_rawcp;
531                         occ = tif->tif_rawdatasize - tif->tif_rawcc;
532                 }
533                 *op++ = (uint8)(*tp >> 16);
534                 *op++ = (uint8)(*tp >> 8 & 0xff);
535                 *op++ = (uint8)(*tp++ & 0xff);
536                 occ -= 3;
537         }
538         tif->tif_rawcp = op;
539         tif->tif_rawcc = tif->tif_rawdatasize - occ;
540
541         return (1);
542 }
543
544 /*
545  * Encode a row of 32-bit pixels.
546  */
547 static int
548 LogLuvEncode32(TIFF* tif, uint8* bp, tmsize_t cc, uint16 s)
549 {
550         LogLuvState* sp = EncoderState(tif);
551         int shft;
552         tmsize_t i;
553         tmsize_t j;
554         tmsize_t npixels;
555         uint8* op;
556         uint32* tp;
557         uint32 b;
558         tmsize_t occ;
559         int rc=0, mask;
560         tmsize_t beg;
561
562         assert(s == 0);
563         assert(sp != NULL);
564
565         npixels = cc / sp->pixel_size;
566
567         if (sp->user_datafmt == SGILOGDATAFMT_RAW)
568                 tp = (uint32*) bp;
569         else {
570                 tp = (uint32*) sp->tbuf;
571                 assert(sp->tbuflen >= npixels);
572                 (*sp->tfunc)(sp, bp, npixels);
573         }
574         /* compress each byte string */
575         op = tif->tif_rawcp;
576         occ = tif->tif_rawdatasize - tif->tif_rawcc;
577         for (shft = 4*8; (shft -= 8) >= 0; )
578                 for (i = 0; i < npixels; i += rc) {
579                         if (occ < 4) {
580                                 tif->tif_rawcp = op;
581                                 tif->tif_rawcc = tif->tif_rawdatasize - occ;
582                                 if (!TIFFFlushData1(tif))
583                                         return (-1);
584                                 op = tif->tif_rawcp;
585                                 occ = tif->tif_rawdatasize - tif->tif_rawcc;
586                         }
587                         mask = 0xff << shft;            /* find next run */
588                         for (beg = i; beg < npixels; beg += rc) {
589                                 b = tp[beg] & mask;
590                                 rc = 1;
591                                 while (rc < 127+2 && beg+rc < npixels &&
592                                                 (tp[beg+rc] & mask) == b)
593                                         rc++;
594                                 if (rc >= MINRUN)
595                                         break;          /* long enough */
596                         }
597                         if (beg-i > 1 && beg-i < MINRUN) {
598                                 b = tp[i] & mask;       /* check short run */
599                                 j = i+1;
600                                 while ((tp[j++] & mask) == b)
601                                         if (j == beg) {
602                                                 *op++ = (uint8)(128-2+j-i);
603                                                 *op++ = (uint8)(b >> shft);
604                                                 occ -= 2;
605                                                 i = beg;
606                                                 break;
607                                         }
608                         }
609                         while (i < beg) {               /* write out non-run */
610                                 if ((j = beg-i) > 127) j = 127;
611                                 if (occ < j+3) {
612                                         tif->tif_rawcp = op;
613                                         tif->tif_rawcc = tif->tif_rawdatasize - occ;
614                                         if (!TIFFFlushData1(tif))
615                                                 return (-1);
616                                         op = tif->tif_rawcp;
617                                         occ = tif->tif_rawdatasize - tif->tif_rawcc;
618                                 }
619                                 *op++ = (uint8) j; occ--;
620                                 while (j--) {
621                                         *op++ = (uint8)(tp[i++] >> shft & 0xff);
622                                         occ--;
623                                 }
624                         }
625                         if (rc >= MINRUN) {             /* write out run */
626                                 *op++ = (uint8) (128-2+rc);
627                                 *op++ = (uint8)(tp[beg] >> shft & 0xff);
628                                 occ -= 2;
629                         } else
630                                 rc = 0;
631                 }
632         tif->tif_rawcp = op;
633         tif->tif_rawcc = tif->tif_rawdatasize - occ;
634
635         return (1);
636 }
637
638 /*
639  * Encode a strip of pixels.  We break it into rows to
640  * avoid encoding runs across row boundaries.
641  */
642 static int
643 LogLuvEncodeStrip(TIFF* tif, uint8* bp, tmsize_t cc, uint16 s)
644 {
645         tmsize_t rowlen = TIFFScanlineSize(tif);
646
647         assert(cc%rowlen == 0);
648         while (cc && (*tif->tif_encoderow)(tif, bp, rowlen, s) == 1)
649                 bp += rowlen, cc -= rowlen;
650         return (cc == 0);
651 }
652
653 /*
654  * Encode a tile of pixels.  We break it into rows to
655  * avoid encoding runs across row boundaries.
656  */
657 static int
658 LogLuvEncodeTile(TIFF* tif, uint8* bp, tmsize_t cc, uint16 s)
659 {
660         tmsize_t rowlen = TIFFTileRowSize(tif);
661
662         assert(cc%rowlen == 0);
663         while (cc && (*tif->tif_encoderow)(tif, bp, rowlen, s) == 1)
664                 bp += rowlen, cc -= rowlen;
665         return (cc == 0);
666 }
667
668 /*
669  * Encode/Decode functions for converting to and from user formats.
670  */
671
672 #include "uvcode.h"
673
674 #ifndef UVSCALE
675 #define U_NEU           0.210526316
676 #define V_NEU           0.473684211
677 #define UVSCALE         410.
678 #endif
679
680 #ifndef M_LN2
681 #define M_LN2           0.69314718055994530942
682 #endif
683 #ifndef M_PI
684 #define M_PI            3.14159265358979323846
685 #endif
686 #ifndef log2
687 #define log2(x)         ((1./M_LN2)*log(x))
688 #endif
689 #define exp2(x)         exp(M_LN2*(x))
690
691 #define itrunc(x,m)     ((m)==SGILOGENCODE_NODITHER ? \
692                                 (int)(x) : \
693                                 (int)((x) + rand()*(1./RAND_MAX) - .5))
694
695 #if !LOGLUV_PUBLIC
696 static
697 #endif
698 double
699 LogL16toY(int p16)              /* compute luminance from 16-bit LogL */
700 {
701         int     Le = p16 & 0x7fff;
702         double  Y;
703
704         if (!Le)
705                 return (0.);
706         Y = exp(M_LN2/256.*(Le+.5) - M_LN2*64.);
707         return (!(p16 & 0x8000) ? Y : -Y);
708 }
709
710 #if !LOGLUV_PUBLIC
711 static
712 #endif
713 int
714 LogL16fromY(double Y, int em)   /* get 16-bit LogL from Y */
715 {
716         if (Y >= 1.8371976e19)
717                 return (0x7fff);
718         if (Y <= -1.8371976e19)
719                 return (0xffff);
720         if (Y > 5.4136769e-20)
721                 return itrunc(256.*(log2(Y) + 64.), em);
722         if (Y < -5.4136769e-20)
723                 return (~0x7fff | itrunc(256.*(log2(-Y) + 64.), em));
724         return (0);
725 }
726
727 static void
728 L16toY(LogLuvState* sp, uint8* op, tmsize_t n)
729 {
730         int16* l16 = (int16*) sp->tbuf;
731         float* yp = (float*) op;
732
733         while (n-- > 0)
734                 *yp++ = (float)LogL16toY(*l16++);
735 }
736
737 static void
738 L16toGry(LogLuvState* sp, uint8* op, tmsize_t n)
739 {
740         int16* l16 = (int16*) sp->tbuf;
741         uint8* gp = (uint8*) op;
742
743         while (n-- > 0) {
744                 double Y = LogL16toY(*l16++);
745                 *gp++ = (uint8) ((Y <= 0.) ? 0 : (Y >= 1.) ? 255 : (int)(256.*sqrt(Y)));
746         }
747 }
748
749 static void
750 L16fromY(LogLuvState* sp, uint8* op, tmsize_t n)
751 {
752         int16* l16 = (int16*) sp->tbuf;
753         float* yp = (float*) op;
754
755         while (n-- > 0)
756                 *l16++ = (int16) (LogL16fromY(*yp++, sp->encode_meth));
757 }
758
759 #if !LOGLUV_PUBLIC
760 static
761 #endif
762 void
763 XYZtoRGB24(float xyz[3], uint8 rgb[3])
764 {
765         double  r, g, b;
766                                         /* assume CCIR-709 primaries */
767         r =  2.690*xyz[0] + -1.276*xyz[1] + -0.414*xyz[2];
768         g = -1.022*xyz[0] +  1.978*xyz[1] +  0.044*xyz[2];
769         b =  0.061*xyz[0] + -0.224*xyz[1] +  1.163*xyz[2];
770                                         /* assume 2.0 gamma for speed */
771         /* could use integer sqrt approx., but this is probably faster */
772         rgb[0] = (uint8)((r<=0.) ? 0 : (r >= 1.) ? 255 : (int)(256.*sqrt(r)));
773         rgb[1] = (uint8)((g<=0.) ? 0 : (g >= 1.) ? 255 : (int)(256.*sqrt(g)));
774         rgb[2] = (uint8)((b<=0.) ? 0 : (b >= 1.) ? 255 : (int)(256.*sqrt(b)));
775 }
776
777 #if !LOGLUV_PUBLIC
778 static
779 #endif
780 double
781 LogL10toY(int p10)              /* compute luminance from 10-bit LogL */
782 {
783         if (p10 == 0)
784                 return (0.);
785         return (exp(M_LN2/64.*(p10+.5) - M_LN2*12.));
786 }
787
788 #if !LOGLUV_PUBLIC
789 static
790 #endif
791 int
792 LogL10fromY(double Y, int em)   /* get 10-bit LogL from Y */
793 {
794         if (Y >= 15.742)
795                 return (0x3ff);
796         else if (Y <= .00024283)
797                 return (0);
798         else
799                 return itrunc(64.*(log2(Y) + 12.), em);
800 }
801
802 #define NANGLES         100
803 #define uv2ang(u, v)    ( (NANGLES*.499999999/M_PI) \
804                                 * atan2((v)-V_NEU,(u)-U_NEU) + .5*NANGLES )
805
806 static int
807 oog_encode(double u, double v)          /* encode out-of-gamut chroma */
808 {
809         static int      oog_table[NANGLES];
810         static int      initialized = 0;
811         register int    i;
812
813         if (!initialized) {             /* set up perimeter table */
814                 double  eps[NANGLES], ua, va, ang, epsa;
815                 int     ui, vi, ustep;
816                 for (i = NANGLES; i--; )
817                         eps[i] = 2.;
818                 for (vi = UV_NVS; vi--; ) {
819                         va = UV_VSTART + (vi+.5)*UV_SQSIZ;
820                         ustep = uv_row[vi].nus-1;
821                         if (vi == UV_NVS-1 || vi == 0 || ustep <= 0)
822                                 ustep = 1;
823                         for (ui = uv_row[vi].nus-1; ui >= 0; ui -= ustep) {
824                                 ua = uv_row[vi].ustart + (ui+.5)*UV_SQSIZ;
825                                 ang = uv2ang(ua, va);
826                                 i = (int) ang;
827                                 epsa = fabs(ang - (i+.5));
828                                 if (epsa < eps[i]) {
829                                         oog_table[i] = uv_row[vi].ncum + ui;
830                                         eps[i] = epsa;
831                                 }
832                         }
833                 }
834                 for (i = NANGLES; i--; )        /* fill any holes */
835                         if (eps[i] > 1.5) {
836                                 int     i1, i2;
837                                 for (i1 = 1; i1 < NANGLES/2; i1++)
838                                         if (eps[(i+i1)%NANGLES] < 1.5)
839                                                 break;
840                                 for (i2 = 1; i2 < NANGLES/2; i2++)
841                                         if (eps[(i+NANGLES-i2)%NANGLES] < 1.5)
842                                                 break;
843                                 if (i1 < i2)
844                                         oog_table[i] =
845                                                 oog_table[(i+i1)%NANGLES];
846                                 else
847                                         oog_table[i] =
848                                                 oog_table[(i+NANGLES-i2)%NANGLES];
849                         }
850                 initialized = 1;
851         }
852         i = (int) uv2ang(u, v);         /* look up hue angle */
853         return (oog_table[i]);
854 }
855
856 #undef uv2ang
857 #undef NANGLES
858
859 #if !LOGLUV_PUBLIC
860 static
861 #endif
862 int
863 uv_encode(double u, double v, int em)   /* encode (u',v') coordinates */
864 {
865         register int    vi, ui;
866
867         if (v < UV_VSTART)
868                 return oog_encode(u, v);
869         vi = itrunc((v - UV_VSTART)*(1./UV_SQSIZ), em);
870         if (vi >= UV_NVS)
871                 return oog_encode(u, v);
872         if (u < uv_row[vi].ustart)
873                 return oog_encode(u, v);
874         ui = itrunc((u - uv_row[vi].ustart)*(1./UV_SQSIZ), em);
875         if (ui >= uv_row[vi].nus)
876                 return oog_encode(u, v);
877
878         return (uv_row[vi].ncum + ui);
879 }
880
881 #if !LOGLUV_PUBLIC
882 static
883 #endif
884 int
885 uv_decode(double *up, double *vp, int c)        /* decode (u',v') index */
886 {
887         int     upper, lower;
888         register int    ui, vi;
889
890         if (c < 0 || c >= UV_NDIVS)
891                 return (-1);
892         lower = 0;                              /* binary search */
893         upper = UV_NVS;
894         while (upper - lower > 1) {
895                 vi = (lower + upper) >> 1;
896                 ui = c - uv_row[vi].ncum;
897                 if (ui > 0)
898                         lower = vi;
899                 else if (ui < 0)
900                         upper = vi;
901                 else {
902                         lower = vi;
903                         break;
904                 }
905         }
906         vi = lower;
907         ui = c - uv_row[vi].ncum;
908         *up = uv_row[vi].ustart + (ui+.5)*UV_SQSIZ;
909         *vp = UV_VSTART + (vi+.5)*UV_SQSIZ;
910         return (0);
911 }
912
913 #if !LOGLUV_PUBLIC
914 static
915 #endif
916 void
917 LogLuv24toXYZ(uint32 p, float XYZ[3])
918 {
919         int     Ce;
920         double  L, u, v, s, x, y;
921                                         /* decode luminance */
922         L = LogL10toY(p>>14 & 0x3ff);
923         if (L <= 0.) {
924                 XYZ[0] = XYZ[1] = XYZ[2] = 0.;
925                 return;
926         }
927                                         /* decode color */
928         Ce = p & 0x3fff;
929         if (uv_decode(&u, &v, Ce) < 0) {
930                 u = U_NEU; v = V_NEU;
931         }
932         s = 1./(6.*u - 16.*v + 12.);
933         x = 9.*u * s;
934         y = 4.*v * s;
935                                         /* convert to XYZ */
936         XYZ[0] = (float)(x/y * L);
937         XYZ[1] = (float)L;
938         XYZ[2] = (float)((1.-x-y)/y * L);
939 }
940
941 #if !LOGLUV_PUBLIC
942 static
943 #endif
944 uint32
945 LogLuv24fromXYZ(float XYZ[3], int em)
946 {
947         int     Le, Ce;
948         double  u, v, s;
949                                         /* encode luminance */
950         Le = LogL10fromY(XYZ[1], em);
951                                         /* encode color */
952         s = XYZ[0] + 15.*XYZ[1] + 3.*XYZ[2];
953         if (!Le || s <= 0.) {
954                 u = U_NEU;
955                 v = V_NEU;
956         } else {
957                 u = 4.*XYZ[0] / s;
958                 v = 9.*XYZ[1] / s;
959         }
960         Ce = uv_encode(u, v, em);
961         if (Ce < 0)                     /* never happens */
962                 Ce = uv_encode(U_NEU, V_NEU, SGILOGENCODE_NODITHER);
963                                         /* combine encodings */
964         return (Le << 14 | Ce);
965 }
966
967 static void
968 Luv24toXYZ(LogLuvState* sp, uint8* op, tmsize_t n)
969 {
970         uint32* luv = (uint32*) sp->tbuf;  
971         float* xyz = (float*) op;
972
973         while (n-- > 0) {
974                 LogLuv24toXYZ(*luv, xyz);
975                 xyz += 3;
976                 luv++;
977         }
978 }
979
980 static void
981 Luv24toLuv48(LogLuvState* sp, uint8* op, tmsize_t n)
982 {
983         uint32* luv = (uint32*) sp->tbuf;  
984         int16* luv3 = (int16*) op;
985
986         while (n-- > 0) {
987                 double u, v;
988
989                 *luv3++ = (int16)((*luv >> 12 & 0xffd) + 13314);
990                 if (uv_decode(&u, &v, *luv&0x3fff) < 0) {
991                         u = U_NEU;
992                         v = V_NEU;
993                 }
994                 *luv3++ = (int16)(u * (1L<<15));
995                 *luv3++ = (int16)(v * (1L<<15));
996                 luv++;
997         }
998 }
999
1000 static void
1001 Luv24toRGB(LogLuvState* sp, uint8* op, tmsize_t n)
1002 {
1003         uint32* luv = (uint32*) sp->tbuf;  
1004         uint8* rgb = (uint8*) op;
1005
1006         while (n-- > 0) {
1007                 float xyz[3];
1008
1009                 LogLuv24toXYZ(*luv++, xyz);
1010                 XYZtoRGB24(xyz, rgb);
1011                 rgb += 3;
1012         }
1013 }
1014
1015 static void
1016 Luv24fromXYZ(LogLuvState* sp, uint8* op, tmsize_t n)
1017 {
1018         uint32* luv = (uint32*) sp->tbuf;  
1019         float* xyz = (float*) op;
1020
1021         while (n-- > 0) {
1022                 *luv++ = LogLuv24fromXYZ(xyz, sp->encode_meth);
1023                 xyz += 3;
1024         }
1025 }
1026
1027 static void
1028 Luv24fromLuv48(LogLuvState* sp, uint8* op, tmsize_t n)
1029 {
1030         uint32* luv = (uint32*) sp->tbuf;  
1031         int16* luv3 = (int16*) op;
1032
1033         while (n-- > 0) {
1034                 int Le, Ce;
1035
1036                 if (luv3[0] <= 0)
1037                         Le = 0;
1038                 else if (luv3[0] >= (1<<12)+3314)
1039                         Le = (1<<10) - 1;
1040                 else if (sp->encode_meth == SGILOGENCODE_NODITHER)
1041                         Le = (luv3[0]-3314) >> 2;
1042                 else
1043                         Le = itrunc(.25*(luv3[0]-3314.), sp->encode_meth);
1044
1045                 Ce = uv_encode((luv3[1]+.5)/(1<<15), (luv3[2]+.5)/(1<<15),
1046                                         sp->encode_meth);
1047                 if (Ce < 0)     /* never happens */
1048                         Ce = uv_encode(U_NEU, V_NEU, SGILOGENCODE_NODITHER);
1049                 *luv++ = (uint32)Le << 14 | Ce;
1050                 luv3 += 3;
1051         }
1052 }
1053
1054 #if !LOGLUV_PUBLIC
1055 static
1056 #endif
1057 void
1058 LogLuv32toXYZ(uint32 p, float XYZ[3])
1059 {
1060         double  L, u, v, s, x, y;
1061                                         /* decode luminance */
1062         L = LogL16toY((int)p >> 16);
1063         if (L <= 0.) {
1064                 XYZ[0] = XYZ[1] = XYZ[2] = 0.;
1065                 return;
1066         }
1067                                         /* decode color */
1068         u = 1./UVSCALE * ((p>>8 & 0xff) + .5);
1069         v = 1./UVSCALE * ((p & 0xff) + .5);
1070         s = 1./(6.*u - 16.*v + 12.);
1071         x = 9.*u * s;
1072         y = 4.*v * s;
1073                                         /* convert to XYZ */
1074         XYZ[0] = (float)(x/y * L);
1075         XYZ[1] = (float)L;
1076         XYZ[2] = (float)((1.-x-y)/y * L);
1077 }
1078
1079 #if !LOGLUV_PUBLIC
1080 static
1081 #endif
1082 uint32
1083 LogLuv32fromXYZ(float XYZ[3], int em)
1084 {
1085         unsigned int    Le, ue, ve;
1086         double  u, v, s;
1087                                         /* encode luminance */
1088         Le = (unsigned int)LogL16fromY(XYZ[1], em);
1089                                         /* encode color */
1090         s = XYZ[0] + 15.*XYZ[1] + 3.*XYZ[2];
1091         if (!Le || s <= 0.) {
1092                 u = U_NEU;
1093                 v = V_NEU;
1094         } else {
1095                 u = 4.*XYZ[0] / s;
1096                 v = 9.*XYZ[1] / s;
1097         }
1098         if (u <= 0.) ue = 0;
1099         else ue = itrunc(UVSCALE*u, em);
1100         if (ue > 255) ue = 255;
1101         if (v <= 0.) ve = 0;
1102         else ve = itrunc(UVSCALE*v, em);
1103         if (ve > 255) ve = 255;
1104                                         /* combine encodings */
1105         return (Le << 16 | ue << 8 | ve);
1106 }
1107
1108 static void
1109 Luv32toXYZ(LogLuvState* sp, uint8* op, tmsize_t n)
1110 {
1111         uint32* luv = (uint32*) sp->tbuf;  
1112         float* xyz = (float*) op;
1113
1114         while (n-- > 0) {
1115                 LogLuv32toXYZ(*luv++, xyz);
1116                 xyz += 3;
1117         }
1118 }
1119
1120 static void
1121 Luv32toLuv48(LogLuvState* sp, uint8* op, tmsize_t n)
1122 {
1123         uint32* luv = (uint32*) sp->tbuf;  
1124         int16* luv3 = (int16*) op;
1125
1126         while (n-- > 0) {
1127                 double u, v;
1128
1129                 *luv3++ = (int16)(*luv >> 16);
1130                 u = 1./UVSCALE * ((*luv>>8 & 0xff) + .5);
1131                 v = 1./UVSCALE * ((*luv & 0xff) + .5);
1132                 *luv3++ = (int16)(u * (1L<<15));
1133                 *luv3++ = (int16)(v * (1L<<15));
1134                 luv++;
1135         }
1136 }
1137
1138 static void
1139 Luv32toRGB(LogLuvState* sp, uint8* op, tmsize_t n)
1140 {
1141         uint32* luv = (uint32*) sp->tbuf;  
1142         uint8* rgb = (uint8*) op;
1143
1144         while (n-- > 0) {
1145                 float xyz[3];
1146
1147                 LogLuv32toXYZ(*luv++, xyz);
1148                 XYZtoRGB24(xyz, rgb);
1149                 rgb += 3;
1150         }
1151 }
1152
1153 static void
1154 Luv32fromXYZ(LogLuvState* sp, uint8* op, tmsize_t n)
1155 {
1156         uint32* luv = (uint32*) sp->tbuf;  
1157         float* xyz = (float*) op;
1158
1159         while (n-- > 0) {
1160                 *luv++ = LogLuv32fromXYZ(xyz, sp->encode_meth);
1161                 xyz += 3;
1162         }
1163 }
1164
1165 static void
1166 Luv32fromLuv48(LogLuvState* sp, uint8* op, tmsize_t n)
1167 {
1168         uint32* luv = (uint32*) sp->tbuf;
1169         int16* luv3 = (int16*) op;
1170
1171         if (sp->encode_meth == SGILOGENCODE_NODITHER) {
1172                 while (n-- > 0) {
1173                         *luv++ = (uint32)luv3[0] << 16 |
1174                                 (luv3[1]*(uint32)(UVSCALE+.5) >> 7 & 0xff00) |
1175                                 (luv3[2]*(uint32)(UVSCALE+.5) >> 15 & 0xff);
1176                         luv3 += 3;
1177                 }
1178                 return;
1179         }
1180         while (n-- > 0) {
1181                 *luv++ = (uint32)luv3[0] << 16 |
1182         (itrunc(luv3[1]*(UVSCALE/(1<<15)), sp->encode_meth) << 8 & 0xff00) |
1183                 (itrunc(luv3[2]*(UVSCALE/(1<<15)), sp->encode_meth) & 0xff);
1184                 luv3 += 3;
1185         }
1186 }
1187
1188 static void
1189 _logLuvNop(LogLuvState* sp, uint8* op, tmsize_t n)
1190 {
1191         (void) sp; (void) op; (void) n;
1192 }
1193
1194 static int
1195 LogL16GuessDataFmt(TIFFDirectory *td)
1196 {
1197 #define PACK(s,b,f)     (((b)<<6)|((s)<<3)|(f))
1198         switch (PACK(td->td_samplesperpixel, td->td_bitspersample, td->td_sampleformat)) {
1199         case PACK(1, 32, SAMPLEFORMAT_IEEEFP):
1200                 return (SGILOGDATAFMT_FLOAT);
1201         case PACK(1, 16, SAMPLEFORMAT_VOID):
1202         case PACK(1, 16, SAMPLEFORMAT_INT):
1203         case PACK(1, 16, SAMPLEFORMAT_UINT):
1204                 return (SGILOGDATAFMT_16BIT);
1205         case PACK(1,  8, SAMPLEFORMAT_VOID):
1206         case PACK(1,  8, SAMPLEFORMAT_UINT):
1207                 return (SGILOGDATAFMT_8BIT);
1208         }
1209 #undef PACK
1210         return (SGILOGDATAFMT_UNKNOWN);
1211 }
1212
1213 static tmsize_t
1214 multiply_ms(tmsize_t m1, tmsize_t m2)
1215 {
1216         tmsize_t bytes = m1 * m2;
1217
1218         if (m1 && bytes / m1 != m2)
1219                 bytes = 0;
1220
1221         return bytes;
1222 }
1223
1224 static int
1225 LogL16InitState(TIFF* tif)
1226 {
1227         static const char module[] = "LogL16InitState";
1228         TIFFDirectory *td = &tif->tif_dir;
1229         LogLuvState* sp = DecoderState(tif);
1230
1231         assert(sp != NULL);
1232         assert(td->td_photometric == PHOTOMETRIC_LOGL);
1233
1234         /* for some reason, we can't do this in TIFFInitLogL16 */
1235         if (sp->user_datafmt == SGILOGDATAFMT_UNKNOWN)
1236                 sp->user_datafmt = LogL16GuessDataFmt(td);
1237         switch (sp->user_datafmt) {
1238         case SGILOGDATAFMT_FLOAT:
1239                 sp->pixel_size = sizeof (float);
1240                 break;
1241         case SGILOGDATAFMT_16BIT:
1242                 sp->pixel_size = sizeof (int16);
1243                 break;
1244         case SGILOGDATAFMT_8BIT:
1245                 sp->pixel_size = sizeof (uint8);
1246                 break;
1247         default:
1248                 TIFFErrorExt(tif->tif_clientdata, module,
1249                     "No support for converting user data format to LogL");
1250                 return (0);
1251         }
1252         if( isTiled(tif) )
1253             sp->tbuflen = multiply_ms(td->td_tilewidth, td->td_tilelength);
1254         else
1255             sp->tbuflen = multiply_ms(td->td_imagewidth, td->td_rowsperstrip);
1256         if (multiply_ms(sp->tbuflen, sizeof (int16)) == 0 ||
1257             (sp->tbuf = (uint8*) _TIFFmalloc(sp->tbuflen * sizeof (int16))) == NULL) {
1258                 TIFFErrorExt(tif->tif_clientdata, module, "No space for SGILog translation buffer");
1259                 return (0);
1260         }
1261         return (1);
1262 }
1263
1264 static int
1265 LogLuvGuessDataFmt(TIFFDirectory *td)
1266 {
1267         int guess;
1268
1269         /*
1270          * If the user didn't tell us their datafmt,
1271          * take our best guess from the bitspersample.
1272          */
1273 #define PACK(a,b)       (((a)<<3)|(b))
1274         switch (PACK(td->td_bitspersample, td->td_sampleformat)) {
1275         case PACK(32, SAMPLEFORMAT_IEEEFP):
1276                 guess = SGILOGDATAFMT_FLOAT;
1277                 break;
1278         case PACK(32, SAMPLEFORMAT_VOID):
1279         case PACK(32, SAMPLEFORMAT_UINT):
1280         case PACK(32, SAMPLEFORMAT_INT):
1281                 guess = SGILOGDATAFMT_RAW;
1282                 break;
1283         case PACK(16, SAMPLEFORMAT_VOID):
1284         case PACK(16, SAMPLEFORMAT_INT):
1285         case PACK(16, SAMPLEFORMAT_UINT):
1286                 guess = SGILOGDATAFMT_16BIT;
1287                 break;
1288         case PACK( 8, SAMPLEFORMAT_VOID):
1289         case PACK( 8, SAMPLEFORMAT_UINT):
1290                 guess = SGILOGDATAFMT_8BIT;
1291                 break;
1292         default:
1293                 guess = SGILOGDATAFMT_UNKNOWN;
1294                 break;
1295 #undef PACK
1296         }
1297         /*
1298          * Double-check samples per pixel.
1299          */
1300         switch (td->td_samplesperpixel) {
1301         case 1:
1302                 if (guess != SGILOGDATAFMT_RAW)
1303                         guess = SGILOGDATAFMT_UNKNOWN;
1304                 break;
1305         case 3:
1306                 if (guess == SGILOGDATAFMT_RAW)
1307                         guess = SGILOGDATAFMT_UNKNOWN;
1308                 break;
1309         default:
1310                 guess = SGILOGDATAFMT_UNKNOWN;
1311                 break;
1312         }
1313         return (guess);
1314 }
1315
1316 static int
1317 LogLuvInitState(TIFF* tif)
1318 {
1319         static const char module[] = "LogLuvInitState";
1320         TIFFDirectory* td = &tif->tif_dir;
1321         LogLuvState* sp = DecoderState(tif);
1322
1323         assert(sp != NULL);
1324         assert(td->td_photometric == PHOTOMETRIC_LOGLUV);
1325
1326         /* for some reason, we can't do this in TIFFInitLogLuv */
1327         if (td->td_planarconfig != PLANARCONFIG_CONTIG) {
1328                 TIFFErrorExt(tif->tif_clientdata, module,
1329                     "SGILog compression cannot handle non-contiguous data");
1330                 return (0);
1331         }
1332         if (sp->user_datafmt == SGILOGDATAFMT_UNKNOWN)
1333                 sp->user_datafmt = LogLuvGuessDataFmt(td);
1334         switch (sp->user_datafmt) {
1335         case SGILOGDATAFMT_FLOAT:
1336                 sp->pixel_size = 3*sizeof (float);
1337                 break;
1338         case SGILOGDATAFMT_16BIT:
1339                 sp->pixel_size = 3*sizeof (int16);
1340                 break;
1341         case SGILOGDATAFMT_RAW:
1342                 sp->pixel_size = sizeof (uint32);
1343                 break;
1344         case SGILOGDATAFMT_8BIT:
1345                 sp->pixel_size = 3*sizeof (uint8);
1346                 break;
1347         default:
1348                 TIFFErrorExt(tif->tif_clientdata, module,
1349                     "No support for converting user data format to LogLuv");
1350                 return (0);
1351         }
1352         if( isTiled(tif) )
1353             sp->tbuflen = multiply_ms(td->td_tilewidth, td->td_tilelength);
1354         else
1355             sp->tbuflen = multiply_ms(td->td_imagewidth, td->td_rowsperstrip);
1356         if (multiply_ms(sp->tbuflen, sizeof (uint32)) == 0 ||
1357             (sp->tbuf = (uint8*) _TIFFmalloc(sp->tbuflen * sizeof (uint32))) == NULL) {
1358                 TIFFErrorExt(tif->tif_clientdata, module, "No space for SGILog translation buffer");
1359                 return (0);
1360         }
1361         return (1);
1362 }
1363
1364 static int
1365 LogLuvFixupTags(TIFF* tif)
1366 {
1367         (void) tif;
1368         return (1);
1369 }
1370
1371 static int
1372 LogLuvSetupDecode(TIFF* tif)
1373 {
1374         static const char module[] = "LogLuvSetupDecode";
1375         LogLuvState* sp = DecoderState(tif);
1376         TIFFDirectory* td = &tif->tif_dir;
1377
1378         tif->tif_postdecode = _TIFFNoPostDecode;
1379         switch (td->td_photometric) {
1380         case PHOTOMETRIC_LOGLUV:
1381                 if (!LogLuvInitState(tif))
1382                         break;
1383                 if (td->td_compression == COMPRESSION_SGILOG24) {
1384                         tif->tif_decoderow = LogLuvDecode24;
1385                         switch (sp->user_datafmt) {
1386                         case SGILOGDATAFMT_FLOAT:
1387                                 sp->tfunc = Luv24toXYZ;  
1388                                 break;
1389                         case SGILOGDATAFMT_16BIT:
1390                                 sp->tfunc = Luv24toLuv48;  
1391                                 break;
1392                         case SGILOGDATAFMT_8BIT:
1393                                 sp->tfunc = Luv24toRGB;
1394                                 break;
1395                         }
1396                 } else {
1397                         tif->tif_decoderow = LogLuvDecode32;
1398                         switch (sp->user_datafmt) {
1399                         case SGILOGDATAFMT_FLOAT:
1400                                 sp->tfunc = Luv32toXYZ;
1401                                 break;
1402                         case SGILOGDATAFMT_16BIT:
1403                                 sp->tfunc = Luv32toLuv48;
1404                                 break;
1405                         case SGILOGDATAFMT_8BIT:
1406                                 sp->tfunc = Luv32toRGB;
1407                                 break;
1408                         }
1409                 }
1410                 return (1);
1411         case PHOTOMETRIC_LOGL:
1412                 if (!LogL16InitState(tif))
1413                         break;
1414                 tif->tif_decoderow = LogL16Decode;
1415                 switch (sp->user_datafmt) {
1416                 case SGILOGDATAFMT_FLOAT:
1417                         sp->tfunc = L16toY;
1418                         break;
1419                 case SGILOGDATAFMT_8BIT:
1420                         sp->tfunc = L16toGry;
1421                         break;
1422                 }
1423                 return (1);
1424         default:
1425                 TIFFErrorExt(tif->tif_clientdata, module,
1426                     "Inappropriate photometric interpretation %d for SGILog compression; %s",
1427                     td->td_photometric, "must be either LogLUV or LogL");
1428                 break;
1429         }
1430         return (0);
1431 }
1432
1433 static int
1434 LogLuvSetupEncode(TIFF* tif)
1435 {
1436         static const char module[] = "LogLuvSetupEncode";
1437         LogLuvState* sp = EncoderState(tif);
1438         TIFFDirectory* td = &tif->tif_dir;
1439
1440         switch (td->td_photometric) {
1441         case PHOTOMETRIC_LOGLUV:
1442                 if (!LogLuvInitState(tif))
1443                         break;
1444                 if (td->td_compression == COMPRESSION_SGILOG24) {
1445                         tif->tif_encoderow = LogLuvEncode24;
1446                         switch (sp->user_datafmt) {
1447                         case SGILOGDATAFMT_FLOAT:
1448                                 sp->tfunc = Luv24fromXYZ;
1449                                 break;
1450                         case SGILOGDATAFMT_16BIT:
1451                                 sp->tfunc = Luv24fromLuv48;  
1452                                 break;
1453                         case SGILOGDATAFMT_RAW:
1454                                 break;
1455                         default:
1456                                 goto notsupported;
1457                         }
1458                 } else {
1459                         tif->tif_encoderow = LogLuvEncode32;  
1460                         switch (sp->user_datafmt) {
1461                         case SGILOGDATAFMT_FLOAT:
1462                                 sp->tfunc = Luv32fromXYZ;  
1463                                 break;
1464                         case SGILOGDATAFMT_16BIT:
1465                                 sp->tfunc = Luv32fromLuv48;  
1466                                 break;
1467                         case SGILOGDATAFMT_RAW:
1468                                 break;
1469                         default:
1470                                 goto notsupported;
1471                         }
1472                 }
1473                 break;
1474         case PHOTOMETRIC_LOGL:
1475                 if (!LogL16InitState(tif))
1476                         break;
1477                 tif->tif_encoderow = LogL16Encode;  
1478                 switch (sp->user_datafmt) {
1479                 case SGILOGDATAFMT_FLOAT:
1480                         sp->tfunc = L16fromY;
1481                         break;
1482                 case SGILOGDATAFMT_16BIT:
1483                         break;
1484                 default:
1485                         goto notsupported;
1486                 }
1487                 break;
1488         default:
1489                 TIFFErrorExt(tif->tif_clientdata, module,
1490                     "Inappropriate photometric interpretation %d for SGILog compression; %s",
1491                     td->td_photometric, "must be either LogLUV or LogL");
1492                 break;
1493         }
1494         return (1);
1495 notsupported:
1496         TIFFErrorExt(tif->tif_clientdata, module,
1497             "SGILog compression supported only for %s, or raw data",
1498             td->td_photometric == PHOTOMETRIC_LOGL ? "Y, L" : "XYZ, Luv");
1499         return (0);
1500 }
1501
1502 static void
1503 LogLuvClose(TIFF* tif)
1504 {
1505         TIFFDirectory *td = &tif->tif_dir;
1506
1507         /*
1508          * For consistency, we always want to write out the same
1509          * bitspersample and sampleformat for our TIFF file,
1510          * regardless of the data format being used by the application.
1511          * Since this routine is called after tags have been set but
1512          * before they have been recorded in the file, we reset them here.
1513          */
1514         td->td_samplesperpixel =
1515             (td->td_photometric == PHOTOMETRIC_LOGL) ? 1 : 3;
1516         td->td_bitspersample = 16;
1517         td->td_sampleformat = SAMPLEFORMAT_INT;
1518 }
1519
1520 static void
1521 LogLuvCleanup(TIFF* tif)
1522 {
1523         LogLuvState* sp = (LogLuvState *)tif->tif_data;
1524
1525         assert(sp != 0);
1526
1527         tif->tif_tagmethods.vgetfield = sp->vgetparent;
1528         tif->tif_tagmethods.vsetfield = sp->vsetparent;
1529
1530         if (sp->tbuf)
1531                 _TIFFfree(sp->tbuf);
1532         _TIFFfree(sp);
1533         tif->tif_data = NULL;
1534
1535         _TIFFSetDefaultCompressionState(tif);
1536 }
1537
1538 static int
1539 LogLuvVSetField(TIFF* tif, uint32 tag, va_list ap)
1540 {
1541         static const char module[] = "LogLuvVSetField";
1542         LogLuvState* sp = DecoderState(tif);
1543         int bps, fmt;
1544
1545         switch (tag) {
1546         case TIFFTAG_SGILOGDATAFMT:
1547                 sp->user_datafmt = (int) va_arg(ap, int);
1548                 /*
1549                  * Tweak the TIFF header so that the rest of libtiff knows what
1550                  * size of data will be passed between app and library, and
1551                  * assume that the app knows what it is doing and is not
1552                  * confused by these header manipulations...
1553                  */
1554                 switch (sp->user_datafmt) {
1555                 case SGILOGDATAFMT_FLOAT:
1556                         bps = 32, fmt = SAMPLEFORMAT_IEEEFP;
1557                         break;
1558                 case SGILOGDATAFMT_16BIT:
1559                         bps = 16, fmt = SAMPLEFORMAT_INT;
1560                         break;
1561                 case SGILOGDATAFMT_RAW:
1562                         bps = 32, fmt = SAMPLEFORMAT_UINT;
1563                         TIFFSetField(tif, TIFFTAG_SAMPLESPERPIXEL, 1);
1564                         break;
1565                 case SGILOGDATAFMT_8BIT:
1566                         bps = 8, fmt = SAMPLEFORMAT_UINT;
1567                         break;
1568                 default:
1569                         TIFFErrorExt(tif->tif_clientdata, tif->tif_name,
1570                             "Unknown data format %d for LogLuv compression",
1571                             sp->user_datafmt);
1572                         return (0);
1573                 }
1574                 TIFFSetField(tif, TIFFTAG_BITSPERSAMPLE, bps);
1575                 TIFFSetField(tif, TIFFTAG_SAMPLEFORMAT, fmt);
1576                 /*
1577                  * Must recalculate sizes should bits/sample change.
1578                  */
1579                 tif->tif_tilesize = isTiled(tif) ? TIFFTileSize(tif) : (tmsize_t) -1;
1580                 tif->tif_scanlinesize = TIFFScanlineSize(tif);
1581                 return (1);
1582         case TIFFTAG_SGILOGENCODE:
1583                 sp->encode_meth = (int) va_arg(ap, int);
1584                 if (sp->encode_meth != SGILOGENCODE_NODITHER &&
1585                     sp->encode_meth != SGILOGENCODE_RANDITHER) {
1586                         TIFFErrorExt(tif->tif_clientdata, module,
1587                             "Unknown encoding %d for LogLuv compression",
1588                             sp->encode_meth);
1589                         return (0);
1590                 }
1591                 return (1);
1592         default:
1593                 return (*sp->vsetparent)(tif, tag, ap);
1594         }
1595 }
1596
1597 static int
1598 LogLuvVGetField(TIFF* tif, uint32 tag, va_list ap)
1599 {
1600         LogLuvState *sp = (LogLuvState *)tif->tif_data;
1601
1602         switch (tag) {
1603         case TIFFTAG_SGILOGDATAFMT:
1604                 *va_arg(ap, int*) = sp->user_datafmt;
1605                 return (1);
1606         default:
1607                 return (*sp->vgetparent)(tif, tag, ap);
1608         }
1609 }
1610
1611 static const TIFFField LogLuvFields[] = {
1612     { TIFFTAG_SGILOGDATAFMT, 0, 0, TIFF_SHORT, 0, TIFF_SETGET_INT, TIFF_SETGET_UNDEFINED, FIELD_PSEUDO, TRUE, FALSE, "SGILogDataFmt", NULL},
1613     { TIFFTAG_SGILOGENCODE, 0, 0, TIFF_SHORT, 0, TIFF_SETGET_INT, TIFF_SETGET_UNDEFINED, FIELD_PSEUDO, TRUE, FALSE, "SGILogEncode", NULL}
1614 };
1615
1616 int
1617 TIFFInitSGILog(TIFF* tif, int scheme)
1618 {
1619         static const char module[] = "TIFFInitSGILog";
1620         LogLuvState* sp;
1621
1622         assert(scheme == COMPRESSION_SGILOG24 || scheme == COMPRESSION_SGILOG);
1623
1624         /*
1625          * Merge codec-specific tag information.
1626          */
1627         if (!_TIFFMergeFields(tif, LogLuvFields,
1628                               TIFFArrayCount(LogLuvFields))) {
1629                 TIFFErrorExt(tif->tif_clientdata, module,
1630                     "Merging SGILog codec-specific tags failed");
1631                 return 0;
1632         }
1633
1634         /*
1635          * Allocate state block so tag methods have storage to record values.
1636          */
1637         tif->tif_data = (uint8*) _TIFFmalloc(sizeof (LogLuvState));
1638         if (tif->tif_data == NULL)
1639                 goto bad;
1640         sp = (LogLuvState*) tif->tif_data;
1641         _TIFFmemset((void*)sp, 0, sizeof (*sp));
1642         sp->user_datafmt = SGILOGDATAFMT_UNKNOWN;
1643         sp->encode_meth = (scheme == COMPRESSION_SGILOG24) ?
1644             SGILOGENCODE_RANDITHER : SGILOGENCODE_NODITHER;
1645         sp->tfunc = _logLuvNop;
1646
1647         /*
1648          * Install codec methods.
1649          * NB: tif_decoderow & tif_encoderow are filled
1650          *     in at setup time.
1651          */
1652         tif->tif_fixuptags = LogLuvFixupTags;  
1653         tif->tif_setupdecode = LogLuvSetupDecode;
1654         tif->tif_decodestrip = LogLuvDecodeStrip;
1655         tif->tif_decodetile = LogLuvDecodeTile;
1656         tif->tif_setupencode = LogLuvSetupEncode;
1657         tif->tif_encodestrip = LogLuvEncodeStrip;  
1658         tif->tif_encodetile = LogLuvEncodeTile;
1659         tif->tif_close = LogLuvClose;
1660         tif->tif_cleanup = LogLuvCleanup;
1661
1662         /*
1663          * Override parent get/set field methods.
1664          */
1665         sp->vgetparent = tif->tif_tagmethods.vgetfield;
1666         tif->tif_tagmethods.vgetfield = LogLuvVGetField;   /* hook for codec tags */
1667         sp->vsetparent = tif->tif_tagmethods.vsetfield;
1668         tif->tif_tagmethods.vsetfield = LogLuvVSetField;   /* hook for codec tags */
1669
1670         return (1);
1671 bad:
1672         TIFFErrorExt(tif->tif_clientdata, module,
1673                      "%s: No space for LogLuv state block", tif->tif_name);
1674         return (0);
1675 }
1676 #endif /* LOGLUV_SUPPORT */
1677
1678 /* vim: set ts=8 sts=8 sw=8 noet: */
1679 /*
1680  * Local Variables:
1681  * mode: c
1682  * c-basic-offset: 8
1683  * fill-column: 78
1684  * End:
1685  */
1686 #endif
1687