Go：通过 io.Writer 将 JPEG 转为 JFIF
争做团队核心程序员，关注「幽鬼」
大家好，我是程序员幽鬼。
Go 的标准库可让你对 JPEG 图像进行编码。在 One of these JPEGs is not like the other[1] 一文中，Ben Cox 指出某些硬件不会解码这些 JPEG 图像，除非它们被增强为 JFIF 图像。JFIF 代表“JPEG 文件交换格式”，在概念上是原始 JPEG 格式的次要版本。
硬件缺乏支持有点令人惊讶，因为 JPEG 是一种无处不在的文件格式。他 fork[2] 并 修复[3] 标准 image/jpeg 包以插入必要的 JFIF 字节。
01 JPEG Wire 格式
就网络（或磁盘）上的字节而言，JPEG 由一系列连接在一起的块组成。每个块要么是一个裸标记（两个字节，以 开头 0xff）要么是一个标记段（四个或更多字节是一个两字节标记，同样以 0xff 开头，一个两字节的长度，然后是一个额外的数据负载）。以下是 Wikipedia 的Example.jpg[4] 十六进制表示：
$ wget --quiet https://upload.wikimedia.org/wikipedia/en/a/a9/Example.jpg
$ hd Example.jpg | head -n 5
00000000 ff d8 ff e0 00 10 4a 46 49 46 00 01 01 01 00 48 |......JFIF.....H|
00000010 00 48 00 00 ff e1 00 16 45 78 69 66 00 00 4d 4d |.H......Exif..MM|
00000020 00 2a 00 00 00 08 00 00 00 00 00 00 ff fe 00 17 |.*..............|
00000030 43 72 65 61 74 65 64 20 77 69 74 68 20 54 68 65 |Created with The|
00000040 20 47 49 4d 50 ff db 00 43 00 05 03 04 04 04 03 | GIMP...C.......|
在打开的 80 个字节标记：
一个 ff d8SOI（图像的开始）标记。一个 ff e0APP0 标记段；有效载荷以 “JFIF” 开头。一个 ff e1APP1 标记段；有效载荷以 “Exif” 开头。一个 ff fe注释标记段，“Created 等等”。一个 ff dbDQT（定义量化表）标记段。
file 命令也认为这是 JFIF（带 Exif），而不仅仅是 JPEG：
$ file Example.jpg
Example.jpg: JPEG image data, JFIF... Exif... baseline...
02 JFIF Wire 格式
JFIF 文件是一个 JPEG 文件，它的第二个块（在作为第一个块的 SOI 之后）是一个 APP0 块，其有效载荷以 “JFIF” 开头。一个有趣的点是 JFIF 和 EXIF 规范在技术上不兼容，因为它们都想占用第二块（the second chunk）：
JFIF 规范[5]第 2 页提到：“JPEG FIF APP0 标记必须紧跟在 SOI 标记之后”。 EXIF 规范[6] 第 4.5.4 段提到：“APP1 是紧跟在 SOI 标记之后的”。
在实践中，似乎 JFIF 'won' 和 EXIF 可以是第三个块。
03 生成普通的旧 JPEG
这篇博文提供了不需要任何标准库补丁（或 forks）的 Cox 方法的替代方法。与往常一样，fork 具有从上游缓慢分叉的长期风险。Go 标准库的上游补丁受制于“3 个月的新功能，3 个月的稳定” 发布周期[7]，并决定额外的 JFIF 块是强制性的还是可选的（如果可选，API 应该是什么，受兼容性限制[8]）。
该方案的主要思想是 jpeg.Encode[9] 函数接受一个 io.Writer 参数，并且很容易包装 io.Writer 以在正确的位置插入 JFIF 字节。
首先，让我们编写一个简单的程序来生成一张 1x1 JPEG 图像。
package main
import (
"image"
"image/jpeg"
"os"
)
func main() {
m := image.NewGray(image.Rect(0, 0, 1, 1))
if err := jpeg.Encode(os.Stdout, m, nil); err != nil {
os.Stderr.WriteString(err.Error() + "\n")
os.Exit(1)
}
}
运行它会生成一个 JPEG（但不是 JFIF）文件。
$ go run from-jpeg-to-jfif.go > x
$ hd x | head -n 5
00000000 ff d8 ff db 00 84 00 08 06 06 07 06 05 08 07 07 |................|
00000010 07 09 09 08 0a 0c 14 0d 0c 0b 0b 0c 19 12 13 0f |................|
00000020 14 1d 1a 1f 1e 1d 1a 1c 1c 20 24 2e 27 20 22 2c |......... $.' ",|
00000030 23 1c 1c 28 37 29 2c 30 31 34 34 34 1f 27 39 3d |#..(7),01444.'9=|
00000040 38 32 3c 2e 33 34 32 01 09 09 09 0c 0b 0c 18 0d |82<.342.........|
$ file x
x: JPEG image data, baseline, precision 8, 1x1, components 1
04 一个 JFIFifying Writer
我们编写一个 jfifEncode 函数，它可以直接替代 jpeg.Encode 但添加额外的 JFIF 字节，只要第二个标记（紧接在 SOI 之后的那个）不是 APP0。
package main
import (
"errors"
"image"
"image/jpeg"
"io"
"os"
)
func main() {
m := image.NewGray(image.Rect(0, 0, 1, 1))
if err := jfifEncode(os.Stdout, m, nil); err != nil {
os.Stderr.WriteString(err.Error() + "\n")
os.Exit(1)
}
}
func jfifEncode(w io.Writer, m image.Image, o *jpeg.Options) error {
return jpeg.Encode(&jfifWriter{w: w}, m, o)
}
// jfifWriter wraps an io.Writer to convert the data written to it from a plain
// JPEG to a JFIF-enhanced JPEG. It implicitly buffers the first three bytes
// written to it. The fourth byte will tell whether the original JPEG already
// has the APP0 chunk that JFIF requires.
type jfifWriter struct {
// w is the wrapped io.Writer.
w io.Writer
// n ranges between 0 and 4 inclusive. It is the number of bytes written to
// this (which also implements io.Writer), saturating at 4. The first three
// bytes are expected to be {0xff, 0xd8, 0xff}. The fourth byte indicates
// whether the second JPEG chunk is an APP0 chunk or something else.
n int
}
func (jw *jfifWriter) Write(p []byte) (int, error) {
nSkipped := 0
for jw.n < 3 {
if len(p) == 0 {
return nSkipped, nil
} else if p[0] != jfifChunk[jw.n] {
return nSkipped, errors.New("jfifWriter: input was not a JPEG")
}
nSkipped++
jw.n++
p = p[1:]
}
if jw.n == 3 {
if len(p) == 0 {
return nSkipped, nil
}
chunk := jfifChunk
if p[0] == 0xe0 {
// The input JPEG already has an APP0 marker. Just write SOI (2
// bytes) and an 0xff: the three bytes we've previously skipped.
chunk = chunk[:3]
}
if _, err := jw.w.Write(chunk); err != nil {
return nSkipped, err
}
jw.n = 4
}
n, err := jw.w.Write(p)
return n + nSkipped, err
}
// jfifChunk is a sequence: an SOI chunk, an APP0/JFIF chunk and finally the
// 0xff that starts the third chunk.
var jfifChunk = []byte{
0xff, 0xd8, // SOI marker.
0xff, 0xe0, // APP0 marker.
0x00, 0x10, // Length: 16 byte payload (including these two bytes).
0x4a, 0x46, 0x49, 0x46, 0x00, // "JFIF\x00".
0x01, 0x01, // Version 1.01.
0x00, // No density units.
0x00, 0x01, // Horizontal pixel density.
0x00, 0x01, // Vertical pixel density.
0x00, // Thumbnail width.
0x00, // Thumbnail height.
0xff, // Start of the third chunk's marker.
}
现在运行它会生成一个 JFIF 文件，而不仅仅是一个 JPEG 文件。
$ go run from-jpeg-to-jfif.go > y
$ hd y | head -n 5
00000000 ff d8 ff e0 00 10 4a 46 49 46 00 01 01 00 00 01 |......JFIF......|
00000010 00 01 00 00 ff db 00 84 00 08 06 06 07 06 05 08 |................|
00000020 07 07 07 09 09 08 0a 0c 14 0d 0c 0b 0b 0c 19 12 |................|
00000030 13 0f 14 1d 1a 1f 1e 1d 1a 1c 1c 20 24 2e 27 20 |........... $.' |
00000040 22 2c 23 1c 1c 28 37 29 2c 30 31 34 34 34 1f 27 |",#..(7),01444.'|
$ file y
y: JPEG image data, JFIF... baseline...
05 结论
这里的细节是关于 JPEG 和 JFIF 的，但一般的想法是，如果 encoding 库（Go 中的一个包）缺少一个功能，你可以不通过更改该库来修复它（或以其他方式对其进行处理），而是预处理输入或处理输出。
原文链接：https://nigeltao.github.io/blog/2021/from-jpeg-to-jfif.html
参考资料
[1]One of these JPEGs is not like the other: https://blog.benjojo.co.uk/post/not-all-jpegs-are-the-same
[2]fork: https://github.com/benjojo/app0-image-jpeg
[3]修复: https://github.com/benjojo/app0-image-jpeg/commit/645750c1672807c80c08a57a684a0ada7bf371d9
[4]Example.jpg: https://en.wikipedia.org/wiki/File:Example.jpg
[5]JFIF 规范: https://www.w3.org/Graphics/JPEG/jfif3.pdf
[6]EXIF 规范: https://www.exif.org/Exif2-2.PDF
[7]发布周期: https://github.com/golang/go/wiki/Go-Release-Cycle
[8]兼容性限制: https://golang.org/doc/go1compat
[9]jpeg.Encode: https://pkg.go.dev/image/jpeg#Encode
往期推荐
欢迎关注「幽鬼」，像她一样做团队的核心。