第7章：神经隐式表示基础

章节大纲

7.1 连续函数的神经网络逼近

• 7.1.1 万能逼近定理在3D几何中的意义
• 7.1.2 MLP架构设计原则
• 7.1.3 激活函数选择：ReLU vs Sine vs Softplus
• 7.1.4 网络容量与几何细节的权衡

7.2 符号距离场（SDF）表示

• 7.2.1 SDF的数学定义与性质
• 7.2.2 Eikonal方程与梯度约束
• 7.2.3 SDF的神经网络参数化
• 7.2.4 从SDF提取零等值面

7.3 占据场与截断SDF

• 7.3.1 占据场的概率解释
• 7.3.2 二分类问题的视角
• 7.3.3 截断SDF（TSDF）的动机与实现
• 7.3.4 不同隐式表示的转换关系

7.4 位置编码与频率分析

• 7.4.1 神经网络的频谱偏差
• 7.4.2 Fourier特征与随机特征
• 7.4.3 多分辨率哈希编码
• 7.4.4 学习式位置编码策略

7.1 连续函数的神经网络逼近

本章探讨如何使用神经网络表示3D几何的连续隐式函数。与传统的离散表示（如体素网格或多边形网格）不同，神经隐式表示将3D形状编码为一个连续可微的函数，这为几何处理、形状生成和优化提供了全新的可能性。

7.1.1 万能逼近定理在3D几何中的意义

万能逼近定理（Universal Approximation Theorem）告诉我们，一个具有足够宽度的单隐藏层前馈神经网络可以以任意精度逼近紧致集上的任意连续函数。对于3D几何表示，这意味着：

给定一个3D形状 $\mathcal{S} \subset \mathbb{R}^3$，我们可以找到一个神经网络 $f_\theta: \mathbb{R}^3 \rightarrow \mathbb{R}$，使得：

$$f_\theta(\mathbf{x}) \approx \begin{cases} < 0, & \text{if } \mathbf{x} \in \mathcal{S} \\ = 0, & \text{if } \mathbf{x} \in \partial\mathcal{S} \\

0, & \text{if } \mathbf{x} \notin \mathcal{S} \end{cases}$$ 其中 $\partial\mathcal{S}$ 表示形状的边界（表面）。

理论上的存在性保证了神经网络能够表示任意复杂的几何形状，但实践中需要考虑：

• 网络容量：宽度和深度的选择
• 训练复杂度：参数数量与优化难度的平衡
• 泛化能力：对未见过的查询点的预测质量

7.1.2 MLP架构设计原则

多层感知机（MLP）是神经隐式表示的基础构建块。典型的架构设计包括：

输入层 (3D坐标) → [隐藏层 × L] → 输出层 (标量值)

关键设计决策：

深度 vs 宽度：

• 深层网络（8-10层）：更好的特征层次化，但梯度传播困难
• 宽层网络（256-512维）：更强的表达能力，但参数量大

跳跃连接（Skip Connections）： 在第4层或第5层引入跳跃连接，将输入坐标直接拼接到中间特征： $$\mathbf{h}_{l+1} = \sigma(W_l[\mathbf{h}_l, \mathbf{x}] + \mathbf{b}_l)$$ 这帮助网络更好地学习细节特征，避免梯度消失。

权重初始化： 几何网络偏好使用特殊的初始化策略：

• 几何初始化：使网络初始输出接近某个简单形状（如球体）
• SIREN初始化：配合正弦激活函数的特殊初始化

7.1.3 激活函数选择

激活函数的选择直接影响网络的表达能力和优化特性：

ReLU族： $$\text{ReLU}(x) = \max(0, x)$$

• 优点：计算高效，梯度稳定
• 缺点：产生分段线性函数，难以表示光滑曲面

Sine激活（SIREN）： $$\phi(x) = \sin(\omega_0 x)$$

• 优点：周期性，无限可微，适合表示高频细节
• 缺点：需要特殊初始化，训练不稳定

Softplus： $$\text{Softplus}(x) = \frac{1}{\beta}\log(1 + e^{\beta x})$$

• 优点：光滑可微，接近ReLU但处处可导
• 缺点：计算开销较大

实践中的选择依据：

• 需要光滑表面：Softplus或Sine
• 追求训练速度：ReLU
• 高频细节丰富：Sine配合适当的 $\omega_0$

7.1.4 网络容量与几何细节的权衡

网络容量决定了可表示的几何复杂度。容量可通过以下方式调节：

参数数量： 总参数量 $|\theta| = \sum_{i=1}^{L} d_i \times d_{i+1} + d_{i+1}$

其中 $d_i$ 是第 $i$ 层的维度。

表达能力的理论界限： 根据VC维理论，一个 $n$ 参数的网络可以完美拟合 $O(n)$ 个训练样本。对于3D形状，这意味着：

• 简单形状（如椭球）：10K-50K参数足够
• 中等复杂度（如家具）：100K-500K参数
• 高细节形状（如雕塑）：1M+参数

过拟合与正则化： 大容量网络易过拟合训练数据，常用正则化技术：

• 权重衰减：$\mathcal{L}_{\text{reg}} = \lambda ||\theta||_2^2$
• Dropout：训练时随机丢弃神经元
• 谱归一化：限制权重矩阵的谱范数

7.2 符号距离场（SDF）表示

符号距离场是最重要的隐式表示之一，它不仅编码了形状的内外关系，还提供了到表面的精确距离信息。

7.2.1 SDF的数学定义与性质

对于闭合曲面 $\mathcal{M} \subset \mathbb{R}^3$，符号距离函数定义为： $$\text{SDF}(\mathbf{x}) = s(\mathbf{x}) \cdot \min_{\mathbf{y} \in \mathcal{M}} ||\mathbf{x} - \mathbf{y}||_2$$ 其中符号函数： $$s(\mathbf{x}) = \begin{cases} -1, & \text{if } \mathbf{x} \text{ 在 } \mathcal{M} \text{ 内部} \\ +1, & \text{if } \mathbf{x} \text{ 在 } \mathcal{M} \text{ 外部} \end{cases}$$ 关键性质：

1. 单位梯度性质（Eikonal方程）： $$||\nabla \text{SDF}(\mathbf{x})||_2 = 1 \quad \text{几乎处处成立}$$

2. 表面法向： 在表面上，SDF的梯度给出单位外法向： $$\mathbf{n} = \nabla \text{SDF}(\mathbf{x})|_{\mathbf{x} \in \mathcal{M}}$$

3. Lipschitz连续性： $$|\text{SDF}(\mathbf{x}_1) - \text{SDF}(\mathbf{x}_2)| \leq ||\mathbf{x}_1 - \mathbf{x}_2||_2$$

4. 最近点投影： $$\text{Proj}_\mathcal{M}(\mathbf{x}) = \mathbf{x} - \text{SDF}(\mathbf{x}) \cdot \nabla \text{SDF}(\mathbf{x})$$

7.2.2 Eikonal方程与梯度约束

Eikonal方程 $||\nabla f||_2 = 1$ 是SDF的核心约束，它确保了函数确实表示距离场。

物理直觉： 想象从表面发出的"距离波"以单位速度传播，Eikonal方程描述了波前的传播规律。

神经网络中的Eikonal正则化： 训练神经SDF时，需要显式地强制Eikonal约束： $$\mathcal{L}_{\text{Eikonal}} = \mathbb{E}_{\mathbf{x}}[(||\nabla_{\mathbf{x}} f_\theta(\mathbf{x})||_2 - 1)^2]$$ 梯度计算通过自动微分实现： $$\nabla_{\mathbf{x}} f_\theta = \frac{\partial f_\theta}{\partial \mathbf{x}}$$ 采样策略： Eikonal损失的采样点选择很关键：

• 表面附近：权重更高，确保法向准确
• 空间均匀采样：保证全局距离场质量
• 困难样本挖掘：关注梯度偏差大的区域

数值稳定性： 直接优化Eikonal约束可能导致数值不稳定，实践中的技巧：

• 梯度裁剪：限制梯度范数的更新幅度
• 渐进式权重：训练初期降低Eikonal权重
• 软约束：使用 $\text{softplus}(||\nabla f|| - 1)$ 代替平方损失

7.2.3 SDF的神经网络参数化

将SDF参数化为神经网络需要特殊的设计考虑：

初始化策略： 几何初始化使网络初始表示一个简单形状：

• 球体初始化：$f_\theta^{(0)}(\mathbf{x}) \approx ||\mathbf{x}|| - r$
• 通过设置最后一层偏置：$b_{\text{out}} = -r$

多分辨率表示： 结合不同尺度的特征： $$f_\theta(\mathbf{x}) = \sum_{i=1}^{K} \alpha_i \cdot f_{\theta_i}(\mathbf{x}/s_i)$$ 其中 $s_i$ 是尺度因子，$\alpha_i$ 是可学习权重。

条件化SDF： 表示多个形状的潜码条件化： $$f_\theta(\mathbf{x}, \mathbf{z}) : \mathbb{R}^3 \times \mathbb{R}^d \rightarrow \mathbb{R}$$ 其中 $\mathbf{z}$ 是形状潜码。

7.2.4 从SDF提取零等值面

零等值面 $\{\mathbf{x} : f_\theta(\mathbf{x}) = 0\}$ 定义了3D表面。提取方法：

Marching Cubes on Neural SDF：

1. 在空间中定义规则网格
2. 对每个网格顶点评估 $f_\theta$
3. 使用线性插值找到零穿越点
4. 根据查找表生成三角形

自适应采样： 根据SDF梯度调整采样密度：

• 高曲率区域：增加采样密度
• 平坦区域：降低采样密度

采样密度函数： $$\rho(\mathbf{x}) = \max(\rho_{\min}, \min(\rho_{\max}, \kappa \cdot ||\nabla^2 f_\theta(\mathbf{x})||_F))$$ Sphere Tracing（光线投射）： 利用SDF的距离性质加速光线追踪：

给定光线 r(t) = o + t·d
while |f(r(t))| > ε:
    t += f(r(t))  # 安全步进
return r(t) if converged

7.3 占据场与截断SDF

7.3.1 占据场的概率解释

占据场（Occupancy Field）将3D空间的每个点映射到占据概率： $$o_\theta: \mathbb{R}^3 \rightarrow [0, 1]$$ 概率解释： $$p(\text{occupied}|\mathbf{x}) = o_\theta(\mathbf{x})$$ 与SDF的关系： 通过sigmoid函数转换： $$o(\mathbf{x}) = \sigma(-\alpha \cdot \text{SDF}(\mathbf{x}))$$ 其中 $\alpha$ 控制过渡的锐利程度。

优势：

• 自然的概率框架，适合不确定性建模
• 训练稳定，使用二元交叉熵损失
• 可以表示非水密表面

劣势：

• 缺少距离信息
• 表面法向估计不准确
• 等值面提取需要阈值选择

7.3.2 二分类问题的视角

占据场学习可视为3D空间的二分类问题：

损失函数： $$\mathcal{L}_{\text{BCE}} = -\mathbb{E}_{\mathbf{x}}[y \log o_\theta(\mathbf{x}) + (1-y)\log(1-o_\theta(\mathbf{x}))]$$ 其中 $y \in \{0, 1\}$ 是真实占据标签。

类别不平衡问题： 3D空间中，表面附近的点远少于内部/外部点：

• 加权采样：增加表面附近采样
• Focal Loss：降低简单样本权重 $$\mathcal{L}_{\text{focal}} = -\alpha_t(1-p_t)^\gamma \log(p_t)$$ 决策边界的平滑性： 通过正则化促进平滑决策边界： $$\mathcal{L}_{\text{smooth}} = \mathbb{E}_{\mathbf{x}}[||\nabla o_\theta(\mathbf{x})||_2^2]$$

7.3.3 截断SDF（TSDF）的动机与实现

TSDF在传感器范围内截断距离值，适合融合深度图： $$\text{TSDF}(\mathbf{x}) = \begin{cases} \max(-\tau, \text{SDF}(\mathbf{x})), & \text{if } \text{SDF}(\mathbf{x}) < 0 \\ \min(\tau, \text{SDF}(\mathbf{x})), & \text{if } \text{SDF}(\mathbf{x}) \geq 0 \end{cases}$$ 动机：

1. 深度传感器只在表面附近可靠
2. 减少远离表面的计算和存储
3. 更容易的多视图融合

神经TSDF的实现： 使用tanh激活自然实现截断： $$f_{\text{TSDF}}(\mathbf{x}) = \tau \cdot \tanh(f_\theta(\mathbf{x})/\tau)$$ 体素融合 vs 神经融合：

• 传统：TSDF体素的加权平均
• 神经：直接优化统一的神经TSDF

7.3.4 不同隐式表示的转换关系

各种隐式表示之间存在数学关系：

SDF → Occupancy： $$o(\mathbf{x}) = \begin{cases} 1, & \text{if } \text{SDF}(\mathbf{x}) < 0 \\ 0, & \text{if } \text{SDF}(\mathbf{x}) > 0 \end{cases}$$ 平滑版本：$o(\mathbf{x}) = \sigma(-\alpha \cdot \text{SDF}(\mathbf{x}))$

Occupancy → 近似SDF： 通过求解Eikonal方程： $$||\nabla u|| = 1, \quad u|_{\partial\Omega} = 0$$ 其中 $\partial\Omega = \{\mathbf{x}: o(\mathbf{x}) = 0.5\}$

UDF（Unsigned Distance Field）→ SDF： 需要内外判断：

1. 射线法：计算穿越次数
2. 法向一致性：利用梯度方向
3. 生成树法：从已知内部点传播

7.4 位置编码与频率分析

神经网络在学习高频函数时存在固有的频谱偏差（spectral bias），倾向于学习低频分量。位置编码是克服这一限制的关键技术。

7.4.1 神经网络的频谱偏差

频谱偏差现象： 标准MLP倾向于学习低频函数，这可以通过神经切线核（NTK）理论解释： $$K_{\text{NTK}}(\mathbf{x}, \mathbf{x}') = \langle \nabla_\theta f(\mathbf{x}), \nabla_\theta f(\mathbf{x}') \rangle$$ NTK的特征值衰减速度决定了不同频率分量的学习速度。

对几何表示的影响：

• 过度平滑的表面
• 细节丢失
• 锐利特征模糊

频率分析： 通过傅里叶变换分析网络输出： $$\hat{f}(\mathbf{k}) = \int_{\mathbb{R}^3} f(\mathbf{x}) e^{-2\pi i \mathbf{k} \cdot \mathbf{x}} d\mathbf{x}$$ 实验表明，未经编码的坐标输入导致 $\hat{f}(\mathbf{k})$ 在高频处快速衰减。

7.4.2 Fourier特征与随机特征

Fourier位置编码： 将输入坐标映射到高维特征空间： $$\gamma(\mathbf{x}) = [\sin(2^0\pi\mathbf{x}), \cos(2^0\pi\mathbf{x}), ..., \sin(2^{L-1}\pi\mathbf{x}), \cos(2^{L-1}\pi\mathbf{x})]$$ 频率数量 $L$ 的选择：

• 简单形状：$L = 4-6$
• 复杂形状：$L = 8-10$
• 超高细节：$L = 12-14$

随机Fourier特征（RFF）： 使用随机频率基： $$\gamma_{\text{RFF}}(\mathbf{x}) = [\sin(\mathbf{B}\mathbf{x}), \cos(\mathbf{B}\mathbf{x})]$$ 其中 $\mathbf{B} \in \mathbb{R}^{m \times 3}$ 从高斯分布采样：$b_{ij} \sim \mathcal{N}(0, \sigma^2)$

带宽参数 $\sigma$ 的影响：

• 小 $\sigma$：平滑函数，低频主导
• 大 $\sigma$：高频细节，可能过拟合

自适应带宽策略： $$\sigma(t) = \sigma_0 \cdot \exp(t/T \cdot \log(\sigma_1/\sigma_0))$$ 训练过程中从低频逐渐增加到高频。

7.4.3 多分辨率哈希编码

Instant NGP的哈希编码： 结合多个分辨率级别的特征网格：

对于每个分辨率级别 l：

  1. 将空间划分为 N_l × N_l × N_l 的网格
  2. 每个网格顶点存储 F 维特征向量
  3. 使用空间哈希函数映射到固定大小表 T
  4. 三线性插值获得连续特征场

哈希函数： $$h(\mathbf{x}) = \left(\bigoplus_{i=1}^{3} x_i \cdot \pi_i \right) \mod T$$ 其中 $\pi_i$ 是大质数，$\oplus$ 是异或操作。

多分辨率聚合： $$\mathbf{f}_{\text{enc}}(\mathbf{x}) = \text{concat}[\mathbf{f}_1(\mathbf{x}), ..., \mathbf{f}_L(\mathbf{x})]$$ 分辨率增长： $$N_l = \lfloor N_{\min} \cdot b^l \rfloor$$ 其中 $b \approx 1.3-2.0$ 是增长因子。

优势：

• 内存效率：$O(T \cdot F \cdot L)$ 而非 $O(N^3 \cdot F \cdot L)$
• 自适应容量：哈希冲突自动分配容量
• 快速收敛：比纯MLP快100倍

7.4.4 学习式位置编码策略

可学习的频率基： 让网络自己学习最优的编码基： $$\gamma_{\text{learned}}(\mathbf{x}) = \sigma(\mathbf{W}_{\text{enc}} \mathbf{x} + \mathbf{b}_{\text{enc}})$$ 其中 $\mathbf{W}_{\text{enc}} \in \mathbb{R}^{d \times 3}$ 是可学习参数。

SIREN：周期激活作为隐式编码： 使用正弦激活函数： $$\phi(\mathbf{x}) = \sin(\omega_0 \mathbf{W}\mathbf{x} + \mathbf{b})$$ 初始化策略确保保持单位方差： $$w_{ij} \sim \mathcal{U}(-\sqrt{6/n}, \sqrt{6/n})$$ Progressive编码： 渐进式激活高频分量： $$\gamma_t(\mathbf{x}) = [\gamma_0(\mathbf{x}), \alpha(t) \cdot \gamma_1(\mathbf{x}), ..., \alpha(t)^L \cdot \gamma_L(\mathbf{x})]$$ 其中 $\alpha(t)$ 从0渐增到1。

注意力机制编码： 使用自注意力选择相关频率： $$\mathbf{f} = \text{Attention}(\mathbf{Q}=\gamma(\mathbf{x}), \mathbf{K}=\mathbf{F}, \mathbf{V}=\mathbf{F})$$ 其中 $\mathbf{F}$ 是可学习的频率字典。

本章小结

本章系统介绍了神经隐式表示的基础理论与关键技术：

核心概念：

1. 万能逼近定理保证了神经网络表示任意3D几何的理论可行性
2. SDF提供了精确的距离信息和梯度约束（Eikonal方程）
3. 占据场给出概率框架，适合不确定性建模
4. 位置编码克服频谱偏差，使网络能够表示高频细节

关键公式：

• Eikonal方程：$||\nabla f||_2 = 1$
• SDF到占据场：$o(\mathbf{x}) = \sigma(-\alpha \cdot \text{SDF}(\mathbf{x}))$
• Fourier编码：$\gamma(\mathbf{x}) = [..., \sin(2^l\pi\mathbf{x}), \cos(2^l\pi\mathbf{x}), ...]$

实践要点：

• 网络架构：8层MLP + 跳跃连接
• 激活函数：Softplus（平滑）或 Sine（高频）
• 采样策略：表面附近密集 + 空间均匀
• 训练技巧：几何初始化、渐进式训练、正则化

技术演进： 从简单的占据场到精确的SDF，从固定Fourier编码到学习式哈希编码，神经隐式表示正在向着更高效、更精确、更通用的方向发展。

练习题

基础题

练习7.1：证明一个宽度为 $w$ 的单隐藏层ReLU网络可以精确表示一个 $n$ 面的凸多面体的指示函数，并给出所需的最小宽度 $w$。

Hint：考虑每个面对应一个半空间，使用ReLU的线性组合。

练习7.2：给定一个球体的SDF $f(\mathbf{x}) = ||\mathbf{x}|| - r$，计算并验证其梯度的范数。在什么位置梯度不存在？

Hint：分别考虑球内、球外和原点的情况。

练习7.3：设计一个位置编码方案，使得神经网络能够精确表示频率为 $\omega$ 的正弦波 $\sin(\omega x)$。最少需要多少个编码维度？

Hint：考虑Fourier基的完备性。

挑战题

练习7.4：推导从占据场 $o(\mathbf{x})$ 估计表面法向的公式。讨论为什么直接使用梯度 $\nabla o$ 作为法向是有问题的，并提出改进方案。

Hint：考虑占据场在表面附近的行为和梯度的尺度问题。

练习7.5：分析SIREN网络（使用 $\sin$ 激活）相比ReLU网络在表示SDF时的优劣。证明SIREN可以精确表示球谐函数。

Hint：考虑导数的连续性和球谐函数的正交性。

练习7.6：设计一个实验来验证神经网络的频谱偏差。给定目标函数 $f(x) = \sum_{k=1}^{10} \frac{1}{k}\sin(2\pi k x)$，比较有无位置编码的网络的学习曲线。

Hint：监测不同频率分量的重建误差。

练习7.7：推导多分辨率哈希编码的内存复杂度和计算复杂度。在什么条件下哈希编码比密集网格更高效？

Hint：考虑哈希冲突率和空间稀疏性。

常见陷阱与错误（Gotchas）

1. SDF的符号约定混淆

问题：不同文献/代码库对SDF内外的符号定义相反。

后果：

• 法向方向错误
• Marching Cubes提取出反向的表面

解决方案：

• 始终明确定义：内部为负/外部为正（或相反）
• 检查：$\nabla \text{SDF}$ 应指向外法向
• 测试：简单球体的SDF符号

2. Eikonal损失的数值不稳定

问题：直接优化 $(||\nabla f|| - 1)^2$ 导致梯度爆炸。

症状：

• 训练loss突然增大
• 网络输出NaN
• 表面出现尖刺

解决方案：

# 不好的实现
eikonal_loss = ((grad_norm - 1) ** 2).mean()

# 更好的实现
eikonal_loss = (grad_norm - 1).abs().mean()  # L1损失
# 或
eikonal_loss = F.smooth_l1_loss(grad_norm, torch.ones_like(grad_norm))

3. 位置编码的频率选择不当

问题：最高频率设置过高导致训练不稳定。

症状：

• 出现高频噪声/伪影
• 过拟合训练数据
• 泛化性能差

诊断：

# 检查频率范围
max_freq = 2 ** (L-1)
nyquist_freq = 1 / (2 * voxel_size)  # 采样分辨率决定的Nyquist频率
if max_freq > nyquist_freq:
    print("警告：编码频率超过Nyquist限制")

4. 占据场的阈值选择

问题：0.5不一定是最佳的等值面阈值。

原因：

• 训练时的类别不平衡
• 网络的输出偏差

解决方案：

• 在验证集上搜索最优阈值
• 使用IoU或Chamfer距离作为指标
• 考虑自适应阈值

5. 哈希冲突导致的伪影

问题：多个空间位置映射到同一哈希项。

症状：

• 周期性的块状伪影
• 不相关区域的特征耦合

缓解策略：

• 增大哈希表大小 T
• 使用多个独立的哈希函数
• 质数哈希参数选择：

primes = [73856093, 19349663, 83492791]  # 大质数减少冲突

6. 网络容量与过拟合的平衡

问题：大网络记忆训练数据而非学习形状。

检测：

• 训练loss很低但测试loss高
• 插值质量差
• 远离训练点的预测异常

正则化技巧：

• 权重衰减：$\lambda \in [1e-6, 1e-4]$
• Spectral normalization
• 隐空间维度限制（条件化网络）

7. 梯度计算的内存爆炸

问题：计算 $\nabla_\mathbf{x} f$ 需要构建计算图。

场景：

• 批量大时OOM
• 高分辨率网格提取

优化：

# 使用checkpoint减少内存
x.requires_grad_(True)
with torch.cuda.amp.autocast():  # 混合精度
    sdf = checkpoint(model, x)  # 梯度checkpoint

# 分块计算
for chunk in x.split(chunk_size):
    process(chunk)

这些陷阱和解决方案来自实践经验，掌握它们能避免许多调试时间，提高神经隐式表示的实现质量。