【信息科学与工程学】计算机科学与自动化——第十篇 芯片设计21 1~3nm GPU芯片中的数学物理和数学化学知识框架01

📅 2026/8/4 3:11:48 👁️ 阅读次数 📝 编程学习
【信息科学与工程学】计算机科学与自动化——第十篇 芯片设计21 1~3nm GPU芯片中的数学物理和数学化学知识框架01

1~3nm GPU芯片中的数学物理和数学化学知识框架

编号

类型

数学物理/数学化学领域/几何/拓扑/结构/材料数学

数学分析/组合数学方程式及参数列表及数字/数值

误差/公差/期望/概率/统计数学方程式

应用场景和应用方法及步骤

加工工艺及每个工艺步骤的时序方程式和各类工艺参数列表

1

数学物理

量子输运理论:描述纳米尺度下电子在晶体管沟道中的量子隧穿、弹道输运等行为。

非平衡格林函数(NEGF)方程
[E - H - Σ_S - Σ_D] G^R = IG^< = G^R Σ^< G^A
参数:哈密顿量矩阵H, 自能Σ, 格林函数G, 能量