1 模拟退火
*问题:**给定一个成本函数f:r^n–>r*，找到一个 n 元组，该元组最小化 f 的值。请注意，最小化函数值在算法上等同于最大化(因为我们可以将成本函数重新定义为 1-f)。 很多有微积分/分析背景的人可能都熟悉单变量函数的简单优化。例如，函数 f(x) = x^2 + 2x 可以通过将一阶导数设置为零来优化，从而获得产生最小值 f(-1) = -1 的解 x = -1 。这种技术适用于变量很少的简单函数。然而，通常情况下，研究人员对优化几个变量的函数感兴趣，在这种情况下，只能通过计算获得解。
一个困难的优化任务的极好例子是芯片平面规划问题。假设你在英特尔工作，你的任务是设计集成电路的布局。您有一组不同形状/大小的模块，以及可以放置模块的固定区域。你想要达到的目标有很多:最大化导线连接元件的能力，最小化净面积，最小化芯片成本，等等。考虑到这些，您创建了一个成本函数，取所有，比如说， 1000 个变量配置，并返回一个代表输入配置“成本”的实数值。我们称之为目标函数，因为目标是最小化它的值。 一个简单的算法是完全的空间搜索——我们搜索所有可能的配置，直到找到最小值。这对于变量很少的函数来说可能就足够了，但是我们想到的问题需要这样一个强力算法来玩 *O(n！)*。
由于这类问题和其他 NP 难问题的计算困难，许多优化试探法已经被开发出来，试图产生一个好的，尽管可能是次优的值。在我们的例子中，我们不一定需要找到一个严格的最优值——找到一个接近最优的值将满足我们的目标。一种广泛使用的技术是模拟退火，通过它我们引入了一定程度的随机性，有可能从一个更好的解转移到一个更差的解，试图逃离局部极小值并收敛到一个更接近全局最优的值。
模拟退火是基于冶金实践，通过这种实践，材料被加热到高温并冷却。在高温下，原子可能会不可预测地移动，通常会随着材料冷却成纯晶体而消除杂质。这是通过模拟退火优化算法复制的，能量状态对应于当前解。 在这个算法中，我们定义了一个初始温度和一个最低温度，初始温度通常设置为 1，最低温度的数量级为 10^-4.当前温度乘以某个分数α，然后降低，直到达到最低温度。对于每个不同的温度值，我们运行核心优化例程的次数是固定的。优化程序包括找到一个相邻解并以概率e^(f(c–f(n)】接受它，其中 c 是当前解而 n 是相邻解。通过对当前解施加微小的扰动来找到相邻解。这种随机性有助于避开优化启发式算法的常见陷阱——陷入局部极小值。通过潜在地接受一个比我们目前拥有的更差的最优解，并以与成本增加相反的概率接受它，算法更有可能收敛到全局最优。设计一个邻居函数是相当棘手的，必须在个案的基础上完成，但以下是在位置优化问题中寻找邻居的一些想法。
- 在随机方向上将所有点移动 0 或 1 个单位
- 随机移动输入元素
- 交换输入序列中的随机元素
- 置换输入序列
- 将输入序列分成随机数量的段和置换段
一个警告是，我们需要提供一个初始解决方案，以便算法知道从哪里开始。这可以通过两种方式来实现:(1)使用关于问题的先验知识来输入良好的起点，以及(2)生成随机解。尽管生成随机解更糟糕，有时会抑制算法的成功，但对于我们对环境一无所知的问题，这是唯一的选择。
还有许多其他优化技术，尽管模拟退火是一种有用的随机优化启发式方法，适用于大型离散搜索空间，在这些空间中，随着时间的推移，最优性是优先的。下面，我包含了一个基于位置的模拟退火的基本框架(可能是模拟退火最适用的优化风格)。当然，成本函数、候选生成函数和邻居函数必须根据手头的具体问题来定义，尽管核心优化例程已经实现。
2 源程序（文本格式）
using System;
using System.Text;
namespace Legalsoft.Truffer.Algorithm
{
/// <summary>
/// 算法核心数据类
/// 含：方差系数均方根误差，配置参数（数组）
/// </summary>
public class Anneal_Solution
{
/// <summary>
/// 方差系数均方根误差
/// Coefficient of Variance Root Mean Squared Error
/// 默认初值0.0；不超过1.0；
/// </summary>
public double CVRMSE { get; set; } = 0.0;
/// <summary>
/// 配置参数（数组）
/// 整型数组；无初值（null）；
/// </summary>
public int[] Config { get; set; } = null;
/// <summary>
/// （无参）默认构造函数
/// </summary>
public Anneal_Solution()
{
}
/// <summary>
/// （有参）构造函数
/// </summary>
/// <param name="CVRMSE">方差系数均方根误差</param>
/// <param name="configuration">配置参数（数组）</param>
public Anneal_Solution(double CVRMSE, int[] configuration)
{
this.CVRMSE = CVRMSE;
Config = configuration;
}
}
/// <summary>
/// 模拟退火算法
/// </summary>
public class Simulated_Annealing
{
private static Random rand { get; set; } = new Random((int)DateTime.Now.Ticks);
public static string Solve(int M = 15, int N = 15, double T_Minium = 0.0001, double Alpha = 0.9, int Maxium_Iterations = 100)
{
string[,] sourceArray = new string[M, N];
Anneal_Solution min = new Anneal_Solution(double.MaxValue, null);
Anneal_Solution currentSol = Rand_Solution(M);
double temperature = 1.0;
while (temperature > T_Minium)
{
for (int i = 0; i < Maxium_Iterations; i++)
{
if (currentSol.CVRMSE < min.CVRMSE)
{
min = currentSol;
}
Anneal_Solution newSol = Neighbor(currentSol);
double ap = Math.Pow(Math.E, (currentSol.CVRMSE - newSol.CVRMSE) / temperature);
if (ap > rand.NextDouble())
{
currentSol = newSol;
}
}
temperature *= Alpha;
}
#endregion
for (int i = 0; i < sourceArray.GetLength(0); i++)
{
for (int j = 0; j < sourceArray.GetLength(1); j++)
{
sourceArray[i, j] = "X";
}
}
foreach (int k in min.Config)
{
int[] coord = Index_To_Points(M, N, k);
sourceArray[coord[0], coord[1]] = "-";
}
StringBuilder sb = new StringBuilder();
for (int i = 0; i < sourceArray.GetLength(0); i++)
{
for (int j = 0; j < sourceArray.GetLength(1); j++)
{
sb.Append(sourceArray[i, j] + ", ");
}
sb.AppendLine("<br>");
}
return sb.ToString();
}
public static Anneal_Solution Neighbor(Anneal_Solution currentSol)
{
return currentSol;
}
public static Anneal_Solution Rand_Solution(int n)
{
int[] a = new int[n];
for (int i = 0; i < n; i++)
{
a[i] = i + 1;
}
return new Anneal_Solution(-1, a);
}
public static double Cost(int[] inputConfiguration)
{
return -1;
}
public static int[] Index_To_Points(int M, int N, int index)
{
int[] points = { index % M, index / M };
return points;
}
}
}
3 代码格式
using System;
using System.Text;
namespace Legalsoft.Truffer.Algorithm
{
/// <summary>
/// 算法核心数据类
/// 含：方差系数均方根误差，配置参数（数组）
/// </summary>
public class Anneal_Solution
{
/// <summary>
/// 方差系数均方根误差
/// Coefficient of Variance Root Mean Squared Error
/// 默认初值0.0；不超过1.0；
/// </summary>
public double CVRMSE { get; set; } = 0.0;
/// <summary>
/// 配置参数（数组）
/// 整型数组；无初值（null）；
/// </summary>
public int[] Config { get; set; } = null;
/// <summary>
/// （无参）默认构造函数
/// </summary>
public Anneal_Solution()
{
}
/// <summary>
/// （有参）构造函数
/// </summary>
/// <param name="CVRMSE">方差系数均方根误差</param>
/// <param name="configuration">配置参数（数组）</param>
public Anneal_Solution(double CVRMSE, int[] configuration)
{
this.CVRMSE = CVRMSE;
Config = configuration;
}
}
/// <summary>
/// 模拟退火算法
/// </summary>
public class Simulated_Annealing
{
private static Random rand { get; set; } = new Random((int)DateTime.Now.Ticks);
public static string Solve(int M = 15, int N = 15, double T_Minium = 0.0001, double Alpha = 0.9, int Maxium_Iterations = 100)
{
string[,] sourceArray = new string[M, N];
Anneal_Solution min = new Anneal_Solution(double.MaxValue, null);
Anneal_Solution currentSol = Rand_Solution(M);
double temperature = 1.0;
while (temperature > T_Minium)
{
for (int i = 0; i < Maxium_Iterations; i++)
{
if (currentSol.CVRMSE < min.CVRMSE)
{
min = currentSol;
}
Anneal_Solution newSol = Neighbor(currentSol);
double ap = Math.Pow(Math.E, (currentSol.CVRMSE - newSol.CVRMSE) / temperature);
if (ap > rand.NextDouble())
{
currentSol = newSol;
}
}
temperature *= Alpha;
}
#endregion
for (int i = 0; i < sourceArray.GetLength(0); i++)
{
for (int j = 0; j < sourceArray.GetLength(1); j++)
{
sourceArray[i, j] = "X";
}
}
foreach (int k in min.Config)
{
int[] coord = Index_To_Points(M, N, k);
sourceArray[coord[0], coord[1]] = "-";
}
StringBuilder sb = new StringBuilder();
for (int i = 0; i < sourceArray.GetLength(0); i++)
{
for (int j = 0; j < sourceArray.GetLength(1); j++)
{
sb.Append(sourceArray[i, j] + ", ");
}
sb.AppendLine("<br>");
}
return sb.ToString();
}
public static Anneal_Solution Neighbor(Anneal_Solution currentSol)
{
return currentSol;
}
public static Anneal_Solution Rand_Solution(int n)
{
int[] a = new int[n];
for (int i = 0; i < n; i++)
{
a[i] = i + 1;
}
return new Anneal_Solution(-1, a);
}
public static double Cost(int[] inputConfiguration)
{
return -1;
}
public static int[] Index_To_Points(int M, int N, int index)
{
int[] points = { index % M, index / M };
return points;
}
}
}
