Reddit扫盲贴火了！热心网友帮忙分析手写体合成原理，真实目的竟然是骗数据？

Reddit上一个问题火了！

! }! n1 @% \7 n

一个小哥访问了一个手写体生成的网站之后，感觉太不可思议了，想问一下是机器学习技术是怎么帮助生成手写体的？

6 c8 ^/ i$ h: q0 e; X- A3 q! X( B

为了避免广告嫌疑，提问者声明：我不是制作这个的人，但它的工作原理是如此的令人着迷---- 我的笔迹被模仿得非常好。有人知道它是如何工作的吗(特别是因为它是离线笔迹分析) ？他们还有一些有趣的动画和导出选项。

这个神奇的网站可以根据你输入的字符生成手写体。

2 |7 p) ]$ E# l

在右边可以输入想要生成的文本，但目前还不支持中文，有各种各样的参数可以调节，并且每次点击Write后生成的手写体都不一样。

" X& S! Y) G* h: Y; R7 v5 O

可以选择的手写体样式也很多，其中好像混进去一个奇怪的手写体。

有网友直接给出了仓库的地址，我猜它是这个 repo 的包装器，因为输出看起来非常相似，而且许多样式都是共享的。repo的自述文件也指向了一个类似的网页界面，虽然我不认为它与这个项目有直接的关系，但它似乎也做了基本相同的事情。

9 u$ _! h& V) }* C, [

他所说的是github的一个著名仓库，手写体合成，目前已获得超1400颗星。

主要实现原理是Alex Graves 的论文  Generating Sequences with Recurrent Neural Networks。实现方法与原文基本一致，只有少量偏差，生成的样本与文中提供的样本具有相似的质量。

根据给出的demo网址可以生成一个手写体。

用法也很简单，只需输入文本，就会输出一张图片。

+ U' q6 ~. w# H( S5 o/ ]& e

但问题又来了，这个仓库并不支持自定义的上传的手写体格式，但是reddit小哥分享的链接有这个功能。

有机智的网友发现，字体合成本身看起来像格雷夫斯的论文，但风格提取的图像和转移到在线手写不是格雷夫斯论文的一部分。我只知道这项工作试图弥合在线和离线笔迹之间的差距(不幸的是没有自由访问，但其要点是提纲式的离线笔迹图像和在线笔迹渲染，以获得两者之间共享的域)。

+ B; A; @5 R1 v$ P1 |" m: Z M

$ e. s/ b$ b5 q( p# W

鉴于上传自己的笔迹看起来效果很差，而且没有明确的笔迹标注，我觉得这可能是为了数据收集的目的，并且在用我的免费数据提供给他们时可能会有点犹豫。

好家伙，来骗数据来了！

( K4 g3 @2 w+ i0 N# N/ H6 ]

还有网友深入地分析了一下，

9 T) w; ]9 y& D

下面是它为「Twas brillig And the slythy toves did gyre And gimble in the wabe」生成的输出结果。

/ B8 L5 z8 ]0 `8 i0 U

它知道并且必须猜测的字母组合，包括它应该知道如何写的大写「t」。奇怪的是，它想在每个以「t」开头的单词旁边加一个小写的「g」。也许是因为我混合使用草书和印刷体写作，但写作效果并不好。特别是那个「d」。我真的很喜欢我的「d」的样子，我很难过它没有捕捉到他们。

我想也许给它一个更简单的句子会产生更好的结果。但是，唉，即使是在这个句子上，它也表现得相当糟糕。「t」前面的「g」的问题仍然存在... ... 很奇怪。

但是，它是超级整洁！就像其他人说的，如果你能给它更长的句子让它学习，那就太酷了。也许结果会有所改善。

其他网友也发现「t」字母是很奇怪的：我刚刚也在你的笔迹上试了一下(在裁剪了一下图像之后) ，得到了类似的结果——除了所有的「t」前面都有「c」(这是我的结果)。它似乎能很好地捕捉到全局风格的信息，但在单个字符上就失败了。尽管如此，还是很有趣！

. |7 i+ |" i1 Z! @3 x7 x

还有网友表示和有的字体和印刷体很像：这是一个很酷的概念，但对我来说，它看起来一点也不像我真正的笔迹，我认为我提供了一个非常清晰的样本。对我来说，最大的错误之一就是我把小写字母 a 写得和电脑上的一模一样，而这个生成的小写字母 a 看起来像 α。我认为它可能会更好，如果它要求更多的例子你的笔迹，因为如果它没有一个例子，字母表中的每个字符，它不可能做那么好的工作。同一个人写的同一个字母在同一个大小写中的外观甚至有细微的差别，这取决于字符在单词中的位置。如果让你写出一些很长的示例文本，然后尝试模仿它，那就太酷了。

Graves 的论文

* y( `9 c; E2 L. M" \

这篇论文是2013年的。

论文的主要内容是利用长短期记忆递归神经网络（LSTM），通过简单地预测一个数据点来实现长时间的复杂序列生成。该方法适用于文本(数据是离散的)和在线手写(数据是实值的)。然后，通过允许网络根据文本序列调整预测，将其扩展到手写合成。由此产生的系统能够生成多种风格的高度逼真的草书。 

RNNs(与基于模板的算法不同)以一种复杂的方式综合和重构训练数据，并且很少生成相同的内容两次。此外，模糊预测不依赖于维数的诅咒，因此在建模实值或多变量数据时，它比精确匹配要有效得多。

0 I5 R+ `' ]! j0 c I% S

在预测阶段，文本数据是离散的，通常使用「onehot」输入向量呈现给神经网络。也就是说，如果总共有K个文本类，而类K是在t时刻输入的，那么xt就是一个长度为K的向量，除了第K项是1外，其他项都是0。因此，Pr(xt+1|yt)是一个多项分布，可以通过输出层的softmax函数自然参数化。

+ `" C2 I/ D' H" A+ k

在大多数情况下，文本预测(通常称为语言建模)是在单词级执行的。因此K是字典中的单词数。这对于实际的任务来说是有问题的，因为单词的数量(包括不同的词形变化、专有名称等)常常超过100,000。除了需要许多参数进行建模外，拥有如此多的类还需要大量的训练数据来充分覆盖单词的可能上下文。在softmax模型中，另一个困难是在训练期间评估所有指数的计算成本很高(尽管已经设计了几种方法来提高训练大型softmax层的效率，包括基于树的模型、低秩近似和随机导数)。此外，单词级模型不适用于包含非单词字符串的文本数据，如多位数字或web地址。

! p4 J1 \( w3 D: I/ K! B& S

在论文的第四章中介绍了这种生成方式可以用于笔迹的预测。

为了测试预测网络是否也能被用来生成令人信服的实值序列，我们将其应用于在线手写数据(在这种情况下，在线意味着书写被记录为笔尖位置的序列，而离线手写则只有页面图像可用)。由于其低维性(每个数据点两个实数)和易于可视化，在线手写是一个有吸引力的序列生成选择。 

使用的所有数据均来自IAM在线手写数据库(IAM- ondb)。

, K1 |4 V. Y$ `" T

IAM-OnDB由使用「智能白板」从221位不同作者那里收集的手写行组成。作家们被要求写来自lancaster - oso - bergen文本文集的表格，他们的笔的位置通过黑板角落里的红外线设备进行跟踪。

一个重要的工作就是混合密度网络（mixture density networks），其的思想是利用神经网络的输出来参数化混合分布。输出的一个子集用于定义混合权重，而其余的输出用于参数化单独的混合组件。混合权重与softmax函数输出正常,确保它们形成一个有效的离散分布,和其他的输出是通过合适的函数来保持它们的值有意义的范围内(例如指数函数通常用于输出作为尺度参数,必须是正数)。 

对于本文的笔迹实验，基本的RNN结构和更新方程与之前保持不变。每个输入向量xt由一对实值x1, x2,定义了笔抵消从之前的输入,以及一个二进制x3。

手写预测的混合密度输出。顶部的热图显示了「under」这个词写的时候，预测的笔位置的概率分布序列。连续预测的密度被加在一起，给出了分布重叠的高值。

2 G& E- F+ y$ d4 t1 k+ _* T/ V

4 l. R* G2 p, B+ K) I3 E+ U

参考资料：

https://www.reddit.com/r/MachineLearning/comments/nwb7ed/d_handwritinggenerator_use_machine_learning_to/

7 F/ r$ D, x8 k6 ^* H0 L* o $ k( M3 U6 y! u* W: }