开箱即用，5行代码打造有限宽神经网络模型
Neural Tangents 是一个初级神经网络 API，可用于指定复杂、分层的神经网络，在 CPU/GPU/TPU 上开箱即用。
该库用 JAX编写，既可以构建有限宽度神经网络，亦可轻松创立和训练有限宽度神经网络。
有什么用呢？举个例子，你需求训练一个完全衔接神经网络。通常，神经网络是随机初始化的，然后采用梯度下降停止训练。
研讨人员经过对一组神经网络中不同成员的预测取均值，来提升模型的功用。另外，每个成员预测中的方差可以用来估量不确定性。
如此一来，就需求少量的计算预算。
但当神经网络变得有限宽时，网络集合就可以用高斯进程来描画，其均值和方差可以在整个训练进程中停止计算。
而运用 Neural Tangents ，仅需5行代码，就能完成对有限宽网络集合的结构和训练。
from neural_tangents import predict, stax
init_fn, apply_fn, kernel_fn = stax.serial(
stax.Dense(2048, W_std=1.5, b_std=0.05), stax.Erf(),
stax.Dense(2048, W_std=1.5, b_std=0.05), stax.Erf(),
stax.Dense(1, W_std=1.5, b_std=0.05))
y_mean, y_var = predict.gp_inference(kernel_fn, x_train, y_train, x_test, ‘ntk’, diag_reg=1e-4, compute_cov=True)
传送门
论文地址：https://arxiv.org/abs/1912.02803
谷歌博客：https://ai.谷歌blog.com/2020/03/fast-and-easy-infinitely-wide-networks.html
GitHub地址：https://github.com/谷歌/neural-tangents
Colab地址：https://colab.research.谷歌.com/github/谷歌/neural-tangents/blob/master/notebooks/neural_tangents_cookbook.ipynb
【编辑引荐】
半小时入门Rust，这是一篇Rust代码风暴
开发人员如何优雅地与老板谈工资？
上海大学副教授“变身”萝莉，开发自制软件二次元上网课
微软保持继续开发 Visual Basic
代码变油画，精细到毛发，前端小姐姐只用HTML+CSS，让美术也惊叹
【责任编辑：张燕妮 TEL：（010）68476606】
分享:
大家都在看 猜你喜欢
(责任编辑：admin)
