加入收藏 | 设为首页 | 会员中心 | 我要投稿 阳江站长网 (https://www.0662zz.cn/)- 办公协同、云通信、区块链、物联平台、高性能计算!
当前位置: 首页 > 站长资讯 > 传媒 > 正文

DeepMind发布神经网络、强化学习库

发布时间:2021-03-02 14:37:34 所属栏目:传媒 来源:互联网
导读:核心工具:模块抽象hk.Module,和一个简单的函数转换hk.transform。 hk.Module是Python对象,包含对其自身参数、其他模块和对用户输入应用函数方法的引用。 hk.transform允许完全访问JAX的纯函数转换。 其实,在JAX中有许多神经网络库,那么Haiku有什么特别

核心工具:模块抽象hk.Module,和一个简单的函数转换hk.transform。

hk.Module是Python对象,包含对其自身参数、其他模块和对用户输入应用函数方法的引用。

hk.transform允许完全访问JAX的纯函数转换。

其实,在JAX中有许多神经网络库,那么Haiku有什么特别之处呢?有5点。

1、Haiku已经由DeepMind的研究人员进行了大规模测试

DeepMind相对容易地在Haiku和JAX中复制了许多实验。其中包括图像和语言处理的大规模结果、生成模型和强化学习。

2、Haiku是一个库,而不是一个框架

它的设计是为了简化一些具体的事情,包括管理模型参数和其他模型状态。可以与其他库一起编写,并与JAX的其他部分一起工作。

3、Haiku并不是另起炉灶

它建立在Sonnet的编程模型和API之上,Sonnet是DeepMind几乎普遍采用的神经网络库。它保留了Sonnet用于状态管理的基于模块的编程模型,同时保留了对JAX函数转换的访问。

4、过渡到Haiku是比较容易的

通过精心的设计,从TensorFlow和Sonnet,过渡到JAX和Haiku是比较容易的。除了新的函数(如hk.transform),Haiku的目的是Sonnet 2的API。

5、Haiku简化了JAX

它提供了一个处理随机数的简单模型。在转换后的函数中,hk.next_rng_key()返回一个唯一的rng键。

那么,该如何安装Haiku呢?

(编辑:阳江站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读