前谷歌研究人员创立 Sakana AI,专注于为基础模型创建新架构

2023-08-20 15:52:33 来源:IT之家


(资料图片)

IT之家 8 月 20 日消息,据路透社报道,两位著名的前谷歌研究人员 David Ha 和 Llion Jones 启动一项研究总部位于东京的新人工智能公司,创立了 Sakana AI。

IT之家从报道中获悉,Jones 是 Google 2017 年研究论文《Attention Is All You Need》的第五位作者,该论文介绍了“transformer”深度学习架构,该架构后来成为聊天机器人 ChatGPT 和当前由生成式 AI 驱动的产品开发竞赛的基础。Ha 此前曾担任 Stability AI 的研究主管和 Google Brain 研究员。

Jones 表示,Sakana AI 将专注于为基础模型创建新架构。“我们的方法不是构建一个吸收所有数据的巨大模型,而是使用大量较小的模型,每个模型都有自己独特的优势和较小的数据集,并让这些模型相互通信和协作来解决问题。”Ha 解释道。

两位联合创始人表示,Sakana 这个名字源自日语单词“さかな”(sa-ka-na),意为“鱼”,旨在唤起“一群鱼聚集在一起,通过简单的规则形成一个连贯的实体”的想法。

标签:
x 广告
x 广告

Copyright ©  2015-2022 海峡公益网版权所有  备案号:皖ICP备2022009963号-10   联系邮箱:396 029 142 @qq.com