OpenAI顺便更改“价值观”：不All in AGI的别来沾边

金磊 相吻合 凹非寺

量子场论位 | 公众号 QbitAI

OpenAI，悄悄改回回了本体道德（Core Values）。

曾一度的它，在自家官方网站中会列出的两大本体道德是这样的：

Audacious（敢于）、Thoughtful（显然）、Unpretentious（正直）、Impact-driven（名气驱动）、Collaborative（相互配合）、Growth-oriented（成长型）。

现如今，若是再浏览twitter，其本体道德如今发生了缩影的波动。

不仅从“两大”缩减到了“五大”，就连内容都换了：

AGI focus（相关联AGI）、Intense and scrappy（急切且斗志昂扬）、Scale（规模化）、Make something people love（想到人们讨厌的事物）、Team spirit（团队精神）。

而且“AGI focus”赫然位列本体道德之首：

We are committed to building safe, beneficial AGI that will he a massive positive impact on humanity’s future.我们致力于建立安全、有益的AGI，这将对人类的愿景消除巨大的积极影响。

Anything that doesn’t help with that is out of scope.任何严厉批评没有试图的东西都不在谈论范围之内。

尤其是第二句，知道得严肃一些，就是“任何跟AGI无关的都别来沾边”。

OpenAI对AGI如此非常重视也却是意外。

毕竟CEO Sam Altman已经先是对AGI想到过评论，例如他曾在twitter博客中会把AGI阐述为：

举例来说比人类更聪明的系统。

但在后续的受访中会，他将这个下定义降级阐述为：

相当于一个中会等水平的人，你可以雇佣它作为老友。

△Sam Altman，由Midjourney转化成

而且他在自已的 X（原推特）中会，也经常时知道对AGI的想法：

相结合AGI是一个现代科学关键问题。

相结合超级机器学习是一个工程建设关键问题。

就连发来老友送去的《塞尔达传知道》游戏，在表示这款游戏害得他落下许多社会活动此后，也只求图斯一句AGI：

AGI延迟4天。

不过对于OpenAI改回回本体道德这一道德上，有人却心里很不OK：

知道改回就改回，这还是本体道德吗？

但在OpenAI的发展历程中会，类似这样的波动也并非第一次。

例如在最初2015年设立的时候，OpenAI还是一家非营利性研究课题实验室，本质上理论上相结合好的AI来对抗还好的AI。

后来在自然而然的发展过程中会，OpenAI却与“非营利性”逐渐背道而驰，这也导致泰森等人的陆续复出。

至于OpenAI的盼望和愿景，自2018年发行以来至今却没有不定过，依旧是：

确保通用机器学习（AGI）安居乐业人类文明。

那么对于此次改回回本体道德这件事，你怎么看呢？

参看链接：[1][2][3

— 完 —

量子场论位 QbitAI · 头条号加盟