转自 头部科技

近日，谷歌计算机科学家Quoc Le和他的同事们开发了一个名为AutoML-Zero的程序，这款程序引用了达尔文进化论“适者生存”的概念，可以在没有人工输入的情况下实现AI程序一代与下一代之间的自我改善和进化。

零人工输入的自动化机器学习程序：AutoML-Zero

相关论文发表在预印平台arXiv中，论文标题为《AutoML-Zero：从零开始发展机器学习算法》

AutoML-Zero在短短几天内就复制了数十年的AI研究成果，有设计人员认为，有一天它可以超越现有的研究，发现人工智能的新方法。

建立AI算法往往需要较长的时间。以神经网络（一种用于翻译语言和驾驶汽车的常见机器学习类型）为例，为了使更小的神经元子电路执行特定的任务——例如识别路标，研究人员往往需要花费数月的时间研究如何将它们连接起来以便无缝地协同工作。

近年来，科学家们通过自动化一些步骤加快了这一进程，但这些程序仍然依赖于将人类设计的现成电路缝合在一起，这意味着程序输出仍然受到工程师的想象力和现有偏见的限制。

因此， Quoc Le和他的同事们开发了AutoML-Zero程序，这个程序可以仅仅使用高中生知道的基本数学概念开发出无需人工输入的AI程序。他说：“我们的最终目标是开发出连研究人员都找不到的新型机器学习概念。”

AutoML-Zero程序使用宽松的演化近似（a loose approximation of evolution）来发现算法。它首先通过随机组合数学运算来创建100个候选算法。然后在一个简单的任务上测试他们，比如一个图像识别问题，在这个问题上，它必须决定一幅画上的图像是猫还是卡车。

在每个循环中，程序将算法的性能与手工设计的算法进行比较。通过随机替换、编辑或删除一些代码来“突变”顶级算法的副本，从而创建最佳算法的细微变化。这些“新生儿”被添加到种群中，而较老的项目被淘汰，这个循环重复进行。

该系统可一次创建成千上万个这样的种群，这使其每秒可以浏览成千上万的算法，直到找到一个好的解决方案。该程序还使用一些技巧来加快搜索速度，例如偶尔在种群之间交换算法以防止任何进化死胡同的出现，并自动清除重复的算法。

研究人员指出，这种方法可能会偶然发现一些经典的机器学习技术，包括神经网络。Le承认，与当今最先进的算法相比，这些解决方案很简单，但这项工作是原理性的证明，未来可以将其扩展以创建更复杂的AI。

埃因霍温科技大学的计算机科学家Joaquin Vanschoren仍然认为，这种方法要与最先进的技术相抗衡还需要一段时间。他说，有一件事可以改进这个程序，那就是不要让它从头开始，而是用人类已经发现的一些技术来培养它。我们可以用机器学习的概念来启动这个泵。”

这其实也是Le计划要做的事情。他补充说，专注于更小的问题而不是整个算法也有希望。他的团队于4月6日在arXiv上发表了另一篇论文《不断发展的标准化激活层》，该论文使用了类似的方法重新设计了许多神经网络中流行的现成组件。

但Le认为，增加数据库中的数学运算数量，并为该程序投入更多的计算资源，可能会发现全新的AI能力。他说：“这项技术将用于发现一些靠人力需要很长时间才能发现的真正基础性的东西。”

得克萨斯大学奥斯汀分校计算机科学家里斯托·米库莱宁(Risto Miikkulainen)说，“当大多数人还在蹒跚学步时，他们已经向未知领域迈出了一大步，这是一篇可以启动未来大量研究的论文。”