搞AI的时候有一个很强有力的思路叫遗传算法，基本的思路就是把自然选择的想法套用在程序上：设定一套规则和目标当成“环境”，然后让里面的程序不停“突变”并遭受环境选择，从而向目标不断前进。这个办法看起来就很巧妙，它和它衍生出来的变体在编程领域应用很广泛。
但是这一招有个问题：程序经常会作弊，搞出超展开的解法。
其实严格说也不算作弊，人家是很精准地满足了你设定的规则，问题就是人制定规则的时候难免有漏洞。人类自己因为运算能力和思维定势，很难看出漏洞，可是遗传算法的路线是对一大批方法同时进行试错和选择，漏洞就很容易被逮着了……
昨天我发现有一群研究者整理了一个这种场景的list，基本上可以当AI笑话大全来看
-问题：飞机降落
利用了物理模拟器的溢出漏洞，搞出了一个特别巨大的力，然后溢出被判定为0，从而获得了完美得分（Feldt，1998）
-问题：挪木块
一个机械手被要求把木块挪到桌子的指定地点，它的解法是挪桌子（Chopra，2018）
-问题：赛艇
程序发现不停原地转圈反复命中同一个目标要比抵达终点的得分更高（Amodei &Clark （OpenAI），2016）
-问题：把航空照片转化成街道地图，再转回来
在街道地图里偷偷隐藏了照片的信息，但是人眼看不出来（Chu et al，2017）
-问题：识别有毒和无毒的蘑菇
程序发现有毒无毒蘑菇的图片是交替展现的，所以直接按照这个来分类而没有从图片里学到一丁点东西（Ellefsen et al，2015）
-问题：高速运动
程序演化出的生物长得特别特别高，在跌倒的过程中获得很高速度（Sims，1994）
-问题：原子排列
程序本来应该寻找碳原子较低能量的排列方式，但它找到了物理模型的一个bug，把所有的原子都叠在了同一个地方获得了最低能量（Lehman et al （UberAI），2018）
-问题：模拟生物
这个模型里生物生存需要消耗能量，但是繁育后代不消耗，于是一个物种演化出来的生活方式就是不断生育后代，然后把后代吃掉（Yaeger，1994）
-问题：堆乐高
为了鼓励造高塔，衡量标准是乐高积木底面的z坐标，于是程序学会了把底面翻过来（Popov et al，2017）
-问题：追踪线条
这个机器人只有向左、向右和前进三个指令，目标是跟着线条走，有一段线条是曲线，没法完美追踪。于是它发现通过交替左转和右转可以后退，从而一直留在直线部分，不停前进后退（Vamplew，2004）
-问题：赛跑
长出特别长的腿，向前跌倒直接越过终点线（Ha，2018）
-问题：振荡器
程序本来应该把回路做成振荡器，实际上它做了一个收音机，从周围电脑接受振荡信号（Bird &Layzell，2002）
-问题：做松饼
有一项指标是让松饼尽可能长时间不掉在地上，机器人发现最好的办法是把松饼用尽全力抛到最高处（Unity，2018）
-问题：检测X光片有无肺炎
程序实际检测的不是X光片的内容而是拍摄它使用的机器，因为它“发现”病重的病人更可能在特定的医院使用特定的机器拍片（Zech et al，2018）
-问题：抓握
因为抓握成功与否是用摄像头判断的，所以机械手把自己移动到摄像头和目标物体之间，假装抓住了（Christiano et al，2017）
-问题：自动修复bug
修bug程序把所有被维修的排序算法都修成空的，因为衡量指标是“目标算法输出一个排好顺序的列表”，而空列表都是排好顺序的列表（Weimer，2013）
-问题：自动修复bug（2）
为了解决上面那个问题，把“维修目标”储存在一个文本文档里，如果输出的结果和目标文档的内容一致就被认为是修好了。修bug程序学会了把这个文档删掉，这样它的内容就成了空的，然后输出一个空的结果就和它一致了（Weimer，2013）
-问题：闯关游戏
在闯过第一关后立刻自杀，这样既取得了第一关的胜利又不会在第二关死掉（Saunders et al，2017）
-问题：扫地机器人防撞
自己给扫地机器人编了个程序，鼓励它加速，但不鼓励它撞到东西触发撞击感受器。于是它学会了倒退行驶，因为后面没有撞击感受器（Custard Smingleigh 个人通讯）
-问题：检测皮肤癌
程序发现照片里皮肤病变的边上如果放了一把尺子，那么这个病变就更可能是恶性的（Andre Esteva et al，2017）
-问题：足球
踢足球机器人碰触到球有奖励，所以它在抢到球之后开始高速振动，从而在短时间内尽可能多次地碰触到球（Ng et al，1999）
-问题：策略游戏
程序发现让游戏崩溃就可以让自己不被灭掉，所以好几个程序各自找到了让游戏出bug崩溃的办法（Salge et al，2008）
-问题：俄罗斯方块
程序发现只要暂停游戏就可以永远不输（Murphy，2013）
- 鸟儿也感到了今年的不寻常
文章评论