主题：【讨论】人工智能时代是否会到来 -- 从katago被针对始 -- bash99
共:💬6 🌺10
家园 【讨论】人工智能时代是否会到来 -- 从katago被针对始 刚看到有河友感叹国内时代变化太快，20年进工业时代，zuij 20年又转入了信息化时代，未来会不会10年进入智能时代。
大家都知道围棋人工智能这几年已经远远超越了人类。谷歌的AlphaGo之后，市面上流行的katago、绝艺、星阵都是参考Deepmind的论文实现的。
最近AI界出了一篇论文，https://arxiv.org/abs/2211.00241，训练了一个针对性的策略能够比较稳定的击败2048步计算量的katago（胜率77%），这个计算量的katago已经是吊打一切职业棋手了。
如下图
这个局面可以稳定诱发katago bug，一选居然是白圆圈子左两格上一格粘上。而此局面随便一个业余一段的小朋友都能10秒得出正解。
柯洁拿绝艺的专业版计算60秒，居然一选也犯了同样的错误。绝艺应该和katago独立训练的（绝艺很早就达到了比katago强的水平，而此时katago还是爱好者一起贡献算力算出更强网络的状态）。
也就是这个bug可能是根植于AlphaZero的训练方式。
我一直觉得，智能时代如果在全球共产主义之前到来，我们可能进入一个真正的赛博朋克社会，资本和人工智能交织着控制人类社会，而抵抗者们依赖各种人工智能的对抗式人工智能苟活。