接着在玩（44） 无解？

屈松（松哥）

Focused on the future rather than the past.

无解？

最近看到一个报道 ，说在某地有这么一个人，专门靠“创作”文章赚钱。其文章都是用AI生成的，投到像头条号之类的平台供人阅读。平台会根据阅读量和读者互动量给他结算收益。平均而言，他一篇文章能挣到1.43元。

这个人比较勤奋，每天运营着842个账号，发表4000到7000篇文章，日收入就超过了一万元。而成本才花去一分钱和几分钟的时间，AI就能生成七篇文章。

后来被警方关注，因为他的文章在造（编）谣。比如有的文章说某市发生了一起大爆炸，死伤上百人。他让AI生成这种内容的文章，只是想更容易更多的吸引眼球而已。

现在AI写作，只需要人输入几个关键词，以及你平时已生成文稿的习惯、思维、内容、文风等，文章舜间就搞定，初初打磨一下，就可在平台挂出。AI又根据流量、评论等，在反馈中学习，不断改善，每时每刻进步，文稿的可读性增强，加大吸引眼球的力度。

假如有一天，AI更聪明一点，自己判断什么关键词最有吸引力，然后自己生成内容自己发布呢？再进一步，如果平台主动全都让AI写新闻呢？

有专家还设想了这样一个场景。一个AI编了一个假新闻，说某地发生了一起灾难性事件，发表出来了；这个假新闻在被AI审查员删除之前，已经被其他几个AI看到；其中一个AI根据这个消息对金融市场做出一个判断，并且采取了某种操作；它的操作又被其他AI推波助澜。结果就是，人类还什么都没反应过来，金融市场已经崩溃了。

这个局面的特别之处在于，没有任何一个人或一家公司，有制造混乱的意图，完全（一切）都是AI的操作（生成）。

面对这样的事情，我们应该怎么应对和管理呢？似乎目前还缺少相关的立法和监管制度。又或者我们从根本上就无法控制AI。

其实，在生成式AI出现以前，有一个不真实的系列新闻，已经造成了很大的一个悲剧。

缅甸这个国家90%的人口是佛教徒，还有一部分穆斯林。其中一个穆斯林社群，叫罗兴亚人，跟佛教徒爆发了连续的暴力冲突。在2016到2017年间，一个叫做“若开罗兴亚救世军”的小型伊斯兰组织，发起了恐怖袭击，杀害和绑架了几十名非穆斯林平民。

这件事引发了佛教人群和缅甸军政府激烈的报复，基本上是对罗兴亚人搞了一次种族清洗：成千上万人被杀；几万人被强奸虐待；几十万人被赶出了缅甸成为难民。

这个报复力度绝对是太过了，所以国际社会都在谴责缅甸政府。而被一同谴责的，还有Facebook。原来当时数百万缅甸人都把Facebook作为主要的新闻来源，正是因为他们在Facebook上看到各种描写罗兴亚人暴行的视频，才激发了愤怒之情 —— 而那些视频，很多都是假新闻。有的缅甸人可能本来只想听首歌，却被Facebook推荐了假新闻，才想要去报复。

其实，Facebook公司自始自终没有明确的恶意，更没想要煽动仇恨。Facebook在缅甸有1800万用户，唯一追求的目标是让用户参与度最大化……而算法自动发现，那些能带来愤怒情绪的内容，最能吸引用户参与，于是就自动推荐了更多这类内容，仅此而已。

未来，人类将如何面对这种局面？人类做好了迎接这些新技术的准备吗？