【天天聚看点】胡思乱想：人工智能获取信息的能力会受到限制
2023-02-15 08:06:01
(资料图片仅供参考)
人工智能可能永远无法实时地全面地获取人类活动的信息，即获取信息能力会收到限制。我下面会就这个猜想进行说明。
这些年物联网和智能城市已经有了长足的发展，自然界（温度、降水量、PM2.5等）、城市中（基础设施、车流、房子里的智能电器等）和各种工农业设施中（智能工厂、数据中心、蔬菜大棚等）的所有监测数据都可以实时地自动地汇聚到各自的数据库里，只要有权限，就可以直接调用，拿去分析和处理。但是目前有关动物和人类的数据，就无法实时地全面地获取了。
动物的问题，如果将来技术上能满足要求，那么还好解决。可是如果要实时地全面地监控人类，那么就要不分公共和私人场合地实时地无死角地监控所有人的所有行为和语言（甚至是面部表情、心跳血压等），这涉及到个人隐私、以及个人和政府关系的伦理问题。其实很多的社会实验，即使只是短暂地在实验场合中对人类进行实验和数据搜集，都面临者伦理问题，更遑论实时地全面地监控人类了。
现在的大数据和用户画像导致的信息茧房问题已经导致了大众的担忧，请问如何消除政府和大公司滥用实时的全面的数据来彻底操控人类的担忧呢？或许可以让人工智能系统彻底地去中心化以消除政府和大企业的干扰，同时网络安全问题也能保证以消除黑客的干扰，那么还有一个问题，如果未来人工智能进化到有自主意识能操纵人类了，怎么办？
再或许在编写程序之初，专家就已经给人工智能系统设定了绝对无法修改的底层规则，但是就像《流浪地球2》中的MOSS一样，它可能在不抵触底层规则（比如，绝不能伤害人类）的情况下却做出了人类绝对不能认同的决策，怎么办？如果运气好，人类思维还没有被接入数据库的话，可能人类还能启动“面壁计划”吧。
综上，实时地全面地监控人类，在安全性上不是那么容易保证的，在伦理上不是那么容易取得社会共识的。实时地全面地监控人类的目标，可能永远只能实现一部分，这就是人工智能获取信息能力收到的限制。
基于这个猜想，即使未来人工智能发展到几乎完全接管整个社会的管理工作，人类和社会的相关研究的数据分析工作可能会在不连接到“主脑”的局域网进行。