1、可持续的算力问题（算力荒）

八十年代,IBM推出的AS400商用服务器，以其较高的稳定性，被多数银行应用于核心业务系统；

HP也推出过superdome系列主机，号称NonStop。

人工智能后台是一个个的服务器集群，是否可以永不停机？是否可以持续保持计算效率呢？并且，机房、数据中心可以无限制的建设吗？

2、人工智能的边界问题（三观）

我们都说人要有正确的三观（世界观、人生观、价值观）,那么人工智能不要吗？

分析问题时，需要考虑问题的是否有不良价值？

哪些行业可以发展人工智能？哪些行业需要有监管的发展？

等等人工智能治理的问题。

3、算法与人的主权问题

各行各业，人都是应是第一责任人；

人是有情感的，有些事不能一刀切，需要酌情依据”上下文“处理。

比如拿个健康大模型去挑战医生的主权？

拿个答题大模型去挑战专家教授的主权？

当然，不是说大模型一定不能挑战人的主权，需要考虑”上下文“的。

4、训练与推理的边界问题（智商边界）

精典神话小说《封神演义》里有一个人物，雷震子；在雷雨中出生，天雷将星转世，为”恶魔“形象；但最终被”训练“成小说中惩恶扬善、雷厉风行的正义形象。

 从此典故中可以看出，训练的重要性。

训练可以把人工智能训练成我们希望的样子；

推理可以提升人工智能的智商。

那么问题来了，训练成多高的智商？高智商的人工智能可控吗？等等。

5、人工智能赋能具身智能问题

人工智能目前多为”软AI“，且以AIGC为主，写写文章、做个图、搞个视频、回答个问题。

如果有一天，人工智能将智慧与机器人合体，进入到了物理世界，会将现今的社会改变成什么样？

人类社会会不会进入冷冰冰的、被机器控制的时代？

人工智能赋能具身智能如何安全、可控的进入物理世界，值得思考！

      6、脑机交互问题（克隆人类）

人作为一个生物体，认知能力是有先天不足的。

是否可以实现脑机交互，提升人类认知的能力呢？

是否可以通过脑机交互，克隆一个另一个”你“，用来分析一下”你“的缺陷，预测一下”你“的未来呢？

7、人工智能与人类社会的和谐发展问题

人工智能改变了很多行业，比如教育和就业；

人类社会的发展依然需要以人为主体；并且人是群体生物，人要与人、与自然共生存。人工智能作为工具、能力的辅助性是值得肯定的。

人与人工智能如何互融共生，人的认知可否与人工智能对齐？同样值得思考！

8、人工智能对人类生命是否有颠覆性问题

人工智能加速了化学、医学、材料学等科研领域的验证过程；

人类的寿命，以及面对的恶性疾病一直困扰着人类；

人工智能是否会颠覆人类对自身这个生物体的认知呢？

9、数据墙问题

人工智能依赖于不断的训练与推理优化才可提升智慧能力；

作为重要的训练数据，已经开始出现”数据墙“的问题。

而合成数据的也未必是可靠的、逻辑未必是合理的。

如何解决数据墙，提供高质量的数据，不断提升人工智能的能力，目前已经开始出问题。

如果人工智能四肢发达，头脑简单，又有何用呢？

10、人工智能的自我进化问题

人工智能知道自己是人吗？

人工智能知道对面是人吗？

人工智能大模型会不会知道另一个大模型的存在？

等等奇怪的问题，其实就是人工智能会自我学习，自我进化吗？

要不要将人工智能训练成能自我进化 的呢？

欢迎关注，评论区一起讨论！