由于真正的人工智能技术还未成熟，人类对自主智慧的风险预想大多集中在较可情境想象的“强人工智能”如拥有高度智能的机器人上;随着物联网/AI世代来临，“弱人工智能”已先渗入人类生活，这些由具自主思考之机器所产生的不确定性也已开始在人类社会中发酵，我们不得不更早审视所有可能影响的人工智能范畴与其所产生的风险。
资源分配极度不均:人工智能已经开始改变我们的工作型态，2016年全球经济论坛预测，人工智能与机器学习将于未来几年造成约700万个工作机会消失，并同时创造出200万个新创的工作机会;英国物理学家霍金也认为，人工智能的崛起将可能重创中产阶级而留下少数特定的工作，导致严重的经济失衡。这些推论都认为人类的“既有专业”将轻易地被机器快速复制，造成经济阶层结构性的调整并形成技术性的失业，生产效益与利润会被集中掌握在少数拥有高度人工智能资源的群体手中，因此贫富差异极剧，社会高度暴露在资源分配不均的风险环境中。
信息垄断:人类思考无法跳脱自身之经验范畴外，机器也是如此。人工智能若没了数据，即便搭配再优异的运算硬件与演算方法仍无法在目标的领域中发挥功效。未来在相关软硬件技术到位的情况下，“足够且有用(海量且标记过)的数据”将是人工智能产业建立利基的最大关键之一，各领域领先者会大量的对关键数据建立屏障来产生区隔，而使一般用户取得数据的成本愈来愈高，造成“智者愈智、愚者愈愚”的信息垄断风险。
未来无隐私:麦肯锡预估2025年将会有1兆种类的对象相互联网，这表示在物联网趋势下，未来我们的周遭可能全是信息收集器，而在人工智能技术的涵盖下，这些信息收集器可能都具有自主思考的功能并自行判断所需的时机来开启传感器。无论未来隐私权的防治可做到何种地步，人工智能与万物联网的综效一开始就将隐私权相关风险推进到一个很高的级数。
社会疏离:在网络时代盛行时，依赖网络虚拟世界来满足社会互动的人数有显著的提升，不同于真实世界，网络虚拟世界的友善让人与人的交流充满了想象与机会，网络虚拟的人格似乎也变得更有勇气与创造力;但这毕竟不是真实世界，会让对它极度依赖的群体产生跟真实世界间很大的落差，进而造成社会疏离的风险。而未来到了人工智能时代，这个虚拟的世界得到了延伸，各种虚拟现实与人工智能技术让这虚拟世界更为真实，进而催生出更多上述的依赖群聚，造成真实社会间人际关系互动更疏离的现象。
无自主权:在智慧科技时代人类所做的各种决定都是自主的吗? 过滤气泡现象或许已先给了警讯:人工智能已经进化到可以判断出日常生活中我们常看且想看的信息，进而筛选出它认为对人们有用的内容。机器投其所好的做法固然帮忙省了很多时间，但也让我们得到的讯息越来越趋单一化，目前这现象普遍存在网络如搜索引擎和社团群组里。在未来AI对象更普及的世界中，这种人类过度依赖且被单一化价值(或者是目标化价值)的现象会往更恶化的方向升级，导致人类在各领域无自主思考的风险，这某种程度上也算是人类心智上的灭亡危机。
作者：王宇豪、趋势研析与前瞻规划团队
（转载）
