然而,更令人担忧的是人工智能(AI)的潜在风险,比如恶意培育杀人机器人,一些科学家担心这可能会导致人类灭绝。还有这些智能生命的诞生是不太受到社会广泛欢迎的,很多人认为可能会对社会产生破坏性影响。例如,最先进的自动机器翻译系统是性别歧视,最先进的智能识别系统将黑人识别为大猩猩。
2019年10月11日,在最新的谷歌翻译系统中,如输入:the women started the meeting。他们工作得又快又有效率。让女人去la reunion。这对企业是没有好处的。表面上看,这一切都意味着女性开始开会,而且她们工作效率很高。但是Ils在英文语法中代表male he,所以翻译出来的语法是不正确的,这说明自动化系统将人工智能(AI)的male he设置为默认值。出现这些问题是因为人工智能(AI)使用类似于神经网络的数学模型来获取数据。
如果输入到智能系统本身的数据集是有偏差的,那么智能系统将在输出中显示出偏差。这可能使妇女、少数民族或老年人等群体边缘化,从而加剧现有的社会失衡。当然,这只是人工智能(AI)暴露出的问题的一个方面,它可能更严重问题就在前方。一些专家表示,人工智能正走向一条更黑暗的道路。